В Gemini 2.5 завезли нормальные Structured Outputs! Поддержку для JSON Schema добавили в Google во все поддерживаемые модели Gemini (в старые версии - с ограничениями) Теперь Pydantic и Zod должны работать из коробки. Они добавили поддержку самых часто запрашиваемых клиентами фич: (1) AnyOf / Union - используется для раутинга в SGR (2) $ref for recursive schemas - теперь можно делать нормальную вложенность каскадов (3) max/min для числовых constraints А заодно они, наконец, починили порядок свойств. Теперь LLM будет заполнять схему в том порядке, в котором поля прописаны __API now preserves the same order as the ordering of keys in the schema__ Причем прямо в статье у них приведен пример модерации почты с раутингом и каскадом. Ну и в целом в Google пишут, что Structured Outputs - это один из самых частых инструментов, который используют разработчики при создании реальных AI приложений __Structured Outputs is one of the most frequently used tools by developers building real-world AI applications.__ Вот пара цитат от их клиентов We are building AI agents for the agentic web, and our main goal is to build trust in AI agents for handling business operations. Being able to define precise schemas and trust the output is key to our production systems. Structured Outputs have reduced API calls by up to 6x in some workflows and completely eliminated the broken JSON responses that used to require extra validation checks. и For us, Structured Outputs are all about reliability, speed and cost efficiency. By forcing the LLM to provide a predictable, machine-readable format, we can build more robust features faster, reduce errors, and use cheaper models for tasks that would otherwise require more expensive ones. В общем, все молодцы. Новость тут. Спасибо Тимуру, который первым поделился радостными новостями в чате канала. Кстати, у него есть и свой канал - The AI Architect (@the_ai_architect) Ваш, @llm_under_hood 🤗 PS: А еще в документации про JSON Schema теперь упоминается, что заполнение поля description в схеме - критично важно для управления работой модели Use the description field in your schema to provide clear instructions to the model about what each property represents. This is crucial for guiding the model's output. Поэтому паттерны работы с Schema Guided Reasoning теперь можно смело пытаться переносить и на Google Gemini 2.5.
В Gemini 2.5 завезли нормальные Structured Outputs! Поддержку для JSON Schema…
Из этого канала
- #687Видео (6 мин) работы чатбота с SGR на базе локальной Qwen-30b-a3b Про…
Видео (6 мин) работы чатбота с SGR на базе локальной Qwen-30b-a3b Про Schema-Guided Reasoning говорили и писали уже много.
- #688"Update насчет соревнования ERC3. Напомню, что ERC3 - это дружеское…
"Update насчет соревнования ERC3. Напомню, что ERC3 - это дружеское соревнование по написанию агентов, которое состоится в конце ноября.
- #689"Кейс с LLM под капотом - поиск видео для монтажа рекламы Давайте расскажу вам…
"Кейс с LLM под капотом - поиск видео для монтажа рекламы Давайте расскажу вам еще про один кейс достаточно необычного использования LLM в продуктовых целях.
- #685"Я сегодня закончил первый прототип платформы для ERC3: Enterprise AI Agents.…
"Я сегодня закончил первый прототип платформы для ERC3: Enterprise AI Agents. Получается довольно симпатично, сейчас все расскажу.
- #684"Вставляет ли OpenAI ""втихую"" JSON схему в каждый запрос со Structured…
"Вставляет ли OpenAI ""втихую"" JSON схему в каждый запрос со Structured Outputs? Принципиально важно это для двух вещей: (1) инженерного подхода к построению…