"__""Мы были очень осторожны и тщательно занимались контекст инженирингом, но агент все еще периодически выбирает не правильные тулы или галлюцинирует в числах или датах, хотя дату мы прямо в промп динамически пишем :(""__ Смотрим под капот – код вроде бы вполне чистый... но проморгавшись видим в сумме 32 тула от подключенных mcp серверов + __разные__ эвристически добавляемые присадки в промпт, где некоторые размером почти с газетный лист. __– ""А как вы подходили к контекст инженерингу? Чем руководствались?"", – ""Ну, мы на выступлениях услышали, что надо давать модели как можно больше контекста для выполнения задачи!"" – ""А как определяли, что агенту реально нужно?""__ ... ¯\_(ツ)_/¯ Контекстная инженерия - это не фаршировка утки яблоками. Без четкого представления о структуре и ответственности агента, и об интересах его пользователей, контекст легко превращается в помойку. А это прямой путь к галлюцинациям. Контекстная инженерия - это в первую очередь про ограничение контекста. Определение главной роли/ответственностей агента. И уже только потом про компрессию, перекладывание файликов, выбора тулов или любые прочие прикладные реализации. Когда проводите такое моделирование, ответы на вопрос ""__Что нужно в контексте на самом деле?""__ возникают почти сами собой. И сделать это проще чем кажется: поставьте себя (или эксперта в домене) ""на место агента"" и ответьте: какие документы, инструменты, знания и __иные ресурсы__ мне нужны для выполнения задач? Какие действия и в каком порядке я буду выполнять? Многие AI-системы работали бы стабильнее и успешнее, если бы такой подход применяли с самого начала. @m0n0x41d"
"""Мы были очень осторожны и тщательно занимались контекст инженирингом, но…
Из этого канала
- #426"Так-так-так... Топ-менеджмент все еще в восторге, а команды все так же в…
"Так-так-так... Топ-менеджмент все еще в восторге, а команды все так же в окопах. Wharton School изучили последние ~три года внедрений AI в бэкенд системы…
- #427"Чат-бот аптеки упорно палил бюджет Коллега из е-комм аутсорса делал…
"`Чат-бот аптеки упорно палил бюджет` Коллега из е-комм аутсорса делал AI-поисковик для португальской аптеки: - ""Какое лекарство от мигрени?"" - ""Чем лечить…
- #429"#aionbackend Проблема: векторные базы ищут по косинусной близости или гибридно…
"#aionbackend Проблема: векторные базы ищут по косинусной близости или гибридно – и то и другое связей между данными не понимает.
- #423"#aionbackend Кто-бы как не любил (или наоборот - бурно обожал Питон), но он…
"#aionbackend Кто-бы как не любил (или наоборот - бурно обожал Питон), но он пока остается, если не самым, то одним из самых удобных языков для быстрой…
- #422"Вы конечно можете закидать меня дизлайками, но правды это не поменяет: AI не…
"Вы конечно можете закидать меня дизлайками, но правды это не поменяет: AI не принес никаких кардинально новых проблем/задач в программную инженерию.