"Ваши AI агенты все еще застревает в циклах? Тогда я иду к вам! 💃 Меня вчера все таки выдернули на короткую консультацию (очень не хотелось работать в выходные.) по проблеме стараой, доброй и прозаичной – ""нам вообще не понятно почему оно периодически проваливается в бесконечный цикл tool-call вызовов."" При этом там одна *большая модель от гугла.* В проекте использовался LlamaIndex с примерами прямо из документации :) На удивление функциональности у агента мало, а в бесконечный цикл он провалился из-за противоречивого типа (ну точнее структуры) данных в ответах одной из функций (ну и промпт там был явно со странной структурой.) Разобрались ровно за один часовой звонок. И вот буквально 10 минут назад мне отписались что ""утром переписали, весь день тестируем и ни одного провала в циклы!"" Решили всё с помощью ~~серебрянной-пули~~ Schema Guided Reasoning – по каноничному примеру с выбором нужного тула (см тут.) Никаких promp-издевательств. Никаких бесконечных циклов. ¯\_(ツ)_/¯ В довесок приятно было услышать что ребята послушали мой ""совет на закуску"" и попробовали все таки модели подешевле – всё работает хо-ро-шо! Вот она прелесть SGR - структурируешь и свое рассуждение и рассуждения LLM, решение работает если не одинаково, то как минимум предсказуемо на разных моделях. Ну и денег можно сильно сэкономить :) @m0n0x41d"
"Ваши AI агенты все еще застревает в циклах? Тогда я иду к вам! 💃 Меня вчера…
Из этого канала
- #422"Вы конечно можете закидать меня дизлайками, но правды это не поменяет: AI не…
"Вы конечно можете закидать меня дизлайками, но правды это не поменяет: AI не принес никаких кардинально новых проблем/задач в программную инженерию.
- #423"#aionbackend Кто-бы как не любил (или наоборот - бурно обожал Питон), но он…
"#aionbackend Кто-бы как не любил (или наоборот - бурно обожал Питон), но он пока остается, если не самым, то одним из самых удобных языков для быстрой…
- #425"""Мы были очень осторожны и тщательно занимались контекст инженирингом, но…
"""Мы были очень осторожны и тщательно занимались контекст инженирингом, но агент все еще периодически выбирает не правильные тулы или галлюцинирует в числах…
- #420"В вашей команде слышно такую фразу – ""Если ChatGPT может, значит и мы…
"В вашей команде слышно такую фразу – ""Если ChatGPT может, значит и мы сможем!""? Разработчики борятся с непредсказуемостью AI систем, и в это же самое время…
- #418дешевый но хороший OCR документов. Не так давно мне довелось иметь честь…
дешевый но хороший OCR документов. Не так давно мне довелось иметь честь недолго участвовать в поддержке OCR проекта, ядром которого была такая ~~корявенькая~~…