Про память человеческую и ~~рыбью~~ AI агентов Некоторые считают, что память - это единственное, что нас останавливает от создания AGI. Я обратил внимание, как похорошел chatGPT, когда в него добавили память и поэтому решил погрузиться глубже в тему. Еще в сентябре прошлого года я столкнулся с mem0, потом с memGPT (letta), но только сейчас решил разобраться. 3 мысли по теме: 1) Память - скачок в UX —> действительно, заметно улучшает UX взаимодействия с AI продуктами. Пожалуй, это огромный скачок в этом направлении именно для продуктов, где LLM управляет воркфлоу, а не он жестко задан, поскольку степеней свободы больше: например, агент, который регулярно готовит отчет по продажам, и у которого вы часто спрашиваете допразрез в разрезе версии браузера (o__O) может запомнить, что вы это просили, и в следующий раз именно для вас сразу его выдать вместе с основным отчетом. Больше не нужно под каждых чих просить новый dashboard. Продвинутая персонализация 2) Что запоминать? - память агента под капотом это RAG: векторная база + умный поиск/фильтрация по ней. Челлендж не в этой части, ключевой челлендж - что именно запоминать. В простейшем случае это промпт, который инструктирует что запоминать. И это, по моему, сильно зависит от бизнес-домена: для одних агентов важно запоминать ваше имя, для других - противопоказано. 3) Что забывать? - должен ли агент забывать? На недавнем хакатоне разговорились на эту тему и было 2 позиции: а) не нужно забывать, решим на уровне поиска и фильтрации; б) нужно, но если забывает - то что и как? Атрибуты компании могут устаревать быстрее, имя человека - практически нет. То есть время - не единственный параметр, влияющий на темп забывания, доменная область и юзкейс решают. Эдакий time to live (TTL). Скорее всего там какие-то decay процессы постепенного забывания Мне кажется, что именно 2 и 3 - ключевые вопросы дизайна AI агентов в части памяти, о чем и поговорим в том числе во 2м сезоне AI Product Engineer. С удовольствием послушаю ваши мысли/опыт по теме и этим 2м вопросам, особенно если вы уже реализовали это в продакшне P.S. На deep learning есть бесплатный миникурс по теме, кстати
Про память человеческую и ~~рыбью~~ AI агентов Некоторые считают, что память -…
Из этого канала
- #13053 пятничные пьяные мысли 1) в текущей парадигме тренировки и тюнинга LLM…
3 пятничные пьяные мысли 1) в текущей парадигме тренировки и тюнинга LLM разработчики будут нужны. Ллмки делают то, что ты им говоришь.
- #1306Помните мы играли в будущее? Вообще, очень прикольно получилось, а именно: 1)…
Помните мы играли в будущее? Вообще, очень прикольно получилось, а именно: 1) 200+ сценариев на 10 тысяч фреймов в 1.5M слов 2) Общая канва во всех сценариях:…
- #1308По крайней мере, у нас теперь появилась более сильная гипотеза, что это…
По крайней мере, у нас теперь появилась более сильная гипотеза, что это наушники + еще возможно какие-то гаджеты на тело а ля omi iyO подала в суд на OpenAI,…
- #1303"VC не туда вкладывают? Интересное исследование от Stanford про будущее работы…
"VC не туда вкладывают? Интересное исследование от Stanford про будущее работы с AI агентами —> меня особо заинтриговал фреймворк, по которому они оценивали…
- #1302"OpenAI подкаст OpenAI запустили подкаст и, разумеется, Sam Altman был в самом…
"OpenAI подкаст OpenAI запустили подкаст и, разумеется, Sam Altman был в самом первом эпизоде. Но у него еще вышел подкаст с братом вчера.