"ChatGPT записал меня в 1% лучших пользователей. Я сначала обрадовался, но потом вспомнил, что это 8 миллионов человек, и от души посмеялся попыткам моего эго подпрыгнуть чуть выше всех. OpenAI определенно хайпанул с итогами года (вы можете сделать такие же из-под VPN США или Канады с промптом `show me my year with chatgpt`), но, на мой взгляд, все получилось гораздо скромнее, чем авантюра с генерациями в стиле студии Гибли. Cогласитесь, можно было бы сделать изящнее (как у той же Granola). Скудность данных объясняется тем, что инженеры gpt не стали реализовывать возможность работы с памятью. Об этом говорит и последний твит сооснователя OpenAI Грега Брокмана, который предлагает промпт, как временную архитектурную заглушку, эмулирующую долговременную память. Сейчас это выглядит как блокнот, в который вы каждый раз переписываете, что сейчас делаете, чтобы ассистент не забывал при новом диалоге. 🎮 Любопытно, что на древних Нинтендах все работало похоже: почти не было памяти для хранения состояния мира, поэтому через флаги и триггеры игры создавали иллюзию памяти, каждый раз читая небольшой набор битов: босс убит, дверь открыта, ключ получен. Этот механизм заложен во всю природу нашей жизни: когда системе рано, дорого или опасно иметь настоящую долговременную память, она использует временные, контекстные и дешёвые носители состояния - активность нейронов, химические сигналы, метки, клетки-флаги и т.д. 🤑 Я спросил у ChatGPT, насколько выросли бы издержки бизнеса, если бы он реализовал долговременную память, и тот дал осторожную прикидку в 20-30% вычислительных ресурсов, то есть порядка 1,5-2 ярдов, что, конечно, плохо бьётся с текущими ценами GPU и маржинальностью. Скорее всего, в следующем году эта заглушка превратится во встроенную функцию: сначала ассистент сам помогает обновлять промежуточную запись, потом сохраняет ее в структурированном виде, подставляет только нужные части в ответы, и лишь в самом конце аккуратно связывает это с настоящей долговременной памятью. А еще через пару лет, когда AI выведут на орбиту🛰 и сократят издержки на охлаждение, этот ход займет свое место в музее ИТ-костылей. А пока можете заценить Acontext - свежий релиз на гитхабе, позволяющий построить память на основе файловой системы для самообучающихся агентов. ⚖️ И еще по поводу оперативной памяти: мне кажется, новая цифровая этика будет скоро подразумевать маркер ""Я спросил у AI"", (вместо ""Я тут подумал"") как обязательный, чтобы мы не обманывали сами себя и других невероятной глубиной и скоростью мысли, которую вдруг все обрели."
"ChatGPT записал меня в 1% лучших пользователей. Я сначала обрадовался, но…
Из этого канала
- #637"Главный навык будущего — это способность выдерживать собственную…
"Главный навык будущего — это способность выдерживать собственную неэффективность.
- #638"Завел в AI-фазенде, где собираю всякое полезное про ИИ, отдельную ветку…
"Завел в AI-фазенде, где собираю всякое полезное про ИИ, отдельную ветку Антикейсы, чтобы складировать истории колоссальных проёбов - таких, как этот.
- #639Вышел подкаст, где я с инновационным лицом (про лицо это такой прикол со…
Вышел подкаст, где я с инновационным лицом (про лицо это такой прикол со времен, когда я ходил с определенным выражением на встречи в Сколково) рассказываю про…
- #634"Встречайте третий бриллиант в корону выдающихся LLM-учебников, которые вышли…
"Встречайте третий бриллиант в корону выдающихся LLM-учебников, которые вышли за последние месяцы - LLM evaluation guidebook, совместную работу команд Hugging…
- #633Тут легенда ML-индустрии, ученый Эндрю Нг, сходил в Стэнфорд и поделился своим…
Тут легенда ML-индустрии, ученый Эндрю Нг, сходил в Стэнфорд и поделился своим мнением про АИ и карьеру инженеров – видео длинное и я советую смотреть его, но…