"ChatGPT записал меня в 1% лучших пользователей. Я сначала обрадовался, но потом вспомнил, что это 8 миллионов человек, и от души посмеялся попыткам моего эго подпрыгнуть чуть выше всех. OpenAI определенно хайпанул с итогами года (вы можете сделать такие же из-под VPN США или Канады с промптом `show me my year with chatgpt`), но, на мой взгляд, все получилось гораздо скромнее, чем авантюра с генерациями в стиле студии Гибли. Cогласитесь, можно было бы сделать изящнее (как у той же Granola). Скудность данных объясняется тем, что инженеры gpt не стали реализовывать возможность работы с памятью. Об этом говорит и последний твит сооснователя OpenAI Грега Брокмана, который предлагает промпт, как временную архитектурную заглушку, эмулирующую долговременную память. Сейчас это выглядит как блокнот, в который вы каждый раз переписываете, что сейчас делаете, чтобы ассистент не забывал при новом диалоге. 🎮 Любопытно, что на древних Нинтендах все работало похоже: почти не было памяти для хранения состояния мира, поэтому через флаги и триггеры игры создавали иллюзию памяти, каждый раз читая небольшой набор битов: босс убит, дверь открыта, ключ получен. Этот механизм заложен во всю природу нашей жизни: когда системе рано, дорого или опасно иметь настоящую долговременную память, она использует временные, контекстные и дешёвые носители состояния - активность нейронов, химические сигналы, метки, клетки-флаги и т.д. 🤑 Я спросил у ChatGPT, насколько выросли бы издержки бизнеса, если бы он реализовал долговременную память, и тот дал осторожную прикидку в 20-30% вычислительных ресурсов, то есть порядка 1,5-2 ярдов, что, конечно, плохо бьётся с текущими ценами GPU и маржинальностью. Скорее всего, в следующем году эта заглушка превратится во встроенную функцию: сначала ассистент сам помогает обновлять промежуточную запись, потом сохраняет ее в структурированном виде, подставляет только нужные части в ответы, и лишь в самом конце аккуратно связывает это с настоящей долговременной памятью. А еще через пару лет, когда AI выведут на орбиту🛰 и сократят издержки на охлаждение, этот ход займет свое место в музее ИТ-костылей. А пока можете заценить Acontext - свежий релиз на гитхабе, позволяющий построить память на основе файловой системы для самообучающихся агентов. ⚖️ И еще по поводу оперативной памяти: мне кажется, новая цифровая этика будет скоро подразумевать маркер ""Я спросил у AI"", (вместо ""Я тут подумал"") как обязательный, чтобы мы не обманывали сами себя и других невероятной глубиной и скоростью мысли, которую вдруг все обрели."