Рассказываю про препринт нашей новой статьи, которую написали совместно с моим аспирантом и научным сотрудником AIRI Глебом Мезенцевым. Оказывается, LLM могут восстанавливать длинные тексты из одного обученного эмбеддинга за один forward-pass — без итеративного декодинга. Получается, что у LLM есть скрытый талант генерировать сотни слов практически моментально, осталось понять, как этот талант развить :)