Исследователи AIRI представили модель, которая может запоминать многое, не увеличивая потребность в вычислениях Робот часто видит важную информацию задолго до того, как её необходимо использовать. Если система не умеет надёжно хранить и вовремя извлекать данные, ей трудно действовать в сложной и меняющейся среде. Обычные трансформеры решают эту задачу не полностью: одни модели становятся слишком дорогими по вычислениям, другие плохо контролируют, что именно забывается. В ELMUR каждый слой содержит фиксированное количество слотов памяти, которые параллельно взаимодействуют с основным потоком данных. Система может читать информацию из этих ячеек, когда принимает решение, и записывать туда новые данные. Если память начинает заполняться — обновляются те ячейки, которые использовались реже всего. Это даёт ИИ компактное, но устойчивое хранилище, которое может удерживать важную информацию на протяжении 100 тысяч шагов за пределами обычного окна внимания. О разработке рассказали на ICLR 2026. Научная статья | CNews
Исследователи AIRI представили модель, которая может запоминать многое, не…
Из этого канала
- #349Сегодня исполнилось 80 лет Александру Петровичу Кулешову! Александр Петрович, я…
Сегодня исполнилось 80 лет Александру Петровичу Кулешову! Александр Петрович, я работал с Вами в течение последних десяти лет, с момента Вашего прихода в…
- #350Отпуск. На майские очень хорошо съездили отдохнуть. Концепция поездки была…
Отпуск. На майские очень хорошо съездили отдохнуть. Концепция поездки была основана на личных предпочтениях (хорошая еда, красивые виды, спокойствие, не…
- #360Мы с ИТМО открыли две новые лаборатории — соглашение подписали сегодня в…
Мы с ИТМО открыли две новые лаборатории — соглашение подписали сегодня в Санкт-Петербурге В одной, цифрового дизайна и моделирования макро- и супрамолекулярных…
- #346Второй раз получаю премию Билайна AI AWARDS — в этом году в номинации «Личный…
Второй раз получаю премию Билайна AI AWARDS — в этом году в номинации «Личный вклад в развитие ИИ».
- #345Наконец выпустили модель, названную в честь Гурия Ивановича Марчука. Потенциал…
Наконец выпустили модель, названную в честь Гурия Ивановича Марчука. Потенциал таких моделей огромен.