Авторы TRM добавили к уже обученной модели стохастичности и сильно улучшили результаты. Работа про GRAM близка, но идёт дальше, там стохастичность в обучении. Вчерашняя FRM по подходу иная, но тоже где-то из близкой когорты. Что мне нравится, в направлении латентного ризонинга сейчас происходит свой областного значения кембрийский взрыв. Много работ с разных сторон находят интересные решения и оно, конечно, должно всё слиться в какой-то большой итоговой модели. Probabilistic Tiny Recursive Model __Amin Sghaier, Ali Parviz, Alexia Jolicoeur-Martineau__ Paper: https://arxiv.org/abs/2605.19943 Review: https://arxiviq.substack.com/p/probabilistic-tiny-recursive-model # TL;DR ЧТО сделали: Авторы разработали фреймворк Probabilistic TRM (PTRM). Он позволяет масштабировать вычисления во время инференса (test-time compute) без дополнительного обучения модели. Метод добавляет стохастический поиск в предобученные Tiny Recursive Models (TRM). На каждом шаге рекурсии в скрытое состояние подмешивается гауссовский шум. Это создаёт несколько параллельных траекторий, помогая модели выбираться из субоптимальных локальных аттракторов, а лучшая траектория затем выбирается с помощью уже имеющейся предобученной классификационной головы (Q-head). ПОЧЕМУ это важно: Эта работа доказывает, что огромные и дорогие авторегрессионные LLM — не единственный путь к решению сложных логических задач. Сверхкомпактные неавторегрессионные рекурсивные сети (всего 5–7 млн параметров) способны превосходить передовые LLM в решении структурированных задач на удовлетворение ограничений. При этом стоимость инференса оказывается ниже более чем в 10 000 раз. Это подтверждает перспективность масштабирования вычислений на этапе инференса в непрерывном латентном пространстве, а не в дискретном пространстве токенов. Для практиков: Если вам нужно решать жёстко структурированные задачи вроде судоку или планирования путей, не обязательно разворачивать тяжёлые LLM или настраивать сложные цепочки CoT. Крошечные рекурсивные модели с добавлением контролируемого шума на инференсе и простым классификатором-верификатором могут дать колоссальный прирост качества при практически нулевых затратах на инфраструктуру. Рекуррентно и недорого шуметь здесь: https://t.me/gonzo_ML_podcasts/4279