"Статья небольшая, но содержательная (3 страницы текста + 2 ссылок). Такую комментировать и обозревать -- только портить. Так что лучше почитайте оригинал. Ревью всё равно оставлю, забавно как там агенты от себя добавили формализма, по-своему прикольно вышло. __""Crucially, humans remain in the loop. Agent institutions are populated by both humans and AI agents in different roles and configurations. It’s not “either/or”, but “both/and”. The U.S. Founders would have recognized the logic [27]: no single concentration of intelligence, human or artificial, should regulate itself. Power must check power, and in a world of artificial agents, this means building conflict and oversight into the institutional architecture.""__ Agentic AI and the next intelligence explosion __James Evans, Benjamin Bratton, Blaise Agüera y Arcas__ Статья: https://arxiv.org/abs/2603.20639v1 # TL;DR ЧТО сделали: Авторы предлагают фундаментальный сдвиг парадигмы в отношении траектории развития AGI. Они утверждают, что передовые модели (например, DeepSeek-R1 и QwQ-32B) масштабируются не за счёт монолитных вычислений, а через эмерджентные «общества мыслей» (результат их предыдущей работы https://t.me/gonzo_ML/4596). В статье представлена теоретическая и практическая основа для Институционального выравнивания (Institutional Alignment), предполагающая, что следующий скачок в возможностях ИИ опирается на многоагентную организационную социологию, а не на изолированное масштабирование параметров. ПОЧЕМУ это важно: Такое переосмысление в корне меняет наш подход к масштабированию и безопасности ИИ. Авторы показывают, что оптимизационное давление неизбежно порождает внутренний многополярный диалог. Традиционное диадическое выравнивание (RLHF) структурно не способно управлять будущими системами. В будущем проектирование масштабируемых ИИ-экосистем потребует создания жёстких социологических шаблонов: ролей, иерархий и конституционных протоколов, зеркально отражающих человеческую бюрократическую и правовую инфраструктуру. Для практиков: Для исследователей и техлидов погоня за единственной, всеведущей «моделью-богом» — это математический и исторический тупик. Данные от современных рассуждающих моделей показывают, что интеллект по своей природе — это множественное, реляционное свойство. Когда модели берутся за более сложные задачи, они спонтанно фрагментируются на многоагентные внутренние дебаты. Следовательно, следующий рубеж в исследованиях ИИ — это не просто наращивание FLOPs или размера датасета, а организационная инженерия. Нам нужно строить цифровые институты, определять роли и создавать гиперграфы разрешения конфликтов для координации триллионов взаимодействующих биологических и искусственных агентов. Выравнивать институции тут: https://t.me/gonzo_ML_podcasts/2972"