"Дорожная карта развития железа для ИИ на ближайшие 10 лет. Хотим ускорения в 1000 раз: 10x от инноваций в алгоритмах, 20x от архитектурных улучшений и утилизации кремния, и 5x от оркестрации на уровне системы. AI+HW 2035: Shaping the Next Decade __Deming Chen, Jason Cong, Azalia Mirhoseini, Christos Kozyrakis, Subhasish Mitra, Jinjun Xiong, Cliff Young, Anima Anandkumar, Michael Littman, Aron Kirschen, Sophia Shao, Serge Leef, Naresh Shanbhag, Dejan Milojicic, Michael Schulte, Gert Cauwenberghs, Jerry M. Chow, Tri Dao, Kailash Gopalakrishnan, Richard Ho, Hoshik Kim, Kunle Olukotun, David Z. Pan, Mark Ren, Dan Roth, Aarti Singh, Yizhou Sun, Yusu Wang, Yann LeCun, and Ruchir Puri__ Статья: https://arxiv.org/abs/2603.05225 Ревью: https://arxiviq.substack.com/p/aihw-2035-shaping-the-next-decade # TL;DR ЧТО сделали: Масштабный консорциум лидеров индустрии и академии составил комплексную 10-летнюю дорожную карту для объединения разработки ИИ-алгоритмов и железа. Цель — улучшить эффективность обучения и инференса в 1000 раз. ПОЧЕМУ это важно: Экспоненциальное масштабирование foundation-моделей столкнулось с жёсткими физическими, температурными и инфраструктурными ограничениями. Энергия на перемещение данных теперь превышает энергию на сами вычисления, создавая суровую ""стену памяти"". Решить эту проблему математически и практически необходимо, чтобы глобальная нехватка энергии в дата-центрах не остановила прогресс ИИ. Для практиков: Для стратегов по железу, проектировщиков архитектур и ML-исследователей эта дорожная карта — срочная директива. Она описывает переход от изолированной разработки, сфокусированной на вычислениях, к парадигме кросс-уровневого совместного проектирования (co-design). Требуя внедрения 3D-интеграции вычислений в памяти (CIM), алгоритмической устойчивости к шуму смешанных сигналов и использования ИИ для автоматизации проектирования электроники (EDA), статья намечает путь к устойчивому агентному ИИ. Такой ИИ будет способен эффективно работать везде: от гигаваттных облаков до милливаттных физических edge-устройств. Ковать железо тут: https://t.me/gonzo_ML_podcasts/3148"
"Дорожная карта развития железа для ИИ на ближайшие 10 лет. Хотим ускорения в…
Из этого канала
- #5145В продолжение темы про Thrust2 и ThrustSSC. Bloodhound LSR/SSC…
В продолжение темы про Thrust2 и ThrustSSC. Bloodhound LSR/SSC (https://en.wikipedia.org/wiki/BloodhoundLSR) -- машина с реактивным двигателем Rolls-Royce…
- #5151ИИ-исследователи всё более полного цикла. ASI-Evolve: AI Accelerates AI Weixian…
ИИ-исследователи всё более полного цикла. ASI-Evolve: AI Accelerates AI Weixian Xu, Tiantian Mi, Yixiu Liu, Yang Nan, Zhimeng Zhou, Lyumanshan Ye, Lin Zhang,…
- #5156Структура свободного времени сильно изменилась за последние месяцы. Теперь есть…
Структура свободного времени сильно изменилась за последние месяцы. Теперь есть миллион проектов, которые наконец можно не закапывать в списки на будущее, а…
- #5133Ещё одна работа про анализ ИИ-автоматизации. Crashing Waves vs. Rising Tides:…
Ещё одна работа про анализ ИИ-автоматизации. Crashing Waves vs. Rising Tides: Preliminary Findings on AI Automation from Thousands of Worker Evaluations of…
- #5126Это что-то очень прикольное! Вычисление — это постоянное обновление латентов.…
Это что-то очень прикольное! Вычисление — это постоянное обновление латентов. Нейрокомпьютер на базе диффузионки.