"Дарио Амодеи написал программное заявление __""Time is short, and we must accelerate our actions to match accelerating AI progress. Possibly by 2026 or 2027 (and almost certainly no later than 2030), the capabilities of AI systems will be best thought of as akin to an entirely new state populated by highly intelligent people appearing on the global stage—a “country of geniuses in a datacenter”—with the profound economic, societal, and security implications that would bring.""__ https://www.anthropic.com/news/paris-ai-summit"
"Дарио Амодеи написал программное заявление ""Time is short, and we must…
Из этого канала
- #3339FP1 в массы! Если реально есть потенциал ускорить обучение LLM в 16 раз…
FP1 в массы! Если реально есть потенциал ускорить обучение LLM в 16 раз (относительно BF16) или обучить модель в 16 раз большую, то это очень интересно.
- #3340QuEST: Stable Training of LLMs with 1-Bit Weights and Activations [Статья][Код]…
QuEST: Stable Training of LLMs with 1-Bit Weights and Activations [Статья][Код] Введение Уважаемые коллеги из IST, в частности, @blacksamorezchannel выпустили…
- #3341Метод Основным затруднением при оптимизации весов и активаций в низкой точности…
Метод Основным затруднением при оптимизации весов и активаций в низкой точности является высокая степень шума.
- #3332Optimizing Large Language Model Training Using FP4 Quantization Ruizhe Wang,…
Optimizing Large Language Model Training Using FP4 Quantization Ruizhe Wang, Yeyun Gong, Xiao Liu, Guoshuai Zhao, Ziyue Yang, Baining Guo, Zhengjun Zha, Peng…
- #3331"Собрал свои посты про DeepSeek воедино в англоязычном блоге. Когда картинки…
"Собрал свои посты про DeepSeek воедино в англоязычном блоге. Когда картинки внутри текста, оно, конечно, удобнее.