Если сделать грубую прикидку, то DeepSeek потратили на предтренировку DSv4 Pro примерно 10^25 FLOPs (оценка на основе количества токенов, написанных в статье, и количества активных параметров). Для сравнения, уже появляются датацентры, где устанавливают по 100'000 видеокарт (например, у Elon Musk и xAI — правда карты предыдущего поколения, Hopper, а не Blackwell. Прямо как у DeepSeek). На таком объеме с утилизацией 22% (что ниже достижимого) 10^25 FLOPs можно выжать за...18 часов. То есть такую модель можно обучить ЗА СУТКИ😦. Китайцы там поди пару месяцев потели-высиживали тренировку. Понятно, что нужно настроить инфраструктуру, подготовить данные, написать очень эффективную тренировку, но всё это так и так делается и будет делаться дальше. Плюс после предтренировки нужно ещё запускать SFT, RL, дистилляцию — заняться есть чем. И всё же... the compute gap real.
Если сделать грубую прикидку, то DeepSeek потратили на предтренировку DSv4 Pro…
Из этого канала
- #3588Хорошо, что новый метод не даёт погрешность в 2 раза 😨 (если кроме шуток, то в…
Хорошо, что новый метод не даёт погрешность в 2 раза 😨 (если кроме шуток, то в статье есть и интересные тезисы — например, какие из моделей OpenAI были…
- #3589У Dwarkesh новое видео, на этот раз не интервью, а вопросно-ответная лекция с…
У Dwarkesh новое видео, на этот раз не интервью, а вопросно-ответная лекция с одним из создателей TPU, делающим сейчас свой стартап.
- #3590🥺 пока я разбираю предыдущую статью DeepSeek, они выпускают новую — наконец-то…
🥺 пока я разбираю предыдущую статью DeepSeek, они выпускают новую — наконец-то про работу с изображениями! Обновлений не было кажется с декабря 2024-го!…
- #3586🤣 Микрофон адвоката Илона Маска выключался четыре раза за время его…
🤣 Микрофон адвоката Илона Маска выключался четыре раза за время его вступительной речи по делу «Маск против OpenAI».
- #3583Не коррозия, а «хорошо известное поведение металла». Сейчас будет урок…
Не коррозия, а «хорошо известное поведение металла». Сейчас будет урок европейского космического новояза и это абсолютно феерическая история.