Вышли веса Kimi K3 2.8 триллиона параметров, 104B активных. По запуску на своем железе картина такая: в 4-bit веса будут занимать примерно 1.4ТБ, в 16-bit уже около 5.6ТБ. Так что вам нужно плюс минус 8xH200/B200 или сопоставимый по памяти вариант. Если (ну вдруг) у вас такого домашнего датацентра не оказалось, то сочувствуем и приглашаем вместе с нами продолжать пользоваться API ☕️ https://huggingface.co/moonshotai/Kimi-K3
Вышли веса Kimi K3 2.8 триллиона параметров, 104B активных. По запуску на своем…
Из этого канала
- #9620"🏁До старта обработки миллиарда записей 3… 2… 1… клик Выбирайте не просто СУБД,…
"🏁До старта обработки миллиарда записей 3… 2… 1… клик Выбирайте не просто СУБД, а гоночный болид для работы с данными.
- #9619Сотрудники Anthropic тем временем еще и публично подсмеиваются над компаниями,…
Сотрудники Anthropic тем временем еще и публично подсмеиваются над компаниями, подписавшими письмо 6.1 миллион просмотров набрал твит Julian Schrittweiser.
- #9618"Токенмаксинг – все? WSJ выпустили материал о том, что американские компании…
"Токенмаксинг – все? WSJ выпустили материал о том, что американские компании массово переходят к новому тренду на thrift-maxxing Thrift переводится как…