Вышли веса Kimi K3 2.8 триллиона параметров, 104B активных. По запуску на своем железе картина такая: в 4-bit веса будут занимать примерно 1.4ТБ, в 16-bit уже около 5.6ТБ. Так что вам нужно плюс минус 8xH200/B200 или сопоставимый по памяти вариант. Если (ну вдруг) у вас такого домашнего датацентра не оказалось, то сочувствуем и приглашаем вместе с нами продолжать пользоваться API ☕️ https://huggingface.co/moonshotai/Kimi-K3
Вышли веса Kimi K3 2.8 триллиона параметров, 104B активных. По запуску на своем…
Из этого канала
- #9622Проклятье всех ИИ-лаб постигает теперь и Thinking Machines Миры Мурати: от нее…
Проклятье всех ИИ-лаб постигает теперь и Thinking Machines Миры Мурати: от нее ушли почти все партнеры Лилиан Вен, соосновательница стартапа, сегодня объявила…
- #9624Команда GigaChat зовёт на вечеринку для AI-разработчиков и исследователей 🎉 29…
Команда GigaChat зовёт на вечеринку для AI-разработчиков и исследователей 🎉 29 июля, Сбер.Среда, пространство «Оригинал» (м. «Курская», ул.
- #9625"Стартап Ильи Суцкевера заключил масштабное партнерство с Nvidia По словам…
"Стартап Ильи Суцкевера заключил масштабное партнерство с Nvidia По словам самой компании, Nvidia получила редкий доступ к тщательно охраняемым исследованиям…
- #9620"🏁До старта обработки миллиарда записей 3… 2… 1… клик Выбирайте не просто СУБД,…
"🏁До старта обработки миллиарда записей 3… 2… 1… клик Выбирайте не просто СУБД, а гоночный болид для работы с данными.
- #9619Сотрудники Anthropic тем временем еще и публично подсмеиваются над компаниями,…
Сотрудники Anthropic тем временем еще и публично подсмеиваются над компаниями, подписавшими письмо 6.1 миллион просмотров набрал твит Julian Schrittweiser.