7B это 4-5Гб VRAM на 4-bit, можно практически на любой консьюмерской GPU запустить и проверить сервис, если есть его исходники 😎
7B это 4-5Гб VRAM на 4-bit, можно практически на любой консьюмерской GPU…
0 viewsОткрыть в Telegram →
Из этого канала
- #6070🎉 Базе знаний об ИИ — шесть лет Сегодня База знаний ICT.Moscow об искусственном…
🎉 Базе знаний об ИИ — шесть лет Сегодня База знаний ICT.Moscow об искусственном интеллекте стала одним из востребованных профессиональных ресурсов о технологии…
- #6071там кстати уже предыдущие репорты использованы. можно даже обогатить в целом…
там кстати уже предыдущие репорты использованы. можно даже обогатить в целом более новыми
- #6072Arcee Trinity Large Technical Report https://www.arxiv.org/abs/2602.17004…
Arcee Trinity Large Technical Report https://www.arxiv.org/abs/2602.17004 https://www.alphaxiv.org/ru/overview/2602.17004 https://huggingface.co/arcee-ai
- #6068отсюда инфу кстати в студию перегоню
отсюда инфу кстати в студию перегоню
- #6067⚡️ Вышла интересная модель для безопасности кода - VulnLLM-R-7B. Это…
⚡️ Вышла интересная модель для безопасности кода - VulnLLM-R-7B. Это reasoning-LLM, специально обученный искать уязвимости так, как это делает пентестер.