прикольное про трен мелких моделек Авторы рассказывают как претренили 2B модельки на кластере 5090 (24x5090 на первой фазе за $4.4k и 96x5090 на второй за $6.9k) и достигли перформа Qwen2-1.5B Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $5090 https://arxiv.org/abs/2608.27370 https://www.alphaxiv.org/ru/abs/2608.27370 https://huggingface.co/collections/thu-pacman/puro-2b PS собираем статьи и проекты делаем в https://t.me/researchim
прикольное про трен мелких моделек Авторы рассказывают как претренили 2B…
Из этого канала
- #1362Кстати я тут завел бусти если у кого-то появится желание поддержать то чем мы…
Кстати я тут завел бусти если у кого-то появится желание поддержать то чем мы занимаемся в https://t.me/researchim то вот 🥰🪳 https://boosty.to/researchim
- #1363автор пишет что потренил трансформер на 28м параметров за 1.5 часа на 5090 и…
автор пишет что потренил трансформер на 28м параметров за 1.5 часа на 5090 и выбил 44% на ARC-AGI-1 https://mvakde.github.io/blog/44-on-arc-1/…
- #1364Небольшой апдейт по студии…
Небольшой апдейт по студии https://github.com/researchim-ai/reinforcement-studio туда добавлены некоторые multi agent rl алгоритмы world models и алгоритмы…
- #1360машинка научилась ездить по трассе, хз что еще нужно в той рл студии за 40 минут
машинка научилась ездить по трассе, хз что еще нужно в той рл студии за 40 минут
- #1358еще квеновое приехало 125B A6B + 51B наверное как дипсик флеш должно быть по…
еще квеновое приехало 125B A6B + 51B наверное как дипсик флеш должно быть по уму. я попозже тоже попробую запустить…