ну пока не понятно. мб и норм Щас надо еще добавить Continuel Pretraining И более расширенную предобработку данных. Добавить разных опций для даталодера и сохранять данные в разных форматах
ну пока не понятно. мб и норм Щас надо еще добавить Continuel Pretraining И…
0 viewsОткрыть в Telegram →
Из этого канала
- #5459Universal Reasoning Model https://arxiv.org/abs/2512.14693…
Universal Reasoning Model https://arxiv.org/abs/2512.14693 https://www.alphaxiv.org/overview/2512.14693 https://github.com/zitian-gao/URM
- #5460NitroGen: A Foundation Model for Generalist Gaming Agents…
NitroGen: A Foundation Model for Generalist Gaming Agents https://nitrogen.minedojo.org/
- #5461щас очень много тестов. Надо тестить continual pretraining,лоры и прочее Оч…
щас очень много тестов. Надо тестить continual pretraining,лоры и прочее Оч много чего добавляю.
- #5457как то быстро
как то быстро
- #5456претрен 123м модельки с 2к контекстом на 2x3090 на 8гб данных занимает ~ 15…
претрен 123м модельки с 2к контекстом на 2x3090 на 8гб данных занимает ~ 15 часов батч сайз 6