Щас прорабатываю вопросы инференса моделей после всех стадий трейна. не до конца проработано было. Можно будет проинференсить в vllm модельку или в трансформерс (все равно их таскаем за собой)
Щас прорабатываю вопросы инференса моделей после всех стадий трейна. не до…
0 viewsОткрыть в Telegram →
Из этого канала
- #5720Кстати. Вопрос инференса в целом большой. У нас студия для трена моделек в…
Кстати. Вопрос инференса в целом большой. У нас студия для трена моделек в первую очередь.
- #5721в смысле как есть lm studio это чат с модельками. мы тоже можем сделать свой.…
в смысле как есть lm studio это чат с модельками. мы тоже можем сделать свой. но пока не знаю стоит ли это развивать. но думаю что позже
- #5722На GPU Mode недавно вышла 3-х часовая лекция про RL, Агентов и фреймворк для…
На GPU Mode недавно вышла 3-х часовая лекция про RL, Агентов и фреймворк для создания и работы со средами OpenEnv.
- #5717кстати, когда более-менее все норм будет, то начну версионирование уже. пока…
кстати, когда более-менее все норм будет, то начну версионирование уже. пока рано)
- #5715Ребятки, у нас промежуточный апдейт мейна!…
Ребятки, у нас промежуточный апдейт мейна! https://github.com/researchim-ai/models-at-home заехал анслот) чтобы активировать надо в GRPO вкладке выбрать…