Конечно с возможностью продолжить трен с чекпоинта стало ну прям сильно лучше Можно на несколько часиков запускать, потом вырубить и через день продолжить + обновил естимейт VRAM перед запуском модели. Чтобы было проще оценивать, стало вроде сильно правильнее считать Кстати вкладка с RLем потихоньку делается, но пока отключил ее. Там очень много надо всего продумать Сейчас ЛЛМную страницу буду доделывать до максимального удобства. Претрен и SFT вроде работают. Сейчас надо добавить разных оптимизаторов еще Создания кастомных моделек в визуальном билдере пока в тесте Ну и вообще все стараюсь тестить Ну и надо попробовать потренить свои собственные модельки уже до хорошего состояния
Конечно с возможностью продолжить трен с чекпоинта стало ну прям сильно лучше…
0 viewsОткрыть в Telegram →
Из этого канала
- #5513Еще нужна страница по обработке и подготовке данных Для перевода из одного…
Еще нужна страница по обработке и подготовке данных Для перевода из одного формата в другой и тд, очистке, удаление дубликатов мне кажется это будет полезно
- #5518https://github.com/sindresorhus/awesome-whisper
https://github.com/sindresorhus/awesome-whisper
- #5533как насчет 70 часов тренить 150м модельку с 2к контекстом на 16гб fineweb2-ru…
как насчет 70 часов тренить 150м модельку с 2к контекстом на 16гб fineweb2-ru на 8гб 4070 ноутбучной? (пожалуй не буду)
- #5508сложно удержаться)
сложно удержаться)
- #5506Короче теперь у нас 2 вкладки LLM Visual Model Builder…
Короче теперь у нас 2 вкладки LLM Visual Model Builder https://github.com/researchim-ai/models-at-home визуальный билдер надо сильно тестить) Чем и буду щас…