я потестил русский и англиский 1.8 параметров . русский звучит с китайским акцентом 🤣🤣 но качество в любом случае хорошее
я потестил русский и англиский 1.8 параметров . русский звучит с китайским…
0 viewsОткрыть в Telegram →
Из этого канала
- #5747ребятки, а датасеты для grpo подходящие на русском знаете? то есть нужен вопрос…
ребятки, а датасеты для grpo подходящие на русском знаете? то есть нужен вопрос + чисто ответ надо что-то забить в конфиги для загрузки для grpo а-то в…
- #5748А на какую тематику?
А на какую тематику?
- #5749Посмотри тренировочные сеты от nvidia
Посмотри тренировочные сеты от nvidia
- #5741"На моменте PreTraining, модель скорее всего выучивает все свои знания, на SFT…
"На моменте PreTraining, модель скорее всего выучивает все свои знания, на SFT она просто выучивает ""стиль"" предсказания следующего токена, в нужной манере…
- #5740Я недавно увидел проект Heretic ( https://github.com/p-e-w/heretic ), и там они…
Я недавно увидел проект Heretic ( https://github.com/p-e-w/heretic ), и там они интересную вещь делают - обучают только attn.oproj и mlp.downproj Т.е, чтобы…