лигер кернелы в процессе. частично добавлено в grpo. раньше тут память долбилась в потолок, то есть всегда почти была 22-23гб, щас сильно поменьше. это 2x3090 это тот же фулл тюн 1.5b квена с градиент чекпоинтом кажется чего-то экономит посмотрим что улучшится на претрене/sft
лигер кернелы в процессе. частично добавлено в grpo. раньше тут память…
0 viewsОткрыть в Telegram →
Из этого канала
- #5617добавляю лигеркернелы в претрен наших собственных моделек щас там 7гб врам…
добавляю лигеркернелы в претрен наших собственных моделек щас там 7гб врам используется было 11 пока хорошо, но надо проверять)
- #5618320м моделька с 4к контекстом батчсайз 6 претрен на 8гб данных (очень мало, но…
320м моделька с 4к контекстом батчсайз 6 претрен на 8гб данных (очень мало, но столько выкачано да и для прицела пойдет) должно хватить 30 часов на 2x3090…
- #5619Ищем в команду сильного fullstack 🔨 или бэкенд и фронтенд Что важно по навыкам:…
Ищем в команду сильного fullstack 🔨 или бэкенд и фронтенд Что важно по навыкам: + уверенный backend (Python / Node / или Go / API / работа с LLM, RAG ) + или…
- #5612Ребята сделали крутую обзорку механизмов знаний в ллмковых. Обязательно…
Ребята сделали крутую обзорку механизмов знаний в ллмковых. Обязательно сохраняем! Я вообще очень люблю обзорки, ведь муторно все время следить за самыми…
- #5611а я времени зря не теряю вот сейчас ресерчит мне
а я времени зря не теряю вот сейчас ресерчит мне