пока ищу) если ты про то какую добавлять буду

я про архитектуру сеточки, которую учишь)

DSH, день 2, словил сразу несколько ошибок: 1. GPU/X freeze 8 сек. Выкрутил inference почти на 100% GPU на той же карте, которая держит desktop.

Ещё по мои замерам, скорость падает до 2х при заполнении контекста под 100%: 0–10% ctx: ~49–53 tok/s → 25% ctx: ~40–45 tps → 50% ctx: ~33–38 tps → 75% ctx:…

а что за модель?

еще учится щас часа 3 прошло. это ppo с памятью просто базовый и среда в 24 потока щас попробую добавить самый быстрый алгоритм который натренит максимально…