я не понимаю веса должны меняться при тренировке в этом суть

Менятся в объеме или в качестве. Тогда если модель была 4b то станет 8b. И вырастут требования к железу? Структура весов не сломается, как структурировать…

нет сами веса меняются объем тот же остается циферки в весах меняются

"Значит одни знания меняются на другие и модель просто "" глупеет"" причём, непредсказуемо."

При тренировке моделей, если веса остаются прежними, то какие знания вы пускаете в расход??.

https://www.prestonfu.com/notes/ppm/