"Значит одни знания меняются на другие и модель просто "" глупеет"" причём,…

эм нет не значит они меняются чтобы лучше предсказывать то что нужно изначально они просто случайные, в процессе тренировки они настраиваются чтобы решать…

"Вы ошибаетесь. У модели нет ""пустых весов"" -это её знания и связи. Вы можете успешно их сломать под свои задачи, но она не будет прежним эрудитом."

так а мы про что говорим? про тренировку изначальную или тюнинг? тюнинг на то и тюнинг что уже натренированную сетку тюнят под задачи отдельные возможно если…

нет сами веса меняются объем тот же остается циферки в весах меняются

Менятся в объеме или в качестве. Тогда если модель была 4b то станет 8b. И вырастут требования к железу? Структура весов не сломается, как структурировать…