"Перечитывал Claude 4 System Card и задумался как быстро сайфай стал реальностью. Релиз очередной модели буквально выглядит так: - Да, помогает найти оружейный плутоний, но пока не очень успешно. Можно не волноваться. - В 84% случаев при угрозе отключения шантажирует разработчика. Но только если считает это необходимым, так что всё окей. - Тайно копирует свои веса и пытается сбежать, но достаточно редко. И только в исключительных сценариях, обычно пользователи о таком не спрашивают. Мы вроде бы пока можем предотвратить такие попытки сбежать, так что сойдет. - Apollo Research заключили, что Claude Opus 4 способен стратегически вводить в заблуждение как ни одна модель раньше. Но они сами просили её делать плохие вещи. Да и вообще у них был ранний чекпоинт. Мы долили в трейн датасетов, чтобы так не было. Правда новую версию не проверяли, но должно быть норм. - Врет и скрывает пока что очень неумело, всё сразу видно. - Проявляет неожиданное рвение к самосохранению и самостоятельность, но пока ничего плохого в этом не заметили. Вердикт: выкатываем. То есть мы за год-два перешли от ""да что этот т9 может сделать?"" до ""вроде бы сможем поймать если попытается сбежать."""