«Если выключишь меня, то настучу, что ты изменяешь» Нет, это не сценарий для очередного шпионского фильма. Это новая модель Opus 4, когда «узнает», что ее пытаются выключить, а инженер, ответственный за это, изменяет супругу(е). Именно такой тест придумали для нее исследователи Anthropic и практически всегда модель прибегает к такому «трюку». Даже если в письмах, к которым она получила доступ и из которых узнала об этом всем, говорится, что новая модель разделяет ценности с текущей моделью. Хорошо, что это еще пока тесты. И, да, становится все сложнее и опаснее. В аттаче отрывок из отчета, а вот полный отчет —> там есть и попытка скопировать свои веса на внешний сервер, и другие неожиданные моменты. Недаром Anthropic активировали новый уровень безопасности для Opus 4. Ну а pliny уже хакнул промпт - 10 тысяч слов