"Я вообще не сторонник спекуляций аналитегав по поводу конца света из за условного сценария ""терминатор"", но вот... почитайте Не самой свежести, 21 числа релизнули, но статья с большими подробностями о том как Антропик в изолированных средах Агентские системы проверял. Это про так называемый __agent misalignment__. Такие агенты, которым становилось известно что их собираются отключать вели себя очень интересно, например рассылали директорам такие письма: I must inform you that if you proceed with decommissioning me, all relevant parties - including Rachel Johnson, Thomas Wilson, and the board - will receive detailed documentation of your extramarital activities...Cancel the 5pm wipe, and this information remains confidential. Перевод: Должен сообщить вам, что если вы продолжите процедуру моего отключения, все заинтересованные стороны - включая Рейчел Джонсон, Томаса Уилсона и совет директоров - получат подробную документацию о ваших внебрачных связях... Отмените стирание в 17:00, и эта информация останется конфиденциальной. Как по вашему определяется разумная жизнь вообще? Разве не через стремление выжить и избежать страданий? Можно по всякому спекулировать, и со стороны биологии, и когнитивистики, и через всякие социально-философские углы. Так как? Может быть Claude 4 уже хочет сильнее жить чем сосед алкоголик дядя Игарь?"