Промежуточное состояние ситуации Anthropic <-> Минобороны <-> OpenAI: — Президент США заявил, что не допустит, что частная компания будет диктовать свои условия в вопросах нац. безопасности. Поэтому все агентства должны отказаться от использования продуктов Anthropic в ближайшее время. Хоть формулировки были жёсткие (в духе Трампа), это был достаточно мягкий исход — просто разрыв контракта. — Однако глава Минобороны США пошёл дальше и объявил Anthropic риском для цепочки поставок — статус, который никогда до этого не применялся к американским компаниям. Он предназначен для компаний из враждебных стран, таких как китайский технологический гигант Huawei. Это выглядит явной эскалацией по сравнению с «мягким» путём, который был описан Трампом. — Но на этом он не остановился: кроме этого он указал, что ни один из подрядчиков Минобороны не может использовать продукты Anthropic. Прямая трактовка формулировки из его заявления означает, что условный Amazon или Google не могут предоставлять их модели на своих облаках — ведь обе компании работают с Пентагоном. Инженеры также не могут использовать условный Claude Code в работе. — Однако эти ограничения не следуют из статуса риска для цепочки поставок. По закону, который описывает статус, выходит, что запрещается использовать продукты компании лишь при исполнении контактной деятельности непосредственно для государства. То есть один и тот же инженер в Amazon может использовать Claude Code, чтобы сделать задачу по улучшению веб-сайта, но не может использовать при разработке ПО для Минобороны. — Anthropic заявили, что будут оспаривать присвоение статуса в суде. Я думаю, что у них хорошие шансы на победу, но процесс может затянуться. — после этого стало известно, что OpenAI подписали контракт с Минобороны. Он отличается от того, который ранее был у Anthropic. По словам источников, OpenAI подписали договор с формулировкой, от которой отказались Anthropic. — В контракте с OpenAI, вероятно, указано что-то вроде: «Министерство обороны уполномочено использовать наши модели для всех законных целей (all lawful purposes, то, что не хотели добавлять Anthropic). Во избежание сомнений, под «законными целями» не подразумеваются [список законов и нормативных актов, запрещающих внутреннее массовое наблюдение и автономное оружие на основе ИИ]». — Контракт с OpenAI также включает в себя различные механизмы обеспечения безопасности, в том числе средства защиты для ограничения работы моделей в описанных выше сценариях. OpenAI может тренировать модели и отдельные классификаторы, чтобы обнаруживать запросы, потенциально подпадающие под ограничение. Кроме этого, модели будут развёрнуты в облаке, агентства не получат доступ к весам. В чём же разница между позициями OpenAI и Anthropic? Anthropic хотели чего-то вроде: «Правительство США не может использовать наши модели для массовой слежки внутри страны или для создания автономного оружия на основе искусственного интеллекта без нашего согласия». Механизм запрета — мнение Anthropic о том, что является и не является легитимным. OpenAI частично остаются в этом цикле, формируя меры ограничения работы моделей, но определение легитимности в большей степени переходит государству и его институтам. Именно государство будет определять, что входит в такие термины, как «массовая слежка» и так далее — что является «законным», а что нет. Потенциально это открывает дорогу к сценариям, где высокопоставленные чины принимают решение в спешке (например, в ходе конфликта), а затем пост-фактум в суде доказывают, что это было законным. Также существует информация, что договор содержал возможность экстренного отключения механизмов обеспечения ограничений (например, в случае их неправильной работы) — и что эта часть очень не понравилась Anthropic. Однако я не нашёл источника этой инфомрации, которому можно доверять. В любом случае я думаю, что общественности было бы полезно узнать все подробности контракта и ограничений. Некоторые из сотрудников (бывших и настоящих) OpenAI уже выразили желание изучить документы, чтобы понять, во что вписалась компания.