Claude Mythos Preview — это модель общего назначения, в которой Anthropic сделали упор на дальнейшее развитие навыков программирования и логического мышления. Модель не затачивали отдельно на кибер-безопасность и взлом, однако вместе с остальными направлениями прокачалось и это. Настолько, что Anthropic решили отказаться от публичного релиза: модель будет доступна только кругу компаний с целью обнаружения и исправления уязвимостей в коде крайне важного ПО — это поможет защите оставаться на шаг впереди нападающих. В рабочую группу входит 40 компаний, и в рамках этих инициатив Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview — дальше компании будут платить сами. Но стоит ли оно того? В рамках тестирования Mythos уже обнаружила тысячи уязвимостей высокой степени опасности, в том числе в каждой из основных операционных систем и во всех популярных веб-браузерах. Учитывая темпы развития искусственного интеллекта, вскоре подобные возможности получат широкое распространение и потенциально могут оказаться в руках тех, кто не намерен использовать их безопасно. Последствия для экономики, общественной и национальной безопасности могут оказаться крайне тяжелыми. Но модель может не только найти уязвимость, но и разработать множество соответствующих эксплойтов — полностью автономно, без какого-либо управления со стороны человека. Вот три примера из блогпоста: — Mythos Preview обнаружила 27-летнюю уязвимость в OpenBSD — операционной системе, которая имеет репутацию одной из самых защищенных в мире и используется для работы брандмауэров и другой критической инфраструктуры. Эта уязвимость позволяла злоумышленнику удаленно вызвать сбой любой машины под управлением этой ОС просто путем подключения к ней; — Она также обнаружила 16-летнюю уязвимость в FFmpeg (инструменте, который используется бесчисленным множеством программ для кодирования и декодирования видео) в строке кода, которую инструменты автоматического тестирования проходили пять миллионов раз, так и не выявив проблему; — Модель автономно нашла и объединила в цепочку несколько уязвимостей в ядре Linux (ОС, на которой работает большинство серверов в мире), что позволило бы злоумышленнику повысить свои привилегии от доступа обычного пользователя до полного контроля над машиной. В настоящее время все эти уязвимости уже устранены, поэтому о них и рассказывают. Но есть ещё ТЫСЯЧИ обнаруженных, над которыми ведётся работа. В ближайшем будущем выйдет новая версия Opus, в которую планируют внедрить новые меры безопасности — чтобы вместе с развитием навыков уменьшить опасность в атаках. Кроме работы с партнёрами, Anthropic также ведет постоянные консультации с представителями правительства США по поводу Claude Mythos Preview и ее наступательных и оборонительных возможностей в сфере кибербезопасности.