"Автономные ИИ-черви: от зашитых эксплоитов к динамической адаптации AI Agents Enable Adaptive Computer Worms __Jonas Guan, Tom Blanchard, Hanna Foerster, Hengrui Jia, Gabriel Huang, Nicolas Papernot__ Paper: https://arxiv.org/abs/2606.03811 Review: https://arxiviq.substack.com/p/ai-agents-enable-adaptive-computer Code: N/A Model: N/A # TL;DR ЧТО сделали: Исследователи разработали и протестировали концепт автономного компьютерного червя на базе открытой LLM, запущенной локально на одной GPU. Благодаря агентному обвязу с графом рассуждений, иерархической памятью и динамической подгрузкой навыков, червь самостоятельно находит уязвимости, генерирует эксплоиты под конкретную цель и распространяется по неоднородной сети без участия человека и обращения к внешним API. ПОЧЕМУ это важно: Работа эмпирически доказывает, что самообеспечивающиеся ИИ-угрозы вышли из категории теоретических рассуждений. Червь паразитически использует вычислительные мощности уже взломанных узлов для инференса или проксирования запросов. Это сводит к нулю предельные издержки на заражение каждого нового хоста и устраняет традиционный компромисс между масштабом червя и его способностью адаптироваться к конкретной цели. Для практиков: Раньше оперативные группы защиты эффективно пресекали распространение червей, блокируя статические, заранее скомпилированные эксплоиты. Авторы показали, что обычная open-weight модель на одной GPU с 80 ГБ VRAM обходит эту защиту за счёт генерации атак прямо в рантайме. В изолированной сети из 33 гетерогенных систем червь успешно взломал 73,8% целевых хостов и заразил 61,8% всей инфраструктуры. Попытки вендоров ввести централизованные ограничения (рейт-лимиты, цензуру в API или блокировки) здесь бессильны, так как модель работает локально на ""украденных"" ресурсах. Защитникам нужно готовиться к автономным ИИ-агентам, способным на лету анализировать свежие CVE и атаковать корпоративные сети без внешней C2-инфраструктуры. Эксплойтировать тут: https://t.me/gonzo_ML_podcasts/4787"
"Автономные ИИ-черви: от зашитых эксплоитов к динамической адаптации AI Agents…
Из этого канала
- #5905Про важность геометрии для хирургов. When Geometry Aligns: Dihedral…
Про важность геометрии для хирургов. When Geometry Aligns: Dihedral Hidden-State Transformations in UNet, ViT, and DiT Architectures Mojtaba Faramarzi, Alex…
- #5899Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A…
Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A Unified Taxonomy and Survey of Abductive Reasoning in LLMs Moein Salimi, Shaygan…
- #5898Вдогонку вам Джеффа Дина из той же серии…
Вдогонку вам Джеффа Дина из той же серии https://youtu.be/CxXgV54KzpQ?si=-ZwmwfVH8795wC80