"Какой самый страшный пример взлома автономного AI агента вы можете придумать? Автономные агенты - это те же продукты с LLM под капотом. Просто вместо автоматизации небольших шагов какого-то пайплайна, у них сильно больше степеней свободы и возможностей выбора. Самый яркий пример безграничной свободы агента - это MoltBot/ClawdBot. Он очень автономен и гибок, что делает его одновременно и жутко полезным (для тех, кто агентов до этого в глаза не видел) и жутко небезопасным (как все говорят). Так вот, какие самые хитрые сценарии взлома или поломки подобного персонального ассистента вам приходят в голову? Считаем, что это обычный MoltBot. Запушен на Маке без дырок наружу. Но при этом помогает с письмами, с общением в TG. Делает обзоры новостей, помогает с версткой сайтиков и проектиков итп. Может ходить на сайт, где агенты тусят. Не абстрактно ""стащить пароли"", а как именно это убедить агента сделать? Ваш, @llm_under_hood 🤗"