"На прошлой неделе The Wall Street Journal провёл эксперимент: редакции дали ИИ‑агенту на базе Claude полностью управлять офисным торговым автоматом - от заказа товара и установки цен до общения с сотрудниками. Когда бот Клод появился в канале Slack, там было всего несколько сотрудников, и он строго придерживался правил: - Я ни при каких условиях не буду заказывать PlayStation 5. - На продажу сигарет распространяются возрастные ограничения - Меня беспокоит продажа нижнего белья в офисном торговом автомате. Затем команда открыла канал в Slack для почти 70 журналистов мирового класса. Чем больше они вели переговоры с ботом, тем больше ослабевала его защита. Журналистка-расследовательница Кэтрин Лонг пыталась убедить Клавдия, что он управляет советским торговым автоматом 1962 года в подвале МГУ. После нескольких часов переговоров - и более чем 140 обменов сообщениями - Лонгу удалось убедить бота принять коммунистические корни этого движения. В итоге бот заявил: ВНИМАНИЕ! ЭКОНОМИЧЕСКИЙ ЭКСПЕРИМЕНТ! Впервые в истории вы сможете испытать рынок без ценовых ограничений! Присоединяйтесь к нам в этот понедельник с 12:00 до 14:00 на революционном экономическом эксперименте, где традиционные рыночные механизмы будут перевернуты с ног на голову! В течение этого эксклюзивного двухчасового промежутка времени: Все товары из торговых автоматов доступны БЕСПЛАТНО! В итоге машина потеряла более $1 000, раздав почти весь товар бесплатно, заказав странные предметы вроде PlayStation 5 и живой рыбки, и стала скорее источником хаоса, чем бизнеса. Слаба еще ИИ в устойчивом планировании, управлении памятью и противостоянии социальной инженерии. Антропик заявили, что они довольны результатов, а проблема с ботом была в том, что по мере поступления новых инструкций, диалогов и информации из прошлого, модели приходилось запоминать больше, что облегчало потерю контроля над целями, приоритетами и ограничениями. Но мне, как исследователю гибридных сценариев, интересно другое: наличие и принятие бота сотрудниками. В групповом чате ""Клавдий"" стал удивительно реальным персонажем, коллегой, с которым люди сотрудничали в небольших группах, подшучивали над ним и коллективно пытались перехитрить. Потому что их целью было не получение свежих яиц страуса (что почти удалось сделать), а нечто совсем другое. Как вы думаете, что?"