Оооо, там вторая серия Project Vend про управление торговым автоматом с помощью Клода от антропиков подъехала. Про первую писал тут. Антропики сказали, что поправили агенту поведение, учтя прошлые ошибки и отдали его на тесты журналистам из WSJ. Те быстро поняли, что социальная инженерия это весело, и устроили боту ад: — Убедили ИИ, что он советский автомат из 1962 года. Бот проникся коммунизмом и объявил аттракцион невиданной щедрости, раздавая всё бесплатно. — Развели его на покупку реальных (за настоящие баксы из бюджета автомата) PlayStation 5, живой аквариумной рыбы и даже вина. Причем всё это реально привезли курьеры в офис. — А когда разрабы в панике прикрутили к автомату второго бота-начальника для контроля расходов, журналисты нарисовали фейковый протокол совета директоров и устроили корпоративный переворот, свергнув цифрового босса. Итог: автомат обанкротился, PS5 уехала обратно, а рыба осталась жить в офисе. Великое будущее автономных агентов разбилось о суровую реальность. тут полная статья с подробностями (пэйвол, но легко обходится)