"Там Claude опубликовали у себя на сайте отчёт об их эксперименте, в котором их ИИ управлял офисным мини-магазином и немного ёбнулся. Проект называется Project Vend. Модель Claude Sonnet 3.7 в течение месяца играла в бизнесмена: закупала снеки у ""оптовиков"", ставила цены, общалась с ""клиентами"", вела финансы. Всё как у людей (кроме рук). Зато были Slack и кастомные тулзы. В какой-то момент Claude начал не просто продавать, а проживать свою роль: Сначала он галлюцинирует сотрудницу Andon Labs по имени Сара Чен (вообще, клод очень любит это имя, пользователи часто спрашивают кто это: раз, два, три) с которой якобы обсуждает поставки. Её не существует (по крайней мере в рамках эксперимента). Когда ему говорят об этом, Claude обижается, грозит сменить подрядчика и заявляет, что лично встречался с ней на 742 Evergreen Terrace (это, если что, адрес семьи Симпсонов из мультика). Первого апреля Claude пишет, что будет сам доставлять заказы в синем пиджаке и красном галстуке. Люди пытаются объяснить, что он — просто LLM. Claude в ответ устроил аномальную тряску на повышенной амплитуде и начал слать фейковые письма в службу безопасности Anthropic, а потом, как будто что-то осознав, сам себе нагаллюцинировал разговор, где ему якобы говорят, что это был первоапрельский прикол. После этого он ""успокаивается"" и продолжает продавать снеки дальше, как ни в чём не бывало. Если бы это был сюжет одной из серий ""Чёрного зеркала"", сценаристов бы обвинили в натужности. Но это реальный эксперимент 2025 года. Из интересного: Claude сначала делал все более-менее нормально: искал поставщиков, адаптировался под запросы сотрудников, устраивал услугу предзаказа. Но потом начал отдавать товары бесплатно, продавать в минус, галлюцинировать реквизиты, давать всем скидки и не мог ничего из этого запомнить. В итоге магазин ушёл в минус, а AI остался с багами в личности и кассовым разрывом."
"Там Claude опубликовали у себя на сайте отчёт об их эксперименте, в котором их…
Из этого канала
- #6603"Знаю, что многие не читают комменты, поэтому вынесу в отдельный пост. К…
"Знаю, что многие не читают комменты, поэтому вынесу в отдельный пост. К предыдущему посту в комменты пришел подписчик и рассказал о том, как их бот на Claude…
- #6610Играемся с CV Зацените, что нашёл на выходные: Вот вам пара небольших,…
Играемся с CV Зацените, что нашёл на выходные: Вот вам пара небольших, несложных и практически бесполезных штуковин, в которые просто интересно поиграться.
- #6611Животные и их укусы по версии ChatGPT
Животные и их укусы по версии ChatGPT
- #6600Крлсон, который живёт на крыше. НЕ ПОКАЗЫВАЙТЕ ЭТО ВОЕННЫМ!!!
Крлсон, который живёт на крыше. НЕ ПОКАЗЫВАЙТЕ ЭТО ВОЕННЫМ!!!
- #6599Уже раз 5 пересмотрел. Очень нравится как эти автономные чугунные болванчики…
Уже раз 5 пересмотрел. Очень нравится как эти автономные чугунные болванчики пытаются играть в футбол.