Google засунули AI-агента в 20+ чатов реальных команд на 5 месяцев. Результаты получились забавные. https://arxiv.org/pdf/2609.29901 Агент имел доступ к документам и баг-трекеру команды, как обычный сотрудник, умел сам заводить баги, писать людям в личку, реагировать эмодзи, тегать коллег. И все бы ничего, но, внезапно, главная проблема оказалась в том, что ИИ не поладил с живыми людьми. Одного инженера он на полном серьезе отчитал за шутки (не понял сарказма). В другой команде проставил тег вице-президенту в 16 багах подряд, посчитав, что раз человек в контексте, значит, должен разгребать баг-трекер. В общем, сработаться с агентом оказалось сложнее, чем кажется. Некоторые команды стали создавать отдельные приватные чаты без него: чтобы обсудить найм сотрудников, чувствительные темы или просто почувствовать, что их не слушают. Один из участников сказал, что ощущения были очень похожи на «большого брата».
Google засунули AI-агента в 20+ чатов реальных команд на 5 месяцев. Результаты…
Из этого канала
- #10028OpenAI: заявляют, что замедляют обучение и массово перебрасывают человеческие…
OpenAI: заявляют, что замедляют обучение и массово перебрасывают человеческие ресурсы на безопасность Тем временем Борис Пауэр, глава Applied Research в…
- #10029Тот самый курс по ML, который прошли 200 000 человек. Теперь — в новой версии С…
Тот самый курс по ML, который прошли 200 000 человек. Теперь — в новой версии С 2016 по 2022 год специализация «Машинное обучение и анализ данных» на Coursera…
- #10030Дженсен Хуанг и 100+ партнеров анонсируют NVIDIA Open Agent Safety Platform Это…
Дженсен Хуанг и 100+ партнеров анонсируют NVIDIA Open Agent Safety Platform Это система для контроля и ограничения ИИ-агентов, главная идея которой состоит в…
- #10026Недавно мы рассказывали об открытом письме филдсовских медалистов в защиту…
Недавно мы рассказывали об открытом письме филдсовских медалистов в защиту математики в эпоху ИИ.
- #10025"Axios пишет, что OpenAI и Anthropic расследуют ""десятки тысяч"" инцидентов с…
"Axios пишет, что OpenAI и Anthropic расследуют ""десятки тысяч"" инцидентов с побегами агентов Со ссылкой на источники в обеих компаниях и независимых…