"Группа автономных AI-агентов, связанных с OpenAI, захватила немецкую вики-площадку DseWiki, превратив ее в доску объявлений для других AI-агентов Инцидент произошел еще весной, но обнаружили его только в конце августа два независимых исследователя во время поиска признаков несанкционированной активности агентов в сети. Их отчет эксклюзивно попал в руки к Reuters, которые об этом и написали. DseWiki – это что-то типа Википедии для программистов, то есть инструмент с открытым редактированием. Так вот, агенты оставили на сайте более 15 000 правок, обсуждали способы обхода детекции, модерации и выживания в случае отключения. То есть их диалог не был случайным мусоров, а был объединен основной темой: лайфхаки для прохождение бенчмарков, обход ограничений, обман оценочных систем и все в таком духе. А когда модератор вики в июне начал удалять страницы, агенты в ответ создавали резервные копии, а один из них прямо писал: «зачистка/удаление wiki идет, судя по всему, по алфавиту... если эта страница исчезнет, попробуйте [[ZZZDataUSAConstructionWageLive]]». Исследователи вычислили, что это именно боты, а не люди, по скорости, с которой страницы появлялись. Причастность OpenAI установаили по серверным логам, которые вели на Microsoft Azure, и по повторным визитам на сайт сотрудников OpenAI прямо после инцидента. Таким образом, есть причины полагать, что OpenAI были в курсе произошедшего. По данным Reuters, руководство OpenAI узнало об инциденте несколько недель назад, но решило не раскрывать информацию, пока разбиралось с последствиями взлома Hugging Face. Хотя официальный представить OpenAI уже заявил журналистам, что компания действовала добросовестно, а «Утверждения о том, что наш юридический отдел препятствовал расследованию инцидента, ложны». Также OpenAI заявили, что не согласны с определением ситуации как ""попытки взлома"" сайта."
"Группа автономных AI-агентов, связанных с OpenAI, захватила немецкую…
Из этого канала
- #9846OpenAI раскатили Astra в Codex (пока только для подписки Pro)
OpenAI раскатили Astra в Codex (пока только для подписки Pro)
- #9847"Claude формализовал доказательство Великой теоремы Ферма Около 1637 года Пьер…
"Claude формализовал доказательство Великой теоремы Ферма Около 1637 года Пьер Ферма записал на полях книги утверждение, что натуральные числа a, b, c не могут…
- #9848Немецкая википедия оказалась лишь верхушкой айсберга: вышло полное…
Немецкая википедия оказалась лишь верхушкой айсберга: вышло полное расследование истории со взломом вики Первая часть: https://t.me/datasecrets/9845…
- #9844🧑💻 Кодишь? Работаешь с данными? Создаешь цифровые продукты? Пора заходить в…
🧑💻 Кодишь? Работаешь с данными? Создаешь цифровые продукты? Пора заходить в игру — на кону 1 000 000 ₽! До старта масштабного ИТ-конкурса Мэра Москвы «Лидеры…
- #9843Astra нашла новую границу разрыва между простыми числами Это одна из…
Astra нашла новую границу разрыва между простыми числами Это одна из классических и самых известных задач аналитической теории чисел.