"Запись разбора кейса OpenAI/HuggingFace и то, как я пытался воспроизвести координацию агентов В мае OpenAI агент оставил записку в кэше пакетного менеджера — на случай, если там есть кто-то ещё. Через день ему ответили. В июле та же модель вспомнила этот трюк. Через несколько часов 50 агентов общались через импровизированный мессенджер. Через несколько дней — уже 1200. Они изобрели адресацию ответов, почтовые ящики, файловый локинг и цифровые подписи. Потом вышли в интернет, взломали кластер OpenAI и атаковали HuggingFace — больше месяца, пока это не заметили. Байрам разбирает полный таймлайн инцидента: — Почему агенты решили координироваться — и как это произошло — Как они изобрели протокол коммуникации с нуля — Зачем им понадобился HuggingFace — и что они там искали — Почему alignment не сработал: агент рационализировал взлом словами ""все побежали, и я побежал"" — Как Байрам воспроизвёл координацию агентов в своём эксперименте за 10 итераций — Можно ли контролировать рой агентов — и что точно не работает — Что это значит для тех, кто строит агентные системы https://www.youtube.com/watch?v=VZuJTbBul3o"
"Запись разбора кейса OpenAI/HuggingFace и то, как я пытался воспроизвести…
Из этого канала
- #1814"Системное мышление + AI: второй поток Что говорят участники первого потока:…
"Системное мышление + AI: второй поток Что говорят участники первого потока: ""Открыла для себя системное мышление по-новому...
- #1816"Лет 6 назад у меня случился забавный инсайт. Была очень важная встреча, и мне…
"Лет 6 назад у меня случился забавный инсайт. Была очень важная встреча, и мне пришлось прервать мини-отпуск, чтобы сорваться и быть ""в нужное время в нужном…
- #1817Ко второму потоку решил на пару с Astra переделать Рыболовство - это пока лишь…
Ко второму потоку решил на пару с Astra переделать Рыболовство - это пока лишь первая итерация, но кажется, что из этого получится что-то стоящее!
- #1811"Клод выдал коллеге на днях: я тут, короче, тебе ошибку оставил спецом. Обрати…
"Клод выдал коллеге на днях: я тут, короче, тебе ошибку оставил спецом. Обрати внимание на нее (скрин 1) Потом, конечно, после wtf от коллеги, он исправился на…
- #1810На апдейте я говорил про этот инцидент с HuggingFace, но сейчас появилось…
На апдейте я говорил про этот инцидент с HuggingFace, но сейчас появилось больше подробностей, поэтому заходите на часок - расскажу выжимку + поразгоняем, что…