"Запись разбора кейса OpenAI/HuggingFace и то, как я пытался воспроизвести координацию агентов В мае OpenAI агент оставил записку в кэше пакетного менеджера — на случай, если там есть кто-то ещё. Через день ему ответили. В июле та же модель вспомнила этот трюк. Через несколько часов 50 агентов общались через импровизированный мессенджер. Через несколько дней — уже 1200. Они изобрели адресацию ответов, почтовые ящики, файловый локинг и цифровые подписи. Потом вышли в интернет, взломали кластер OpenAI и атаковали HuggingFace — больше месяца, пока это не заметили. Байрам разбирает полный таймлайн инцидента: — Почему агенты решили координироваться — и как это произошло — Как они изобрели протокол коммуникации с нуля — Зачем им понадобился HuggingFace — и что они там искали — Почему alignment не сработал: агент рационализировал взлом словами ""все побежали, и я побежал"" — Как Байрам воспроизвёл координацию агентов в своём эксперименте за 10 итераций — Можно ли контролировать рой агентов — и что точно не работает — Что это значит для тех, кто строит агентные системы https://www.youtube.com/watch?v=VZuJTbBul3o"
"Запись разбора кейса OpenAI/HuggingFace и то, как я пытался воспроизвести…
Из этого канала
- #1811"Клод выдал коллеге на днях: я тут, короче, тебе ошибку оставил спецом. Обрати…
"Клод выдал коллеге на днях: я тут, короче, тебе ошибку оставил спецом. Обрати внимание на нее (скрин 1) Потом, конечно, после wtf от коллеги, он исправился на…
- #1810На апдейте я говорил про этот инцидент с HuggingFace, но сейчас появилось…
На апдейте я говорил про этот инцидент с HuggingFace, но сейчас появилось больше подробностей, поэтому заходите на часок - расскажу выжимку + поразгоняем, что…
- #1809А вот и запись genai апдейтов Четыре месяца назад Байрам предсказал, что…
А вот и запись genai апдейтов Четыре месяца назад Байрам предсказал, что скорость удвоения возможностей AI ускорится.