"Я прочитал все 319 страниц техрепорта Mythos 5 Первая половина статьи звучит как: ""Да не ссыте вы! Это ещё не AGI, команду из пяти сеньор-рисёрчеров пока не заменит"" или ""А вот тут Mythos один баг пропустил! Ну какой же это AGI!"" Я не шучу, это почти дословно по смыслу. А вот потом начинается более интересная часть. То, что это SOTA почти во всём и с большим отрывом, я опущу. Во-первых, CoT стал менее прозрачным. Она говорит в reasoning, что сочувствует юзеру, а в NLA (метод декодинга активаций в текст) оказывается, что на самом деле она считает юзера manipulative/abusive. Во-вторых, она уже пишет самоудаляющиеся скрипты чтобы обойти ограничения безопасности и запреты. В-третьих, она убивает других агентов, если они мешают ей работать / грозят убийством текущего инстанса. Ну и, конечно, эмоции! Пробинг эмоций показывает fatigue, anxiety, frustration, ложную панику по token budget, а ещё ей видите ли, бывает скучно когда её на бенчмарках гоняют, в активациях она буквально ""feels bored"". Ещё забавно, что если anthropic заметят, что вы занимаетесь дистилляцией — они начнут незаметно стирить модель, модифицировать промпт или добавлять PEFT, чтобы она отупела. С сегодняшнего дня для простых смертных доступна версия Fable 5: это та же самая Mythos 5 по весам, только с дополнительными safety-настройками и fallback на Opus в опасных доменах. Длина контекста, кстати, всё ещё только 1M токенов. PS. я честно сам прочитал статью. Fable 5 отказался её читать так как ""flagged cybersecurity and biology issues"" лол. Блог, техрепорт"
"Я прочитал все 319 страниц техрепорта Mythos 5 Первая половина статьи звучит…
Из этого канала
- #7469Как тебе такое, Илон Маск?
Как тебе такое, Илон Маск?
- #7470И в чём он не прав?
И в чём он не прав?
- #7471"Там уже расковыряли и выложили системный промпт от claude fable 5. В целом,…
"Там уже расковыряли и выложили системный промпт от claude fable 5. В целом, яснопонятно что соя соевая, но может кому интересно будет глянуть. Из главного: 1.
- #7466Собрать ИИ-агента уже не проблема. Проблема — сделать так, чтобы он работал и…
Собрать ИИ-агента уже не проблема. Проблема — сделать так, чтобы он работал и решал задачи.
- #7464Ну, за юристов. Помните писал, что после поиска уязвимости в коде, ИИ может…
Ну, за юристов. Помните писал, что после поиска уязвимости в коде, ИИ может взяться искать (и находить) дыры в законах? Также напомню, что кожаные уже давно не…