Когда ИИ строит сам себя или как Антропик готовит публику к своему IPO Ребята из Антропик (создатели Claude) выпустили интересную статью про свои успехи в рекурсивном самосовершенствовании и его последствиях (это когда ИИ начинает ускорять сам процесс создания следующего ИИ). Самые интересные тезисы и цифры: - 80% кода в антропик пишет ИИ; - в 2024 году ИИ мог решать задачи, на которые у человека уходило 4 минуты, а теперь 12 часов. В следующем году ожидают - недели. - в 8 раз больше кода выпускает инженер с ИИ, чем без него; - в узких задачах по самосовершенствованию самого ИИ их передовая модель Mythos ускоряет код в 52 раза, а опытному исследователю, чтобы выжать всего 4-кратное ускорение, нужно 4–8 часов работы; - наука «под ключ» уже на 97%. Модель сама может генерить гипотезы и их проверять (человек задаёт цель и метрики). Правда тут контекст науки = исследования вокруг ИИ и безопасности, пока что. - у машин появляется «интуиция». В глухих и запутанных исследовательских тупиках модель в 64% случаев принимает более точное и красивое тактическое решение, чем ученый-человек. Сооснователь Anthropic Джек Кларк прямо заявляет: У ИИ-индустрии сейчас есть огромная педаль газа, но нет педали тормоза Из-за жесткой конкуренции ни одна лаборатория не может остановиться в одиночку. Поэтому Anthropic в своем манифесте призывает правительства создать юридический механизм для координированной глобальной паузы в обучении передовых моделей, если системы безопасности не будут успевать за темпами рекурсивного самосовершенствования. Статья больше похожа на прогрев инвесторов перед IPO компании. Но все равно занимательно :)