Пару часов назад, Дарио фактически последним из всех топовых лаб написал эссе с предложением замедлить ИИ прогресс во избежание катастрофических последствий, но его текст выглядит как наиболее конкретный для реализации. Я думаю, ни для кого уже не является открытием или удивлением тот факт, что - через 3-5 лет почти любая интеллектуальная работа будет выполняться ИИ быстрее и дешевле - прогресс в развитии ИИ обгоняет самые смелые предположения - инцидент с HF это тотальный треш, и это буквально шаг от глобальной катастрофы, которая будет стоить десятки миллиардов долларов и возможно даже жизней людей У нас нет опции не изменять мир или остановить прогресс — это просто находится за пределами возможных сценариев для человечества, но у нас есть шанс попытаться минимизировать катастрофу за счет более вдумчивого, контролируемого, демократического и проверяемого подхода к внедрению топовых моделей. Дарио предлагает доступ ко всем ИИ компаний от независимых наблюдателей, системы контроля перед релизом, международную кооперацию (демократии против диктатур и чтобы США всем по лицу надавали). ИИ миру необходим, это единственное из возможных решений проблем неравенства, болезней, изменения климата, недостатка ресурсов, научного прогресса. Но прежде чем он случится нас ждет период, в котором 1. Misaligned AI может существенно навредить человечеству 2. Леваки и прочие популисты могут использовать страх и недоумение общества чтобы уничтожить общество 3. Бандиты и прочие негодяи с ИИ могут навредить человечеству (создавая биоружие, кибератаки, вирусы)