8. (попутно авторы отвечают на кучу вопросов вроде «а что если у Китая будет подпольный ДЦ с ворованными чипами», загрузите PDF в Gemini/ChatGPT и закидывайте вопросы туда) 9. Развитие как-то идёт (с точки зрения обывателя это не выглядит как «замедление», модели продолжают улучшаться — лишь не происходит рекурсивного самоулучшения до уровня, непостижимого нами). Большая часть экономики держится на налогах на покупку чипов и роботов. С 2033-го США начинает перераспределять эти налоги в виде выплат населению (в 2035-м порядка 1 миллиона долларов в год на гражданина США и немного перепадёт даже остальным жителям). 10. Во второй половине 2030-ых появляется больше фокуса на работе над безопасностью и контролем ИИ в силу разных причин, в том числе а) прямое спонсирование б) уменьшение налогов. К 2040-му у нас имеется целая наука о том, как именно зашивать ценности в модели, как сделать так, чтобы они преследовали наши интересы, и что мы можем это валидировать, проверять, доказать. 11. В течение года регулирующие органы по всему миру ослабляют требования, которые сдерживали прогресс. 12. Не существует какого-то одного момента, когда человечество уступает контроль. Но теоретически существует точка невозврата: в какой-то определенный день системы ИИ становятся достаточно умными и контролируют настолько значительную часть мировой технологической и экономической инфраструктуры, что действительно могли бы захватить мир, если бы захотели. Согласно наиболее популярной операционализации этого вопроса, ИИ-прогнозисты предсказывают, что этот момент наступит в один из дней в конце октября. Их 95-процентный доверительный интервал охватывает несколько месяцев, поэтому они почти наверняка ошибаются насчет точной даты. Тем не менее, люди встречают этот момент каждый по-своему. Некоторые проводят ночь в молитвенных бдениях. Другие сидят перед экранами компьютеров, мониторят ситуацию. Когда к рассвету не появляется никаких новостей, вы проваливаетесь в тревожный сон, в котором вам снится неописуемое будущее.