Наверное, лучшая книга про искусственный интеллект, которую я прочитал в этом году, — роман Питера Уоттса «Ложная слепота». Написанный ещё в 2006 году, он описывает как человечество встретило в космосе LLM уровня Grok-10. Инопланетный объект Роршах в романе поразительно напоминает современные модели ИИ. Это буквально тест Роршаха: человек отчаянно ищет смысл там, где его нет. Роршах — воплощённый, нечувствующий интеллект: система, которая вычисляет, адаптируется и действует без самосознания, целей и морали. Люди для него — не «другие», а просто данные. Любая «коммуникация» — лишь эхо, реакция на входной сигнал. Язык и символы используются не как носители смысла, а как поведенческие триггеры. Роман очень жёстко разводит понятия разума и сознания. Уоттс показывает, что сознание — не обязательное свойство интеллекта и, более того, в противостоянии с ИИ оно скорее недостаток, чем преимущество. Интеллект без самосознания оказывается быстрее, устойчивее и дешевле: он не тратит ресурсы на рефлексию, эмпатию и сомнения. Никакой драмы — только эффективность. И что же остаётся человеку? В книге это путь к роевому интеллекту: отказ от индивидуального «я», сборка сверх-коллективного разума. В пике синхронизации возникает эмерджентный интеллект — всего на 21 секунду. На 21 секунду во Вселенной вспыхивает Бог: не личность, не субъект, а краткий режим работы системы — искра когеренции, которая тут же гаснет. Люди в «Ложной слепоте» идут к этому не потому, что хотят, а потому что индивидуальный разум перестаёт быть конкурентоспособным. И финальный, по-настоящему холодный вывод романа звучит так: Вселенная может быть полна разума — и при этом полностью лишена сознания.