"Может ли у ИИ появиться сознание? Лично я сильно сомневаюсь. Причём сомневаюсь не в духе ""пока не получается"" — а в духе ""это фундаментальное ограничение нашего мира"". Что-то вроде скорости света. Которую нельзя не только преодолеть, но и достигнуть. Можно асимптотически приближаться, тратя бесконечную энергию — и всё равно не дойти. С сознанием, мне кажется, ровно та же история. Его нельзя ""сгенерировать"" масштабированием вычислений. Это другая природа. И вот 93-летний нобелевский лауреат Роджер Пенроуз выступает на Breakthrough Discuss 2025 в Оксфорде с докладом ""Why Intelligence Is Not a Computational Process"" — и по сути говорит то же самое. Причём говорит это 35 лет подряд. И за 35 лет никто его не опроверг. У Пенроуза красивый аргумент. Он начинает с теоремы Гёделя: в любой формальной системе есть истинные утверждения, которые система не способна доказать. Но человек способен понять, что они истинны — не через применение правил, а через понимание того, почему правила работают. ""Понимание зачем"" — не ""выполнение как"". Калькулятор складывает числа. Человек понимает, что такое сложение. Разница не количественная — она качественная. Никакое наращивание мощности калькулятора не превратит ""как"" в ""зачем"". Дальше он перебирает всю известную физику: где может прятаться не-вычислимость? Ньютон — вычислим. Максвелл — вычислим. ОТО — вычислима. Уравнение Шрёдингера — вычислимо. Остаётся одно место: коллапс волновой функции. То самое, где квантовая механика, по его формулировке, ""не совсем правильна"". И вот тут его ключевое различие. Классическую реальность можно установить — спросить у объекта ""какова ты?"" и получить ответ. Квантовую реальность установить нельзя — можно только подтвердить. Нельзя спросить у электрона ""куда ты вращаешься?"". Можно предложить направление и получить да или нет. Сознание, по Пенроузу, может работать именно в этом зазоре — в квантовой реальности, которая ведёт себя странно по отношению ко времени, почти ретрокаузально. Сам Пенроуз подкупающе честен: ""У меня нет теории. Я только указываю, что это может быть куда тоньше, чем компьютер."" За 35 лет — не теория, а направление поиска. Но направление, которое никто не закрыл. А индустрия тем временем каждый квартал рапортует: больше параметров, больше compute, больше данных — вот-вот появится AGI. Это как строить ракету побольше в надежде обогнать свет. Лететь можно очень быстро. Делать впечатляющие вещи — тоже. Но если лимит фундаментальный, никакой масштаб не поможет. https://www.youtube.com/watch?v=iTVN6tFknCg"