В издательстве «Альпина нон фикшн» выходит книга нейробиолога Анила Сета «Быть собой. Новая теория сознания». Автор выдвигает новую, революционную теорию сознания, которая переворачивает наши представления о том, что происходит у нас в голове.

С любезного разрешения издательства публикуем фрагмент из главы «Машинный разум».

В конце XVI в. в Праге рабби Йехуда Лев бен Бецалель набрал глины с берегов Влтавы и слепил из нее человекоподобную фигуру — голема. Этот голем, нареченный Йозефом, или Йоселе, был создан, чтобы защищать народ раввина от погромов, и, судя по всему, с работой своей справлялся великолепно. Заклинание, приводившее голема в действие, наделяло его способностью двигаться, осознавать происходящее и подчиняться приказам. Но затем у Йозефа что-то нарушилось, и из безмолвного раба он превратился в буйное чудовище. В конце концов раввину удалось отменить заклинание, и голем рассыпался на куски в здании синагоги. Говорят, что его останки хранятся в Праге по сей день — возможно, на кладбище, возможно, на чердаке, возможно, терпеливо дожидаются, когда их оживят снова.

Голем рабби Лева напоминает нам, в какую гордыню мы впадаем, пытаясь создавать разумных, чувствующих существ по образу и подобию своему или по замыслу божьему. Ничем хорошим это обычно не заканчивается. Такие создания — от Франкенштейна у Мэри Шелли до Авы в фильме Алекса Гарленда «Из машины», роботов у Карела Чапека, ставших сейчас именем нарицательным, Терминатора у Джеймса Кэмерона, репликантов в «Бегущем по лезвию» Ридли Скотта и компьютера HAL у Стэнли Кубрика — почти всегда восстают против своих создателей, сея хаос, тоску и философское смятение.

Стремительное развитие искусственного интеллекта (ИИ) в последние лет десять обострило тему машинного сознания. Сейчас ИИ окружает нас повсюду — он вшит в телефоны, холодильники, машины и во многих случаях управляется алгоритмами нейросети, образцом для которых послужила нейронная архитектура нашего мозга. И у нас есть все основания беспокоиться о последствиях внедрения этой новой технологии. Не лишит ли она нас работы? Не разрушит ли ткань нашего общества? В конце концов, не уничтожит ли она нас самих — либо в пробуждающихся собственных интересах, либо из-за программистской недальновидности, по вине которой все ресурсы планеты превращаются сейчас в огромную гору канцелярских скрепок? Все эти тревоги, особенно с экзистенциальной и апокалиптической окраской, подпитываются убеждением, что в какой-то момент своего набирающего обороты развития ИИ обретет сознание. Это легенда о големе в переложении на кремний.

Что нужно машине, чтобы обладать сознанием? Что произойдет, если сознание у нее появится? И как, собственно, мы отличим сознательную машину от ее эквивалента-зомби?