Мы видим за искусственным интеллектом большое будущее: два года назад компьютер смог пройти тест Тьюринга (показатель «разумности» машины, который на протяжении нескольких десятилетий считался эталоном), а в марте этого года машина впервые победила человека в игру го. Все это, казалось бы, предвещает эру неотличимых от человека компьютеров, способных победить нас в любом интеллектуальном состязании. Лаборатории Кремниевой долины не стоят на месте: развиваются технологии глубинного обучения искусственного интеллекта, совершенствуются голосовые ассистенты и чат-боты (последние, как говорят, скоро смогут играть роль наших помощников на работе). Однако за всей этой многообещающей картинкой кроются непреодолимые на данный момент трудности, которые не только показывают, насколько компьютер пока далек от человеческого разума, но и не позволяют искусственному интеллекту перейти на новую ступень развития.
Шестьдесят шесть лет назад британский математик Алан Тьюринг написал для философского журнала Mind статью, в которой задался вопросом: «Могут ли машины думать?» Чтобы понять это, он предложил использовать тестовый вариант известной «игры в имитацию». Суть теста заключается в том, что человек (судья) в течение пяти минут переписывается с двумя собеседниками, которых не видит, притом что один из них – компьютер, выдающий себя за человека. По окончании судья должен сказать, кем был его собеседник. Сам Тьюринг представлял, что к 2000 году машины будут настолько умны, что вероятность распознать машину за пятиминутный диалог будет не более 70%.
В 1966 году американский ученый Джозеф Вейценбаум создал первый в истории чат-бот – программу ELIZA («Элиза»), которая в разговоре с пользователем пародировала психотерапевта. Принцип ее работы основывался на анализе ключевых слов во фразе собеседника, исходя из которых подбирались фразы-ответы. При отсутствии ключевых слов ELIZA отвечала нейтрально, например «I see» (что-то вроде нашего «понятно»). Даже сам Вейценбаум удивлялся тому, что некоторые пользователи, не распознав в «Элизе» искусственный интеллект, начинали изливать ей душу. И все же, несмотря на своего рода успех, программа была ограничена в понимании естественного языка (то есть языка, на котором говорят люди).
Одним из тех, кто стоял у истоков развития искусственного интеллекта, был профессор Стэнфорда Терри Виноград. Обучаясь в аспирантуре Массачусетского технологического института, он погрузился в разработки искусственного интеллекта и увлекся проблемой обучения компьютеров естественному языку. В 1968 году он разработал программу SHRDLU: ее мир состоял из разноцветных геометрических фигур, перемещаемых по запросу пользователя (Виноград называл это «миром блоков»). Причем SHRDLU даже обладала некоторой памятью: если человек говорил «переставь на блок красный конус», а потом – «сними конус», не требовалось уточнять, о каком именно конусе идет речь.
Как сейчас вспоминает Виноград, в те времена вера в успех в сфере искусственного интеллекта не была так крепка, как сегодня. В 1980 году американский философ Джон Серл выступил с критикой теста Тьюринга и самой возможности того, что машина, даже вроде бы понимающая естественный язык, способна обладать разумом в том смысле, в котором им обладает человек. В качестве доказательства он привел в пример мысленный эксперимент, который назвал «китайской комнатой». Серл предположил следующую картину: его запирают одного в комнате и передают ему записки на китайском языке. Он совершенно не знает этого языка, но у него есть инструкции на английском. В них подробно объясняется, как по расположению иероглифов в записке расставить в ответе на нее иероглифы так, чтобы «слепить» из них внятный ответ. В итоге будет выглядеть, будто Серл способен переписываться с китайцами, хотя он и не знает ни слова на их языке.
Несмотря на критику теста Тьюринга и его явные недочеты, долгое время он оставался одним из главных вызовов искусственному интеллекту. В 1991 году американский предприниматель Хью Лебнер учредил ежегодную премию $100 тысяч создателю такой программы, которая сможет пройти тест Тьюринга. Победителем считается тот, чья машина сможет провести хотя бы 30% судей, однако на протяжении более 20 лет ни одна программа не получала даже серебряной, не говоря уже о золотой медали этого конкурса. В 2014 году разработка российских и украинских программистов, чат-бот, изображающий тринадцатилетнего мальчика Женю Густмана, наконец смогла пройти тест Тьюринга, организованный британским Университетом Рединга, введя в заблуждение 33% судей. При этом, как, например, замечает научный журналист, автор New Scientist Джейкоб Арон, некоторые ученые уверены: барьер 30% очень занижен и должен составлять хотя бы 50%.
Тьюринг считал, что к 2000 году шансы человека распознать машину за пятиминутный диалог будет не больше 70%
Проблема того, что компьютеры станут умными в смысле эффективности, но не будут в состоянии понимать людей, волновала разработчиков искусственного интеллекта с самого начала развития этой области, рассказывает MIT Technology Review Виноград. Чтобы стать разумной в человеческом понимании, машине требуется определять контекст, в котором мы существуем. Тот же «мальчик Евгений», который по легенде родом из Одессы, не смог ответить, когда журналист Леонид Бершидский спросил его о событиях в Доме профсоюзов 2 мая 2014 года. Чат-бот проигнорировал вопрос и попытался перевести тему. Здесь важно понимать, что одним из недочетов теста Тьюринга является то, что на результат напрямую влияет то, насколько хорошо сами судьи (интервьюеры) разбираются в технологии и насколько они способны подобрать и сформулировать каверзные вопросы.
В последние годы исследователи искусственного интеллекта стали меньше полагаться на тест Тьюринга и переключились на другие, более глубокие показатели разумности машин.
