Михаил Бурцев, к.ф.-м.н., заведующий лабораторией нейронных систем и глубокого обучения МФТИ, лидер проекта DeepPavlov, рассказал Republic о рисках искусственного интеллекта для человечества, способен ли ИИ решать творческие задачи, о месте России в области развития ИИ-технологий и, наконец, о том, почему люди влюбляются в голосового помощника или чат-бота.
– Термины «искусственный интеллект», «машинное обучение» и «нейросеть» на слуху, но не все понимают их правильно. Как максимально коротко объяснить непрофессионалу, что это такое на самом деле и как оно работает?
– Нужно сразу пояснить, что есть искусственный интеллект как культурный феномен и как научное понятие. В массовой культуре ИИ – это робот, который может думать и вести себя как человек. C точки зрения науки, это алгоритмы, способные решать интеллектуальные задачи. Для создания таких алгоритмов есть разные методы, один из которых – машинное обучение. Оно используется, когда мы не можем прописать последовательность действий для решения задач, как это делается в обычных алгоритмах. Обучение производится на примерах решения задачи.
Например, у нас есть изображения машин и велосипедов, и нам надо научить ИИ отличать первые от вторых. Мы просим людей классифицировать и разметить несколько сотен таких изображений, а потом обучаем на этом материале искусственный интеллект. В результате он выстраивает внутри себя алгоритм для решения этой задачи – причем мы сами можем до конца не понимать, как он работает. По тому же принципу ИИ можно научить предсказывать следующее слово в тексте или показывать пользователю в интернете рекламу, которая его заинтересует.
Как раз нейросети – это класс алгоритмов, которые способны обучаться. На сегодня этот подход позволяет решать наибольшее количество задач и получать в большинстве из них лучшие результаты. Поэтому они так популярны и часто употребляются как синоним искусственного интеллекта в популярной литературе.
Конечно же, людей, далеких от технологий, в первую очередь интересует вот это: захватит ли ИИ мир и поработит ли он людей, когда станет более умным, чем человек :) Но тут сама постановка вопроса некорректна. С таким же успехом можно размышлять о тех же пчелах или каких-нибудь муравьях (а ведь кто-то не просто размышляет, но и фильмы с апокалиптическими сюжетами про это снимает)... Если же разобрать этот и похожие вопросы на составляющие, то мы увидим, что проблема надуманна (и в том виде, в котором ее формулируют, носит характер околорелигиозного страха). Чтобы это понять, достаточно позадавать себе вопросы "что значит станет более умным", "что значит захватит мир", что значит "поработит людей" и так далее. Более того, у нас ведь уже есть перед глазами примеры существ, чей интеллект не уступает людям — сами люди! Захватывают ли они мир, порабощают ли других людей, оказавшись умнее их? Еще как! Но они делают не только это. Они еще делают и обратное — освобождают и помогают. И тут даже есть определенная зависимость — чем люди в целом умнее, тем они в целом гуманнее, справедливее, "добрее" и так далее. Вот примерно все то же самое будет делать и ИИ, когда он достигнет уровня человека. Более того, когда это случится, будет просто невозможно отличить одного от другого — ведь человек отличается от всех остальных существ именно своим высоким интеллектом, а эта разница как раз-то и пропадет.
.
Ну а когда ИИ существенно превзойдет возможности человека (под человеком имею в виду те существа, которые все еще будут рождаться и развиваться "традиционным" для homo sapiens, природным образом — если таковые вообще останутся), тогда он будет относиться к нему примерно так же, как мы относимся к наиболее интеллектуально развитым животным. Стараемся ли мы их "захватить" и "поработить", истребить как вид? Ничего подобного. А с отдельными представителями — наоборот, стремимся всячески подружиться и даже подтянуть их до своего интеллектуального уровня (конечно, в меру их ограниченных возможностей). Я про кошек, собак и других домашних любимцев — при том, что у них даже и разума как такового нет. И это, я думаю, является хорошим наглядным примером, как более совершенный разум будет поступать с менее совершенным.
Замечательно. Искусственный интеллект - это алгоритм, способный решать интеллектуальные задачи. А интеллектуальные задачи - это тогда что? Видимо, задачи, которые решаются только при помощи интеллекта и больше никак. А интеллект тогда что? Наверное это то, что решает интеллектуальные задачи. Ну и так далее. Если бы это говорил руководитель отдела маркетинга, то я бы понимающе покивал. Но странно слышать такие определения от к.ф.-м.н., заведующего лабораторией нейронных систем...
Пила — это инструмент, способный пилить. Пиление — это задача, которая решается при помощи пилы и больше никак. Ну и так далее. В чем вы тут видите проблему и почему это странно слышать?
Потому что это тавтология. Определение, которое определяет термин сам через себя, на самом деле ничего не определяет. Настоящее определение должно выглядеть примерно так:
.
Пила - инструмент для разрезания на части твердого вещества (дерева, металла), в виде стальной пластинки или диска с заостренными зубцами по краям.
Это не тавтология, это просто связанные, взаимозависимые понятия (отсюда и общий корень слов). Процесс и инструмент. То, что вы написали про пилу, это просто более детальное описание ее конструкции. Единственным предназначением пилы все равно останется пиление, какую бы конструкцию вы ни придумали.
Вам понятно что такое "пилить" только потому, что вы кое-что знаете про пилу, кроме того, что ей пилят. Давайте попробуем такой пример:
.
пштырк — это инструмент, способный пштыркать. Пштырканье — это задача, которая решается при помощи пштырка и больше никак. Единственным или как минимум основным предназначением пштырка является пштырканье.
.
Вам всё ясно про пштырк или всё-таки в этом определении чего-то не хватает?
Мне, предположим, было сразу понятно, что у вас претензия к тому, что вам не объяснили то, что вы хотели бы, чтобы вам объяснили более подробно. Однако, это же статья, а не обучающий курс по Machine Learning, поэтому ваша претензия именно к профессиональности собеседника журналиста кажется мне несколько неуместной.
Не совсем так. Я не уверен, что это вообще возможно объяснить. И уж точно не следует даже пытаться это cделать в рамках интервью или научпоп статьи. И уж совсем точно не надо подменять серьёзное объяснение дешёвыми тавтологическими речевыми оборотами. Кстати, на курсах Machine Learning вы вряд ли услышите словосочетание «искусственный интеллект». В том учебнике, который я проходил, не то что «artificial intelligence», но даже просто «intelligence» нет ни в оглавлении, ни даже в индексе. Но это ладно. Дальше - больше. «Искусственный интеллект – это инструмент, который именно с такими целями и создан». Оказывается он уже создан, понимаете? Видите - на коробке написано «Искусственный интеллект», значит внутри что? Правильно - искусственный интеллект, ну а что же ещё. Не, ну правда. Да, мне обидно - я надеялся прочитать что-нибудь интересное, это близкая мне тема, а внутри оказалась какая-то маркетинговая хрень ((
А как Вам ешё вот такая фразочка (вынесенная, к тому же, в заголовок): "Сегодня общий уровень ИИ сопоставим, скажем, с уровнем интеллекта мыши или пчелы"? Специалист по интеллектам считает, что у мышей и пчёл примерно одинаковый интеллект...
Г-н Бурцев попытался объяснить человеку "со стороны", что имеют в виду специалисты, когда произносят слова "искусственный интеллект". И сделал это, по-моему, вполне удовлетворительно, учитывая уровень слушателя, так сказать. При этом он, тем не менее, предполагал, что этому самому "человеку со стороны" не требуется разъяснять, что вообще значит слово "интеллект". Поскольку если это разъяснение необходимо, то всякий разговор становится бессмысленным. А Ваши претензии мне кажутся крайне странными. Если уж Вы читали учебники по "machine learning", то эта статья - точно не для Вас. В том смысле, что Вам и не требуются такие разъяснения. В отличие от "широкой публики".
ПЧЕЛЫ НЕ ЭВОЛЮЦИОНИРУЮТ С ТАКОЙ СКОРОСТЬЮ КАК ИИ, так что сравнение не релевантно
Сравнение не релеванто, поскольку нужно уточнять, в какой функции ИИ на уровне пчёл и мышей? Возможно, подразумевалась ориентация в пространстве (а вовсе не игра в Го)...
ИИ не эволюционирует в биологическом смысле - он обучается. Так, ребёнок, постигая мир не эволюционирует, а обучается.