Перевод с английского Заура Мамедьярова
Оригинальное издание: 'Artificial Intelligence: A Guide for Thinking Humans', by Melanie Mitchell (Farrar, Straus and Giroux, 2019)
Издательство Corpus в ближайшее время опубликует книгу одной из ведущих ученых-информатиков современности Мелани Митчелл «Идиот или гений? Как работает и на что способен искусственный интеллект». В ней она анализирует работу ряда важнейших систем ИИ, оценивает их успехи и беспристрастно описывает ограничения.
«Я пытаюсь осмыслить и более широкие вопросы, которые с самого начала подпитывали дебаты об ИИ. Что мы называем "общим человеческим" или даже "сверхчеловеческим" интеллектом? Близок ли современный ИИ к этому уровню? Можно ли сказать, что он движется в этом направлении? Какие опасности таит ИИ? Какие аспекты своего разума мы особенно ценим? В какой степени ИИ человеческого уровня заставит нас усомниться в своих представлениях о собственной человечности? Насколько мы должны быть испуганы?.. Я хочу поделиться с вами своими соображениями и надеюсь, что вы — как и я — получите более ясное представление о том, чего уже добился ИИ и какие задачи ему предстоит решить, прежде чем машины смогут заявить о собственной человечности», — отмечает автор в предисловии.
С любезного разрешения издательства журнал «Будущее» публикует фрагмент из заключительной главы «Вопросы, ответы и гипотезы».
Вопрос: как скоро беспилотные автомобили войдут в обиход?
Это зависит от того, что называть «беспилотным автомобилем». Национальное управление по безопасности дорожного движения США определило шесть уровней автономности транспортных средств. Я перефразирую их определения.
- Уровень 0. Всю работу выполняет водитель.
- Уровень 1. Система может иногда помогать водителю рулить или контролировать скорость движения, но не то и другое одновременно.
- Уровень 2. Система может одновременно рулить и контролировать скорость движения в определенных обстоятельствах (обычно на шоссе). Водитель должен непрерывно наблюдать за происходящим («следить за дорогой») и выполнять все остальные действия при вождении: перестраиваться из ряда в ряд, съезжать с шоссе, останавливаться на светофорах и пропускать полицейские автомобили.
- Уровень 3. Система может осуществлять все аспекты вождения в определенных обстоятельствах, но водитель должен непрерывно следить за происходящим и быть готовым принять управление в любой момент, когда система обратится к нему с таким запросом.
- Уровень 4. Система может управлять автомобилем в определенных обстоятельствах. В таких условиях от водителя не требуется постоянного внимания к происходящему.
- Уровень 5. Система может управлять автомобилем в любых условиях. Она перевозит пассажиров, которые не должны принимать участия в управлении автомобилем.
Уверена, вы обратили внимание на важнейшую фразу «в определенных обстоятельствах». Невозможно составить полный список обстоятельств, в которых, скажем, система 4‑го уровня может полностью управлять автомобилем, но можно представить множество обстоятельств, усложняющих задачу автопилота: например, плохие погодные условия, плотное городское движение, движение по ремонтируемому участку дороги или узкой двухполосной дороге без разметки.
На момент написания этой книги большинство машин на дорогах находится между 0‑м и 1‑м уровнями: у них есть круиз-контроль, но нет контроля над рулением и торможением. Некоторые новые автомобили — с «адаптивным круиз-контролем» — находятся на 1‑м уровне. Есть несколько моделей автомобилей, которые сегодня находятся на 2‑м и 3‑м уровнях, например автомобили Tesla, оснащенные автопилотом. Производители и владельцы этих машин все еще выясняют, какие ситуации относятся к «определенным обстоятельствам», при которых водитель должен брать управление в свои руки. Существуют также экспериментальные автомобили, которые могут автономно функционировать в достаточно широком спектре обстоятельств, но и этим транспортным средствам все равно нужны «страховочные водители», готовые принять управление в любой момент. Известно о нескольких вызванных беспилотниками (включая экспериментальные образцы) авариях с человеческими жертвами, которые произошли, потому что водитель отвлекся и не успел в нужный момент взять управление на себя.
Отрасль беспилотных автомобилей жаждет производить и продавать полностью автономные транспортные средства (то есть автомобили 5‑го уровня), и нам, пользователям, давно обещают именно такой уровень автономности. Но что же мешает обеспечить полную автономность наших машин?
Очень интересная статья, спасибо. Действительно, взвешенное, спокойное мнение.
Высказать хотелось бы только одно соображение. По поводу предпоследнего абзаца. Автор упоминает общий интеллект — это в точку, его существование практически не вызывает сомнений. Да, готов согласиться с тем, что именно наличие разного рода характерных искажений, в том числе, когнитивных, в том числе, обусловленных ограничениями тела (и его органов восприятия действительности) делает людей социумом, обладающим общим интеллектом. И, вероятнее всего, у машин тоже будут наблюдаться некие характерные ограничения и особенности восприятия, которые позволят говорить об общем для них интеллекте.
Но если переосмыслить эту мысль по-другому, то можно прийти к следующему интересному выводу. Само наличие искажений расщепляет общий интеллект на интеллект отдельных индивидуумов. Мы, люди, с точки зрения интеллекта отличаемся друг от друга только нашими особенностями восприятия. Каждая пара глаз видит мир чуть иначе, каждая пара рук чувствует его немного по-другому, каждый мозг запоминает свое и в иной последовательности. На более широком масштабе (семья, дом, улица, город, страна) эти же разделяющие нас особенности, объединяясь похожестью, в свою очередь, позволяют нам снова группироваться в общее сознание.
То есть, сначала монолитный, сингулярный интеллект (знание как таковое) разбивается на частности уникальными искажениями индивидуальных носителей (людей или — в будущем — машин), а потом группируется (как правило, по территориальному, топографическому признаку) в некое подобие первоначального монолита, но все же не становится им, потому что искажения остаются.
Из этого можно сделать интересный вывод: искажения, хоть они и обладают свойством подобия, позволяя нам, индивидуумам, группироваться в общий интеллект, все же одновременностям с этим являются и тем препятствием, которое встает на пути становления нас всех единым, монолитным интеллектом. Это я к тому, что я не могу разделить в полной мере радости автора статьи по поводу наличия этих искажений. Все-таки процессу абсолютного познания они мешают. Возможно, она просто не увидела этой общей картины, которую я описал выше (или не придала ей значения). А в остальном статья замечательная.
Заглянуть в душу. 25) Как хорошо с ID, который всегда с тобой.
Наш телефон копирует и запоминает наши действия, нашу реакцию - наши программы поведения. И рекламодатели уже пользуются этим. Но ведь в соответствии с диалектикой должны быть и положительные моменты.
Какие же положительные последствия мы имеем от того факта, что наш телефон может хранить (при помощи виртуального облака) и предлагать нам необходимые программы поведения?
На нашу личность в реальной жизни все большее влияние станут оказывать наша виртуальная деятельность и контакты в сети с виртуальными особами. В Китае уже существует “прокурор” с ИИ.
Мы не сможем его обыграть, ведь даже гроссмейстеры проигрывают в шахматы ИИ.
Управление онлайн имиджем и онлайн репутацией станет важным делом. Ваше мобильное устройство может знать и помнить все инструкции и правила поведения окружающих нас институтов.
Мы можем встретиться с человеком, которого наш телефон опознает, а по его интонации, жестам и мимики мы будем знать об истинных его намерениях.
Если вынести операции из нашего мозга во внешний мир (телефон), то получим экономию килокалорий и в результате получаем эндогенные внутренние наркотики. Мы становимся счастливее.
Мы становимся счастливее как все вместе, ибо 45% национального дохода приходится на трансакции: услуги юристов, бухгалтеров, банковские услуги, финансовые и маркетинговые, так и каждый в отдельности.
Теперь мы имеем копию себя, которая всегда рядом с нами ( мы ощущаем дискомфорт без телефона).
Наша новая копия, наш новый ID позволяет нам избежать обдумывания проблем и выбора сценария действия. Мы получаем нужный набор правил поведения в любой ситуации.
ID включит нужный стереотип поведения (архетип по Юнгу) и нужную маску:
-контактную маску, набор стандартных фраз чтобы скрыть истинное отношение к собеседнику и эмоции;
-деловую маску, для достижения цели, не учитывая интересы собеседника и его эмоции;
-светскую маску, формальная вежливость, говорить не то что думаете, а что принято говорить согласно правилам поведения в этом обществе;
-предметную маску, для общения с ИИ и такими же виртуальными образами.
Ваш ID никогда не ошибается, он помнит все, все законы, инструкции, регламенты и правила поведения.
Вы можете заходить в любые институты, встречаться с любыми людьми и не будете чувствовать себя неловко.
Вы становитесь представителем элиты, любого сообщества и свободно владеете их правилами поведения.
На редкость разумная статья об ИИ, без лишнего пафоса и восторга.