Иллюстрация: GettyImages/Fotobank
#LIKE-TOP#
Псевдодокументальный бестселлер Дэниела Уилсона «Роботы апокалипсиса» (на русском языке книга вышла в прошлом году) рассказывает о могущественном искусственном разуме Аркос, который обращает всех роботов против человечества. Сейчас Уилсон работает уже над документальной книгой, в которой пытается оценить и проанализировать угрозы нарастающего робототехнического бума.
Slon спросил у писателя, почему он лично боится роботов.
Интервью: Петр Биргер
Их будут миллиарды
Понятно, что в романе я гиперболизирую угрозу — это то, что является его художественной частью. Но я не искажаю суть проблемы. Документальность книги в том, что угроза, которая исходит от роботов, не фантастична, она реальна. Ее надо учитывать, думать о ней и стараться предотвратить ее уже сейчас.
Возьмем только персональных роботов, полезных в быту. Сегодня в это сложно поверить, но через
Конечно, это в большинстве своем будут не те роботы, какими мы их привыкли представлять, насмотревшись фантастических фильмов. Это будут устройства разнообразных форм-факторов с роботизированными элементами, что не меняет сути: они будут способны на автономное движение, у них будет сложное программное обеспечение, они будут связаны беспроводными сетями с внешними базами данных и они, как и любая другая техника, периодически будут ломаться. Все эти факторы потенциально опасны — и каждый в отдельности, и тем более вместе.
Они будут нарушать правила
Любой робот, даже самый простой, — это риск потери контроля. Такой риск заложен в самой философии робототехники. Даже минимальная автономия предполагает расширение своих границ. Автономия экспансивна. А там, где есть экспансия, есть обязательное отклонение от нормы, ведь правила устанавливаются только в определенных рамках.
Но если ты перекрываешь потенциал автономии полностью, никакого робота не получится. Специалисты MIT, изучающие пути эволюции робототехники, часто приводят в пример программный код простых роботов-пылесосов: как только вы блокируете на уровне категоризации их функций саму возможность спонтанно принять альтернативное решение — например, не отталкиваться от любого препятствия, как это заложено в стандартном варианте, а, наоборот, толкнуть его, — возможности робота практически обнуляются. Проще все пропылесосить самому.
Мы слишком быстро к ним привыкнем
Частая ошибка в том, что многие смотрят на роботов как на пришельцев из космоса. Но это усложнение, которое и приводит к недооценке проблемы. Смотрите на роботов как на смартфоны. Уже сейчас в мире больше миллиарда смартфонов, которые съедают гигантское количество нашего времени и энергоресурсов, влияют на экологию и общественное здоровье. Это компактные и очень умные устройства.
Роботы совсем не компактные и не обязательно намного умнее, но они точно будут съедать не меньше. А их неизбежная интеграция со смартфонами порождает очень прожорливую экосистему, которая с появлением роботов научится не только считать и анализировать, но и двигаться.
Смартфоны — модель того, как будут расти другие рынки персональной техники в будущем. Во-первых, это каждый раз будет очень быстрый рост. Во-вторых, он сразу создает вокруг богатые смежные рынки — розницы, приложений, сервисов, ремонта. В-третьих, порог привыкания к техническим новинкам снижается: мобильные компьютеры стали обязательной частью нашей жизни всего за несколько лет. То же самое будет с роботизированными компьютерами. Мы к ним привыкнем быстро, их сети опутают нас, путей отступления не будет. А на все издержки, связанные с этой привычкой, мы будем смотреть, как обычно, фаталистически: все равно мы все смертны.
Рынок заполонит дешевый хлам
Есть разные стороны этой угрозы. Опасен сам по себе бесконечный массив железа, материалов и программного кода. Мы любим оценивать пользу технологического прогресса и его конечных продуктов, но мы редко ставим на другую чашу весов вред, который он наносит. Закон очень простой: чем больше, тем хуже.
Единственный выход — ограничивать перепроизводство, не заваливать рынок дешевыми роботами. Нужны законы, которые бы жестко лицензировали робототехнику и устанавливали бы для ее игроков жесткие стандарты качества. С одной стороны, это гарантия того, что разработчики будут больше инвестировать в разработку систем безопасности. С другой — ограничит спрос на массовую робототехнику, что позволит несколько снизить рост числа роботов в мире.
Роботов будут взламывать
Сейчас активно пишутся мобильные вирусы. В ближайшие годы нам предстоит отбиваться от них на своих смартфонах. Борьба с компьютерными вирусами признана вопросом национальной безопасности в разных странах. Теперь представьте, что огромный мир производителей вирусов посмотрит в сторону рынка массовых роботов. Те же каналы доступа — интернет и приложения. Та же логика программного управления. Та же беспечность пользователей. Тот же низкий уровень антивирусных программ. Ничего не изменится, только вирусы теперь будут убивать не информацию на наших компьютерах и телефонах, а выводить из строя домашнюю робототехнику.
Я уверен, что военные смогут защитить от вирусов всю милитаристскую робототехническую продукцию. Но вирус, вселившийся в домашнего робота, не менее опасен: ваш зараженный смартфон не разнесет вам квартиру, случайно не наедет на вашего ребенка и не разобьет компьютер в офисе. А представьте себе, если вирус будет одновременно нацелен на десятки тысяч роботов одной модели!
Когда я писал о некоем глобальном искусственном интеллекте, о едином центре управления мировыми роботами, я, конечно, сильно приукрасил реальность, но честно описал модель будущего. Персональные роботы — это пазлы, которые будут складывать из разных приложений. Приложения, как это происходит сейчас на мобильном рынке, будут устанавливаться из внешней облачной среды. И не только приложения, но и все модификации, драйверы и обновления.
Мы увидим несколько экосистем, они будут конкурировать, но их не будет много, и это будут масштабные системы, доминантные по своей сути — на них во многом будет завязана вся экономика робототехники. Это идеальные каналы для вирусов, взломов и для кражи личной информации.
Они будут следить за нами
Качественный персональный робот должен уметь собирать информацию и анализировать ее. От того, насколько хорошо он это делает, зависит точность выполнения задач и уровень его адаптационности. В результате персональные роботы будут мощными аккумуляторами личной информации, собранной в вашем доме или в вашем офисе. Если есть информация, появятся и охотники на нее. И сами роботы, и связанные с ними облачные сети всегда будут находиться под давлением внешней среды. В какой-то момент система может не выдержать.
Я верю, что и Google, и Apple, и Microsoft рано или поздно заявят о себе на рынке робототехники. Это было бы естественным и логичным продолжением их активности. Одни технологии появятся внутри их лабораторий, другие будут куплены на стороне, а сам рынок станет очень централизованным.
У этого процесса есть две стороны. Лидеры рынка смогут быстро выработать единые правила игры, создать стандарты безопасности и поспособствовать созданию специального законодательства, которое бы регулировало разработку, продажу и использование роботов. Роботы будут жить по законам государств и больших корпораций, что можно только приветствовать. Централизация всегда полезна тем, что вместе с ней повышается общий объем инвестиций в отрасль, а самые сложные ее сегменты (безопасность, безусловно, относится к ним) не прозябают без финансирования.
С другой стороны, мы должны понимать, что личная информация сегодня — хлеб больших корпораций, в каких бы областях они ни работали. Они будут на полную катушку использовать роботов для добычи информации.
Они отберут наше жизненное пространство
Многие сомневаются, что потребитель вообще заинтересуется персональными роботами. Аргументов много: стоимость, ограниченное поле применения в быту, а главное — их размеры. Я видел несколько аналитических отчетов, где прямым текстом было сказано: персональные роботы будут иметь спрос только у владельцев больших домов; квартиры и небольшие дома и так насыщены бытовыми устройствами, роботы буквально начнут теснить людей.
Аналитики не учитывают тот факт, что потребителю нравится все большое, он готов отказываться от лишнего пространства и свободы в пользу избыточной функциональности. Об этом говорят все психологи, изучающие современное потребление. Очень большие холодильники, очень большие смартфоны, очень большие телевизоры. Роботы прекрасно впишутся в этот тренд. Это не значит, что они будут большими. Это значит, что они не будут восприниматься как лишняя помеха.
Они поменяют нашу жизнь и культуру
В идеальном мире, которого никогда, к сожалению, не будет, применение роботов было бы ограничено промышленностью и корпоративной жизнью. В промышленности они и так обязательно станут важнейшим фактором развития новых производств и очень сильно повлияют на рынок неквалифицированного труда (что, я считаю, плюс: роботы станут косвенным стимулом для развития новых каналов образования).
В корпоративной жизни роботы тоже имеют объективное практическое значение. Роботы телеприсутствия (с помощью которых можно удаленно участвовать в совещаниях или делать домашние дела. — Slon), например, — рынок, сравнимый и по объему, и по значению, и по потенциалу с облачными технологиями. Это то, что реально изменит повседневную офисную жизнь, корпоративную культуру, принципы управления.
Бытовые роботы страшнее военных
Как ни странно, опасность военных роботов сильно преувеличена. Учитывая уровень экспертизы Пентагона, несравнимой по своему качеству с тем, что предлагают робототехнические стартапы, это будет сегмент с очень высокими стандартами безопасности. Я не говорю о моральной стороне — правильно ли в XXI веке создавать совершенные орудия убийства? Но поскольку этот сегмент робототехники будет регулироваться международным законодательством и всегда будет в фокусе внимания правозащитников, я не жду здесь взрыва.
Персональные бытовые роботы, наоборот, кот в мешке. Минимальное регулирование, недооценка угроз, всеобщее умиление великим будущим. Вообще удивительно, что именно в XXI веке человечество, которое успело пережить несколько эпизодов ада, так и не научилось смотреть на будущее скептически. Я не призываю к алармизму и не верю в апокалипсис. Но мы должны быть намного трезвее: комфорт, который будут обеспечивать роботы, — лишь одна сторона медали.
#LIKE-BOTTOM#
