Американский ударный беспилотник MQ-9 Reaper. Существует немало способов одурачить "умный" дрон, чтобы тот, например, принял больницу за военную цель
Фото: U.S. Air Force
«Период существования биологического разума – лишь краткий промежуток между ранними формами жизни и долгой эрой машин», – эта фраза знаменитого британского космолога Мартина Риса служит логичным эпиграфом для книги американского научного журналиста Клиффорда Пиковера «Искусственный интеллект. Иллюстрированная история» (вышла недавно в издательстве Синдбад).
Впрочем, по мысли автора, «долгая эра машин» незаметно началась уже очень давно – по крайней мере, с того момента, как в Древнем Египте была изобретена игра «крестики-нолики» – «атом, на основе которого впоследствии формировались молекулы всё более сложных игр». Или даже еще раньше: жгучий интерес человека к искусственному интеллекту возник едва ли не одновременно с рождением самого человеческого разума; образы «разумных вещей» наполняют культуру на протяжении тысячелетий.
Книга Пиковера имеет подзаголовок «От автоматонов до нейросетей»; в сотне коротких разделов сжато описаны самые яркие достижения «долгой эры машин». Параллельно мы наблюдаем, как меняется отношение человечества к «разумным вещам»: если античные строители автоматонов (подвижных механических устройств, имитирующих живые существа) были поглощены решением чисто технических задач, то сегодня на первый план выходят сложнейшие этические вопросы, связанные с использованием ИИ. Эти вопросы часто окрашены параноидальным страхом перед неизбежным (якобы) «восстанием машин» и грядущим порабощением человечества.
С любезного разрешения издательства мы выбрали для публикации три раздела из финальной части книги. В них рассказывается о достижениях последних лет, когда искусственный интеллект созрел для решения нетривиальных (и подчас весьма опасных) задач.
"Существует немало способов одурачить "умный" дрон, чтобы тот, например, принял больницу за военную цель" — написано так, как будто способов одурачить человека значительно меньше... При определенном уровне развития ИИ "одурачить" его будет гораздо сложнее, чем человека, так как челвоек подвержен когнитивным искажениям, а ИИ — нет (во всяком случае, это потенциально контролируемый извне процесс). То же самое касается и попыток обмана с помощью имперсонации. Человека обмануть проще, чем машину соответствующего уровня, которая способна скурпулезно подмечать все мелочи, упускаемые человеческим глазом. Так что тут все дело в совершенстве алгоритма (точнее, в достаточности объема его "базы знаний"). Усовершенствование алгоритмов ИИ и увеличение их баз знаний будет неизбежно снижать риски и в какой-то момент они станут ниже человеческих.
"...Система глубокого обучения учится, но не может объяснить нам, как именно; она назначает вероятности, но неспособна внятно их обосновать...."
Ерунда написана - понять, как работает нейронная сеть способен любой подросток, если ему показать наглядно: на вход подаются признаки (пульс, давление, данные анализов и т.п.), сеть присваивает им веса (коэффициенты), чтобы результат на выходе соответствовал известному диагнозу, и так много раз, на сотнях тысяч данных. В итоге получаем высокую точность предсказания диагноза на основе обширной статистики. Но не 100%, поскольку всегда есть нетиповые случаи.
Для линейного алгоритма, описанного вами, нейросеть не особо и нужна - с такой задачей справляются стандартные методы линейного программирования.
Но именно нелинейные алгоритмы дают поразительные результаты, и тут автор прав - результат есть, а объяснения нет.
Объяснение есть, и оно такое же, только вместо линейных зависимостей будут нелинейные, разные развилки (логистическая регрессия), одновременное голосование разных моделей (леса) - понять это, при желании (и хорошем объяснении), вполне возможно.