Искусственный интеллект научился «проникать в мозги» других компьютеров. И предсказывать их действия

Искусственный интеллект, кажется, вышел на новую ступень развития – один из проектов DeepMind (принадлежит Alphabet, материнской организации Google) после тренировки научился «понимать», что движет другим машинным разумом (и не одним), и предсказывать его действия. Не исключено, что в дальнейшем компьютеры используют этот навык не только для сотрудничества с людьми, но и для обмана человека.

О результатах тестов, которые прошел искусственный интеллект от DeepMind под названием ToMnet (от Theory of Mind, «теория разума» или «теория сознания») исследователи рассказали в середине июля на международной конференции по машинному обучению в Стокгольме, пишет Science.

После тестов выяснилось, что ToMnet может «заглянуть в мозги» других ИИ и прогнозировать их действия, что необходимо для начального сотрудничества как между машинами, так и в процессе взаимодействия машины и человека. Как отмечается в публикации, способность ИИ овладеть «теорией разума» означает, что компьютер в дальнейшем может оценивать и мотивы, и эмоции людей – сейчас машинам (и то не всем и не всегда) подвластно только определение выражений лиц.

Искусственный интеллект ToMnet представляет собой комбинацию трех нейросетей, связанных между собой, которую с некоторой натяжкой можно назвать похожей на человеческий мозг. Одна из сетей делает выводы о «стремлениях» и целях других ИИ на основе их прежних действий, другая пытается понять их «убеждения», третья – комбинация двух первых – в зависимости от ситуации предвидит дальнейшие шаги других ИИ.

В ходе тестов, предложенных ToMnet, нейросеть DeepMind наблюдала за тремя видами несложных ИИ, которые должны были передвигаться по виртуальной комнате и собирать раскрашенные коробки, получая за это очки. Один ИИ не мог видеть окружающее пространство (и передвигался в основном вдоль стен), второй не запоминал свои недавние шаги (и собирал ближайшие к нему объекты), третий мог и видеть комнату, и запоминать свой маршрут, а потому выполнял более сложные задачи, подбирая коробки в определенном порядке, чтобы набрать больше очков. После тренировки ToMnet смог довольно быстро не только определить вид каждого из ИИ, но также корректно предсказать, как они будут действовать в ближайшем будущем.