Группа исследователей из Массачусетского технологического института смогла обмануть машинное зрение при помощи различных предметов, напечатанных на 3D-принтере. Об этом они рассказывают в своей работе, опубликованной в arxiv.org.
Исследователи обманули машинное зрение, которое работает на основе искусственного интеллекта от Google. Через него они просканировали напечатанную на 3D-принтере фигуру черепахи. Машинное зрение думало, что перед ним винтовка.
https://www.youtube.com/watch?v=XaQu7kkQBPc
Машинному зрению также показали специально сделанный бейсбольный мячик. Искусственный интеллект по ошибке подумал, что это было эспрессо.
Для исследования также протестировали и обычное 2D-изображение – фото кота. Под прямым углом машинное зрение думало, что перед ним гуакамоле. Когда картинку наклоняли, искусственный интеллект видел кота.
Под прямым углом нейросеть дает ошибочную трактовку изображению
labsix
Модель черепахи и изображение кота – это так называемые соперничающие объекты (adversarial image). То есть это такие оптические иллюзии, которые заставляют машинное зрение ошибочно воспринимать реальность. В качестве них обычно использовали 2D-изображения, а не объемные модели. Нейросети показывают обычную графическую абстракцию, но она видит реальные вещи – машины, фрукты, оружие и так далее.
https://www.youtube.com/watch?v=M2IebCN9Ht4
Подобные проблемы, отмечает The Verge, не несут большой опасности для людей. Эксперименты лишь показывают, насколько уязвимым может быть искусственный интеллект. Если такие проблемы не решить на раннем этапе разработки, то в будущем они могут привести к широким последствиям.
