ИИ научился определять расу по рентгеновским снимкам — ученые не понимают, как ему это удалось. Может ли алгоритмический «расизм» повлиять на решения врачей о диагнозе и лечении?

Рентгеновские лучи «видят» буквально насквозь, но даже профессионал не сможет определить по снимку, человек какой расы на нем изображен. Но то, на что не способен человек, оказалось под силу искусственному интеллекту. Этому загадочному феномену посвящена свежая статья в The Lancet Digital Health.

Международная команда исследователей, куда вошли ученые из MIT и Медицинской школы Гарвардского университета, обнаружили, что алгоритм, натренированный читать рентгеновские и снимки КТ с 90%-й точностью предсказывают расовую принадлежность объекта съемки. Сами ученые не могут объяснить, как ИИ это удается, но они обеспокоены: может ли алгоритмический «расизм» повлиять на решения врачей о диагнозе и лечении?

Unsplash.com