ИИ определяет расу человека по рентгеновскому снимку, хотя его этому не учили
AI Can Predict People’s Race From X-Ray Images, And Scientists Are Concerned
Обучив алгоритм на сотнях тысяч рентгеновских снимков, снабженных информацией о пациентах — в том числе, об их расовой принадлежности — международная команда специалистов получила ИИ, который делает то, на что не способен врач-рентгенолог, да и любой другой: определяет расу человека по изображению внутренних органов.
ИИ, созданный усилиями ученых из Канады, США и Тайваня, может предсказать расовую принадлежность пациента по рентгеновским снимкам с поразительной точностью, даже если на рентгенограмме изображены внутренности людей того же возраста и пола. Уровень точности при распознании достигает в некоторых группах снимков 90%.
Исследователи хотели ответить на вопрос, почему в ряде случаев алгоритмы искусственного интеллекта при сканировании рентгеновских снимков чаще упускают из вида признаки болезни у чернокожих, чем у белых пациентов. Ответа на этот вопрос у них еще нет — разработчики не могут понять, по какой причине ИИ так хорошо идентифицирует расовые признаки, даже если снимки зашумлены или лишены всех известных ученым подсказок (например, плотности костей). Возможно, ИИ смог обнаружить неизвестные науке признаки меланина, окрашивающего кожу пигмента.
Исследователи пока не спешат предлагать технологию медицинским учреждениям из опасений быть обвиненными в расизме.
«Мы должны сделать паузу, — сказал Лео Энтони Сели из MIT, один из разработчиков. — Мы не должны торопиться отдавать алгоритмы больницам и клиникам, пока не будем убеждены, что они не будут принимать расистские или сексистские решения».
Иллюстрация: искусственный интеллект в будущем
hightech.fm
Бот расист, хам и сексист: чего еще ждать от искусственного интеллекта
popmech.ru
https://www.sciencealert.com/ai-can-predict-people-s-race-from-medical-images-and-scientists-are-concerned
