Ученые придумали способ отучить ИИ от расизма

В конце января компания Amazon снова оказалась в центре скандала, связанного с ее искусственным интеллектом для распознавания лиц. Выяснилось, что ее система Rekognition не способна различить пол чернокожих людей, и поэтому сильно уступает по возможностям аналогам от Microsoft и других компаний. Логичным способом решения проблемы было бы использование более качественных обучающих данных, но исследователи из лаборатории искусственного интеллекта Массачусетского университета придумали более действенный способ.

Стало известно, что они разрабатывают алгоритм, который автоматически избавляет наборы обучающих данных от фотографий, которые могут привести к ошибке при распознавании людей с темной кожей. Исследователи не обещают, что такой способ даст 100% результат, но количество ошибок явно станет меньше. Об этом свидетельствуют внутренние тесты ученых: искусственный интеллект стал на 60% менее предвзятым, и при этом не утратил точность распознавания. Технология также снизит время обучения — использование больших объемов данных сильно замедляло процесс.

Отсутствие предвзятости — очень важная характеристика для искусственного интеллекта. Он все чаще используется полицией, поэтому даже маленькая ошибка алгоритма может стать причиной того, что в тюрьму может быть посажен совершенно невиновный человек. Многим людям не нравится повсеместное использование систем распознавания лиц, но если они и будут использоваться — важно, чтобы они работали максимально точно.

Они уже используются даже в России. Например, во время чемпионата мира по футболу 2018 алгоритм распознавания лиц был внедрен в московскую станцию метро «Фрунзенская». Благодаря ей, полиция смогла быстро обнаружить человека, находящегося в розыске за грабеж. Он стал первым преступником, который был пойман при помощи системы распознавания лиц. Ее стоимость, кстати, оценивается в 4 миллиарда рублей.

Хотите поговорить на тему систем распознавания лиц? Добро пожаловать в комментарии или в наш Telegram-чат, где сотни участников всегда рады пообщаться на тему науки и технологий!

{ «@context»: «http://schema.org», «@type»: «Article», «name»: «Ученые придумали способ отучить ИИ от расизма», «headline»: «Ученые придумали способ отучить ИИ от расизма», «author»: { «@type»: «Person», «name»: «Рамис Ганиев» }, «datePublished»: «2019-01-28 09:46:32», «dateModified»: «2019-01-28 09:46:32», «image»: [«https://hi-news.ru/wp-content/uploads/2019/01/race_recognition_ai-650×374.jpg»], «mainEntityOfPage»: «https://hi-news.ru/technology/uchenye-pridumali-sposob-otuchit-ii-ot-rasizma.html», «publisher»: { «@type»: «Organization», «name»: «Hi-News.ru», «logo»: { «@type»: «ImageObject», «url»: «https://hi-news.ru/wp-content/themes/101media/img/hi-apps_mini.jpg» } } }