Google визуально приравнял чернокожих к гориллам

by topbloger 17. января 2018 03:00
Google Photos не отличает представителей негроидной рассы с очень темным цветом кожи от горилл, шимпанзе и мартышек

Компания Google убрала из лексикона Google Photos слово «горилла», поскольку механизм распознавания изображений подписывал им фото афроамериканцев с очень темным цветом кожи. Этот факт был установлен два года назад, и с тех пор Google так и не смогла научить систему отличать приматов от представителей негроидной расы.

"Забытое" слово

fot1--254534690656839408759384759834795687439857832955464558713
Google Photos не отличает представителей негроидной рассы с очень темным цветом кожи от горилл, шимпанзе и мартышек

Искусственный интеллект Google Photos больше не сможет распознавать на фотографиях горилл, а также шимпанзе и мартышек. При этом изображения всех остальных животных, включая бабуинов, гиббонов и орангутанов, система распознает по-прежнему. Дело в том, что компания Google исключила из словарного запаса Google Photos слова «горилла», «шимпанзе» и «мартышка». К такому выводу пришел журнал Wired, который протестировал более 40 тыс изображений в этом сервисе.

Компания подтвердила догадку издания. Как пояснила Google, ей пришлось пойти на такой шаг потому, что механизм распознавания изображений путал горилл и представителей негроидной расы. В результате фотографии, на которых были запечатлены люди с очень темным цветом кожи, получали в системе автоматический тег «горилла». Компания акцентирует внимание на том, что механизм автоматического присваивания тегов находится на ранней стадии развития и не отличается совершенством.

[vesti.ru, 11.01.2018, "Google Photos перестали показывать фото горилл из-за обвинений в расизме": Сервис Google Photos использует технологию машинного обучения, чтобы сортировать фотографии более 500 миллионов пользователей. Снимки получают условные обозначения после загрузки, их можно найти с помощью поисковых запросов. [...]

Сотрудники The Wired загрузили в Google Photos 40 тысяч фотографий разных животных. Сервис смог распознать гиббонов, панд и орангутангов, однако не справился с обезьянами, гориллами и шимпанзе. На некоторых фото горилл программа увидела только зоопарк или джунгли.

В Google подтвердили, что с 2015 года изображения некоторых приматов у них находятся под запретом. Будет ли эта проблема решена, неизвестно. — врезка К.ру]

По наблюдениям пользователей, возможности распознавать горилл лишилось также приложение для камеры Google Lens, однако Google Assistant и система распознавания объектов для бизнеса Google Cloud Vision по-прежнему идентифицируют всех приматов корректно.

Скандал в 2015 году
О том, что механизм распознавания изображений Google Photos путает горилл и афроамериканцев, стало известно в июле 2015 года. Афроамериканец Джеки Алсине (Jacky Alciné) отметил в соцсети Twitter, что фотография, где был изображен сам Джеки с чрезвычайно темнокожей подругой, получила автоматический тег «гориллы». «Google Photos, ты облажался по полной. Моя подруга не горилла», — написал Алсине.

fot-43564565460945605406978507985069785687688965346235
Фото, на котором Джеки Алсине и его подруга распознаны как гориллы
Вскоре с Джеки вышел на связь Йонатан Зунгер (Yonatan Zunger), старший специалист Google по социальной инженерии. Он поблагодарил Алсине в Twitter за то, что тот помог обнаружить ошибку. По словам Зунгера, проблема заключалась в затемненности лиц на фотографии и некорректной обработке контрастов при данном тоне кожи и освещении. Зунгер отметил, что у системы также были трудности с тем, чтобы отличать собак от людей различной расовой принадлежности.

Сам сервис был запущен незадолго до этого, в мае 2015 года. После скандала и шквала обвинений в расизме Google пообещала найти решение. Два года компания пыталась научить искусственный интеллект отличать горилл от афроамериканцев, однако потерпела поражение, и в результате вынуждена была просто исключить слово «горилла» из лексикона Google Photos. В результате в настоящий момент тег «горилла» не присваивается даже тем изображением, на которых присутствуют соответствующие животные.

Валерия Шмырова
blog comments powered by Disqus

Добавить комментарий



Реклама

Список Компроматов

Избранное