+7 (7172) 30 85 71

Написать нам в WhatsApp: +7 (700) 402 32 92
21.09.2019 в 03:00

«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами

Встроенная нейросеть научилась распознавать лица и дает пользователям расистские и просто оскорбительные характеристики, передает Life.ru.

«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами Фото © Gettyimages

Интернет-пользователи пожаловались на приложение, которое дает им обидные названия. Сообщается, что встроенная в программу нейросеть проанализировала несколько миллионов фотографий и научилась разделять людей на категории в зависимости от их внешности. Это получилось у нее весьма своеобразно.

Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит «косоглазая». Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Еще одна девушка пришла в ярость после того, как приложение назвало ее «мулаткой».

Корреспондент Mail Online ради эксперимента тоже выложил в приложение свое селфи, и нейросеть назвала его «подозреваемым в изнасиловании». Стоит упомянуть еще одну фотографию — изображенный на ней мужчина выяснил, что программа считает его «впервые совершившим преступление».

Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения. Они заявили, что абсолютно все нейросети классифицируют людей, руководствуясь всевозможными предубеждениями и проявляя дискриминацию. Вся разница в том, что в данном приложении это показано «честно».

«Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных», — поясняют разработчики.


Редакция

Новости Казахстана

Полное воспроизведение или частичное цитирование материалов агентства допускаются только при наличии гиперссылки на ИА «NewTimes.kz» в первом абзаце. Фото- и видеоматериалы агентства могут быть использованы только с указанием авторства «NewTimes.kz». Использование материалов ИА «NewTimes.kz» в коммерческих целях без письменного разрешения агентства не допускается.

© 2013-2019, «NewTimes.kz». Все права защищены.
Об агентстве. Правила комментирования. Реклама на сайте

Республика Казахстан, 010000
г. Нур-Султан (Астана), К. Сатпаева, 13А
Тел.: 8 (7172) 308571
Email: n.times@mail.ru

Мы в соцсетях

       

Приложения Newtimes для:
iPhoneAndroid

  Яндекс.Метрика