вторник, 29 ноября, 2022
icon
467.99
icon
488.82
icon
7.7
Алматы:
icon
-9oC
Астана:
icon
-16oC
Подпишитесь на нас:
Новости мира Роза Нургалиева
21 сентября, 2019, 03:00

«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами

Встроенная нейросеть научилась распознавать лица и дает пользователям расистские и просто оскорбительные характеристики, передает Life.ru.

«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами

Фото © Gettyimages

Интернет-пользователи пожаловались на приложение, которое дает им обидные названия. Сообщается, что встроенная в программу нейросеть проанализировала несколько миллионов фотографий и научилась разделять людей на категории в зависимости от их внешности. Это получилось у нее весьма своеобразно.

Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит «косоглазая». Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Еще одна девушка пришла в ярость после того, как приложение назвало ее «мулаткой».

Корреспондент Mail Online ради эксперимента тоже выложил в приложение свое селфи, и нейросеть назвала его «подозреваемым в изнасиловании». Стоит упомянуть еще одну фотографию — изображенный на ней мужчина выяснил, что программа считает его «впервые совершившим преступление».

Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения. Они заявили, что абсолютно все нейросети классифицируют людей, руководствуясь всевозможными предубеждениями и проявляя дискриминацию. Вся разница в том, что в данном приложении это показано «честно».

«Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных», — поясняют разработчики.

В статье:
Что думаете об этом?
Подпишитесь на нас:
Написать комментарий


Эксклюзив
Интервью и мнения