«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами

Встроенная нейросеть научилась распознавать лица и дает пользователям расистские и просто оскорбительные характеристики, передает Life.ru.

«Косоглазый, насильник»: Селфи-приложение распознает лица и обзывает пользователей оскорбительными словами
Фото © Gettyimages

Интернет-пользователи пожаловались на приложение, которое дает им обидные названия. Сообщается, что встроенная в программу нейросеть проанализировала несколько миллионов фотографий и научилась разделять людей на категории в зависимости от их внешности. Это получилось у нее весьма своеобразно.

Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит «косоглазая». Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Еще одна девушка пришла в ярость после того, как приложение назвало ее «мулаткой».

Корреспондент Mail Online ради эксперимента тоже выложил в приложение свое селфи, и нейросеть назвала его «подозреваемым в изнасиловании». Стоит упомянуть еще одну фотографию — изображенный на ней мужчина выяснил, что программа считает его «впервые совершившим преступление».

Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения. Они заявили, что абсолютно все нейросети классифицируют людей, руководствуясь всевозможными предубеждениями и проявляя дискриминацию. Вся разница в том, что в данном приложении это показано «честно».

«Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных», — поясняют разработчики.

В статье:
Loading...
Жанар Муканова -  вторник, 19 октября в 02:13
Оазис в центре Казахстана
Редактор -  воскресенье, 17 октября в 04:58
«Игра в кальмара» по-казахстански
Айнур Оразбекова -  пятница, 15 октября в 03:50
Новая пятилетка – старые проблемы: Шымкент и его 15 акимов
Жанар Муканова -  воскресенье, 10 октября в 10:26
Специфика деревенских доходов в глубинке Северного Казахстана

21 октября, четверг