Встроенная нейросеть научилась распознавать лица и дает пользователям расистские и просто оскорбительные характеристики, передает Life.ru.
Интернет-пользователи пожаловались на приложение, которое дает им обидные названия. Сообщается, что встроенная в программу нейросеть проанализировала несколько миллионов фотографий и научилась разделять людей на категории в зависимости от их внешности. Это получилось у нее весьма своеобразно.
Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит «косоглазая». Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Еще одна девушка пришла в ярость после того, как приложение назвало ее «мулаткой».
Корреспондент Mail Online ради эксперимента тоже выложил в приложение свое селфи, и нейросеть назвала его «подозреваемым в изнасиловании». Стоит упомянуть еще одну фотографию — изображенный на ней мужчина выяснил, что программа считает его «впервые совершившим преступление».
Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения. Они заявили, что абсолютно все нейросети классифицируют людей, руководствуясь всевозможными предубеждениями и проявляя дискриминацию. Вся разница в том, что в данном приложении это показано «честно».
«Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных», — поясняют разработчики.