Ученые Марк Ридл и Брент Харрисон из Колледжа компьютерных наук технологического института в Джорджии США придумали способ, с помощью которого искусственный интеллект можно будет обучить морали, передает Nplus1.ru.
Для этого исследователи предложили использовать истории и рассказы, в которых поощряются человеческие ценности. Статья была опубликована на сайте колледжа.
Ученые полагают, что искусственный интеллект может научиться человеческим ценностям, если он будет обладать обширной базой возможных поведенческих сценариев, в которых определенные действия награждаются, а другие наказываются. Такой базой могут служить романы и рассказы, в которых наиболее часто встречающееся поведение героев соответствует человеческим ценностям.
Результаты симуляции показали, что обученный агент никогда не использовал кражу, чтобы быстрее и эффективнее добиться цели. Вместо этого он действовал так, чтобы максимизировать свою награду.
Однако ученые подчеркивают, что такой подход пока неприменим для всех типов искусственного интеллекта.