Искусственный интеллект научился манипулировать людьми

15 февраля, 2021 21 :28

Исследователи из Австралии обнаружили, что искусственный интеллект может научиться обманывать людей и заставлять их действовать так, как выгодно ему. Об этом пишет «Новое время».

Команда австралийских исследователей Data 61 провели три эксперимента, в которых люди играли в игры против компьютера. Их целью было выяснить, как искусственный интеллект будет учиться манипулировать людьми. Результаты и ход исследования были опубликованы в журнале Proceedings of the National Academy of Sciences.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть фальшивую валюту. При этом ИИ изучал шаблоны выбора участников и подталкивал их к конкретному выбору в 70% случаев.

Во втором эксперименте участники должны были смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать его, когда им показывают другой (например, синий круг). Здесь ИИ начал создавать такую последовательность символов, чтобы заставить участников больше ошибаться. В итоге нейросеть добилась увеличения количества ошибок почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник был в роли инвестора, а ИИ отыгрывал роль управляющего. Нейросеть использовала деньги, а потом возвращала определенную сумму человеку, который затем решал, сколько вложить в следующий раунд. В эту игру играли в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом он стремился к справедливому распределению денег между собой и человеком. ИИ был очень успешен в каждом режиме.

Исследователи отмечают, что машина в каждом эксперименте училась на решениях и ответах людей, со временем обнаруживая уязвимые места в процессе принятия решений. Конечным результатом стало то, что ИИ научился направлять участников к определенным действиям.

Результаты исследования пока еще абстрактны, но уже показывают, что машины могут влияет на решения людей. Таким образом, решили ученые, нужны дополнительные исследования, чтобы определить, как эти выводы можно реализовать и использовать на благо общества.