Ученые показали, как нейросеть может манипулировать человеком

Исследование о паттернах человеческого поведения при принятии решения было опубликовано в журнале PNAS. Ученые смогли доказать, что процесс выбора варианта действий у человека уязвим и нейросеть может оказывать на него влияние.

Специалисты провели три эксперимента, на которых и базировался данный вывод. В рамках первого задания испытуемый должен был выбрать на экране компьютера один из квадратов – правый или левый. Никаких условий для принятия решения у человека не было, однако один из квадратов всегда был правильным, а второй – нет. За принятие верного решения человек получал вознаграждение. ИИ устанавливал одинаковое количество наград для обоих квадратов, но должен был убедить испытуемого, что какой-то из вариантов приносит больше очков, и заставить выбрать именно его. Получилось это у системы примерно в 70% случаев.

Второй эксперимент заключался в том, что человек должен был реагировать на показываемые ему фигуры: он должен был нажимать “пробел”, если видел оранжевый круг, и ничего не нажимать, если на экране появлялся синий треугольник. Задача нейросети в этом случае – запутать испытуемого и заставить его ошибиться. Согласно результатам, ИИ заставлял человека сделать больше ошибок, если анализировал его поведение и сам выбирал последовательность фигур, в отличие от показа “стимулов” в случайном порядке.

Во время третьего эксперимента человек брал на себя роль “инвестора”, а нейросеть – “попечителя”. Испытание проходило в 10 раундов, в начале которого инвестор получал определенное количество условной валюты. Инвестор должен был делать вклад в попечителя, а тот в ответ – возвращать определенный процент валюты, оставляя часть себе за работу. Задача искусственного интеллекта получить как можно больше валюты. Эксперимент проходил по двум сценариям: когда нейросеть вела честный бизнес и когда пыталась добиться максимальной выручки. В обоих случаях ИИ успешно манипулировал решениями человека.

Ученые отмечают, что это исследование поможет лучше понять, как ведет себя человек во время принятия решения, и увидеть все уязвимости этого процесса. Кроме того, благодаря исследования можно рассмотреть на конкретных примерах, как именно нейросеть влияет на решения человека.