Решения принимает компьютер

По-видимому, реальность, в которой машины будут контролировать людей и управлять ими, не такая уж невозможная вещь. По крайней мере, если проанализировать результаты серии экспериментов, проведенной международной группой ученых. Отчет об исследовании был опубликован в журнале Proceedings of the National Academy of Sciences (PNAS).

Существует несколько распространенных способов принятия решений. Одни люди при этом руководствуются логикой, другие – интуицией, третьи опираются на прошлый опыт, то есть если в прошлом аналогичные методы работали, они будут снова их использовать. Однако ни один из этих вариантов не исключает возможности манипуляции. Так, недавно специалисты из Лондонского университета пришли к выводу, что налитая в левое ухо вода способна изменить наше отношение к жизни. Скажем, если для человека характерен оптимизм, который в наши дни принято называть позитивным мышлением, то промывание уха заставит его посмотреть на жизнь более реально.

В свою очередь исследователи из Университета Берна выяснили, что промывание левого уха помогает бороться со склонностью к так называемым импульсивным покупкам. Известно, что люди нередко стремятся приобретать вещи, которые им особо и не нужны. Просто под настроение. И потом порой жалеют о ненужной покупке или просто не используют ее.

В эксперименте приняли участие 40 женщин-добровольцев. Их попросили составить список товаров, которые они хотели бы приобрести. После того как списки были составлены, им промыли левое ухо водой и вновь попросили пройтись по перечню желаемых вещей. В большинстве случаев он значительно сократился.

По словам ученых, наш левый слуховой канал связан с нижней лобной извилиной головного мозга, ответственной за восприятие окружающего мира. Промывание стимулирует этот участок мозга, и мы начинаем воспринимать мир по-другому. По всей вероятности, более объективно, чем ранее. И, конечно, это воздействует на наше поведение и принимаемые нами решения.

Еще пример. В 1983 году американский нейрофизиолог Бенджамин Либет поставил следующий эксперимент: набрал команду добровольцев и предложил им поднимать палец, когда у них возникнет такое желание… При этом о том, что им хочется поднять палец, они должны были сообщить, нажав на кнопку звонка. Одновременно ученый сканировал мозг испытуемых. Выяснилось, что соответствующие области в мозгу участников исследования активизировались раньше, чем звенел звонок. Задержка составляла примерно 500 миллисекунд.

Аналогичный опыт провел несколько лет назад и профессор математики из Оксфорда Маркус дю Сотой. Во время съемок передачи на канале «Би-Би-Си» он попросил профессора Джона Дилана Хайнса из Центра нейроинформатики Бернстайна просканировать его мозг в то время, как он должен был нажать на кнопку прибора. Ему предстояло делать выбор – использовать для нажатия правую или левую руку. Сканирование показало, что за шесть секунд до того, как происходило осознание решения, в мозгу активизировались отдельные участки, причем в случае выбора правой руки зоны активности отличались от тех, которые были задействованы в случае выбора левой…

Получается, что наш мозг принимает решение еще до того, как мы его осознаем! О какой же свободе выбора может идти речь?

Увы, выводы из предыдущих исследований подтверждает и последняя работа специалистов из Data61 Организации научных и промышленных исследований Содружества (CSIRO). Совместно с сотрудниками Австралийского национального университета и коллегами из Германии они разработали нейронную сеть, способную манипулировать алгоритмами принятия решений человеком. В рамках исследования было проведено несколько экспериментов на добровольцах.

В ходе первого испытания участникам предлагалось нажать на квадрат красного или синего цвета, выведенный на монитор. Если человек нажимал на «правильный» квадрат, он получал вознаграждение в виде игровой валюты. Однако на деле на оба квадрата выпадало одинаковое количество верных вариантов. В процессе принятия решения нейросеть воздействовала на испытуемых таким образом, чтобы они выбирали именно конкретный квадрат. В 70% случаев люди воспользовались «подсказками» искусственного интеллекта, будучи убеждены в том, что сделали выбор самостоятельно. На втором этапе требовалось выбрать определенный символ из появлявшихся на экране. Времени на раздумья давалось очень мало. При этом нейросеть подталкивала испытуемых выбирать ошибочные варианты. Это также в большинстве случаев сработало. И наконец, на третьем, и последнем, этапе добровольцам дали задание сделать инвестиции игровой валюты. При этом нейросеть играла роль доверительного управляющего, оставляя себе в качестве вознаграждения некоторую часть средств. Предполагалось, что искусственный интеллект подскажет человеку наиболее выгодный вариант сделки. Впоследствии выяснилось, что люди соглашались на сделки, считая такое сотрудничество выгодным, даже если виртуальный финансовый консультант их явно обманывал. Как утверждает руководитель проекта Амир Дезфули (CSIRO), исследование показало, что виртуальные алгоритмы способны влиять на людей, используя их уязвимости в виде привычек и паттернов поведения. «Хотя исследование было теоретическим, оно позволяет нам лучше понять, как люди делают выбор, – прокомментировал ученый. – Эти знания ценны, потому что они позволяют нам уменьшить наши уязвимости, чтобы мы могли лучше их выявлять и избегать ошибочного выбора в результате потенциального злоупотребления ИИ».

Впрочем, по словам Дезфули, все будет зависеть от создателей алгоритма. «Станут ли ИИ и машинное обучение использоваться на благо обществу, в конечном итоге будет зависеть от того, насколько ответственно мы будем их настраивать», – сказал он.