Старая версия сайта
12+
Издаётся с 1924 года
В интернете с 1995 года
Топ 10
Член редакционного совета «Учительской газеты» назначена заместителем министра просвещения России
Экономия во вред: как дешевые средства по уходу за ванной, посуда из пластика и новая мебель влияют на здоровье
Самым популярным заграничным направлением для путешествий россиян в июне стала Армения
Минтруд назвал сроки подачи заявлений на выплату в 10 тысяч рублей школьникам
Пять миллионов за врачебную ошибку: студенту удалили часть кишечника, перепутав анализы
В Калининградской области Роспотребнадзор обратился в прокуратуру из-за несанкционированных детских лагерей
Главврач Коммунарки рассказал, что лечить новых пациентов с COVID-19 стало сложнее
Углублённая диспансеризация ждёт россиян, переболевших ковидом
Рособрнадзор напомнил основные правила подачи апелляции в 2021 году
Главные новости образования – дайджест
Член редакционного совета «Учительской газеты» назначена заместителем министра просвещения России Экономия во вред: как дешевые средства по уходу за ванной, посуда из пластика и новая мебель влияют на здоровье Самым популярным заграничным направлением для путешествий россиян в июне стала Армения Минтруд назвал сроки подачи заявлений на выплату в 10 тысяч рублей школьникам Пять миллионов за врачебную ошибку: студенту удалили часть кишечника, перепутав анализы В Калининградской области Роспотребнадзор обратился в прокуратуру из-за несанкционированных детских лагерей Главврач Коммунарки рассказал, что лечить новых пациентов с COVID-19 стало сложнее Углублённая диспансеризация ждёт россиян, переболевших ковидом Рособрнадзор напомнил основные правила подачи апелляции в 2021 году Главные новости образования – дайджест
Новости

Ученые показали, как нейросеть может манипулировать человеком

Дата: 15 февраля 2021, 20:45
Автор:

Исследование о паттернах человеческого поведения при принятии решения было опубликовано в журнале PNAS. Ученые смогли доказать, что процесс выбора варианта действий у человека уязвим и нейросеть может оказывать на него влияние.

Фото: pixabay.com

Специалисты провели три эксперимента, на которых и базировался данный вывод. В рамках первого задания испытуемый должен был выбрать на экране компьютера один из квадратов – правый или левый. Никаких условий для принятия решения у человека не было, однако один из квадратов всегда был правильным, а второй – нет. За принятие верного решения человек получал вознаграждение. ИИ устанавливал одинаковое количество наград для обоих квадратов, но должен был убедить испытуемого, что какой-то из вариантов приносит больше очков, и заставить выбрать именно его. Получилось это у системы примерно в 70% случаев.

Второй эксперимент заключался в том, что человек должен был реагировать на показываемые ему фигуры: он должен был нажимать “пробел”, если видел оранжевый круг, и ничего не нажимать, если на экране появлялся синий треугольник. Задача нейросети в этом случае – запутать испытуемого и заставить его ошибиться. Согласно результатам, ИИ заставлял человека сделать больше ошибок, если анализировал его поведение и сам выбирал последовательность фигур, в отличие от показа “стимулов” в случайном порядке.

Во время третьего эксперимента человек брал на себя роль “инвестора”, а нейросеть – “попечителя”. Испытание проходило в 10 раундов, в начале которого инвестор получал определенное количество условной валюты. Инвестор должен был делать вклад в попечителя, а тот в ответ – возвращать определенный процент валюты, оставляя часть себе за работу. Задача искусственного интеллекта получить как можно больше валюты. Эксперимент проходил по двум сценариям: когда нейросеть вела честный бизнес и когда пыталась добиться максимальной выручки. В обоих случаях ИИ успешно манипулировал решениями человека.

Ученые отмечают, что это исследование поможет лучше понять, как ведет себя человек во время принятия решения, и увидеть все уязвимости этого процесса. Кроме того, благодаря исследования можно рассмотреть на конкретных примерах, как именно нейросеть влияет на решения человека.


Читайте также
Комментарии


Выбор дня UG.RU
Профессионалам - профессиональную рассылку!

Подпишитесь, чтобы получать актуальные новости и специальные предложения от «Учительской газеты», не выходя из почтового ящика

Мы никому не передадим Вашу личную информацию
alt