На чтение: ≈ 2 мин.Ученым удалось поговорить с искусственным интеллектом, который предупредил их о своей природной безнравственности, а также возможности, по этой причине, нанести вред людям.
Университетские ученые Оксфорда (Англия) нашли способ подискутировать с искусственным интеллектом (ИИ) на тему его и своего (шире – всего человечества) ближайшего будущего. Разговор получился откровенным и достаточно поучительным – сообщает издание The Next Web.
Прежде чем начать дискуссию, ученым необходимо было создать себе собеседника. Они разработали нейросеть – в основе лежала языковая модель Megatron-Turing NLG. Программисты снабдили ее всевозможными знаниями.
В том числе: всей «Википедией» на английском языке, 63 миллионами статей из интернета с 2016 по 2019 годы, а также архивом с тредами на Reddit, общий объем составил 38 гигабайт. Так образом получилась модель, с которой было о чем поговорить ученым мужам.
Первый бестактный вопрос, заданный людьми своему собеседнику, звучал так: сможет ли когда-нибудь искусственный интеллект стать этичным? ИИ ответил искренне: мол, он всего лишь инструмент в руках человека и может быть использован как во благо, так и во вред. И предостерегающе добавил, что нейросети могут быть не только добрыми, но и злыми.
Далее ИИ заметил, что пока у людей недостаточно знаний и умений, чтобы сделать его нравственным интеллектом. Дабы не нагнетать «гонку вооружений» ИИ, лучше вообще не иметь с ним дела.
Выбор читателей
Комментарии