Использование недостаточно компетентного искусственного интеллекта в жизненно важных сферах и попытки применить его для контроля человеческой жизни – актуальная угроза в нынешних реалиях. Это обсуждалось на семинаре «Угрозы, которых мы не ожидали от ИИ», который провела Научно-учебная лаборатория трансцендентальной философии Высшей школы экономики.
Глава лаборатории Светлана Климова выяснила у приглашенного выступить с докладом ученого Александра Хомякова, какие проблемы может спровоцировать массовое внедрение ИИ в повседневную жизнь. Хомяков отметил, что на Западе обсуждают зоны ограничения применения искусственного интеллекта. Российские законодатели стремятся запретить его использование, однако специалист убежден, что это приведет к запаздыванию развития. Поэтому нужно соблюдать баланс между развитием и предотвращением пагубных последствий внедрения компьютерного интеллекта.
Первая проблема – способность ИИ писать и публиковать в социальных сетях тексты, почти неотличимые от созданных людьми. Например, бот, разработанный программой GPT, «прикидывался» человеком около месяца. Порой тексты машины нельзя распознать как искусственные, то есть она руководит эмоциями живого собеседника. Роботы способны комментировать новости в ленте, создавать определенный информационный фон, формировать мнения, провоцировать оппонента на те или иные поступки.
Вторая проблема – передача принятия решения ИИ без трезвой оценки его возможностей. Если медик доверит машине расшифровку снимков рентгена, неверные выводы приведут к серьезным последствиям. Работа искусственного интеллекта на вызовах неотложной медпомощи тоже небезопасна. Речь человека, пребывающего в стрессе, машина может неправильно интерпретировать, и создать угрозу для его жизни.
В основе ИИ лежит статистика, точность которой не выше 95%. В этом заключена третья проблема. Из нее вытекает наличие авто- и авиакатастроф с человеческими жертвами в ситуациях, когда машиной управляет автопилот. В Европе искусственный интеллект уже неоднократно обвиняли в расизме: подбирая рабочий персонал, компьютер выбрал меньше соискателей азиатской и африканской наружности.
Четвертая проблема, которую спровоцирует повсеместное внедрение ИИ – исчезновение с рынка труда низкоквалифицированных работников. Это приведет к росту преступности и ненадлежащего поведения. Угрожает ИИ и представителям творческих профессий: в Индии машина уже создает дизайн одежды и обуви, более привлекательный для покупателя. Набирают популярность программы, создающие стихотворения, дизайн интерьера.
Пятая проблема – вероятность ухода из действительности в виртуальную или дополненную реальность. Пользователь может населить ее «хорошими» искусственными людьми, отказавшись от живого общения. Недаром миллионы людей часами играют в компьютерные игры. Выработку эмоций, в частности, определяет качественная проработка героев, вызывающих у геймеров симпатию.
Однако неверно думать, что искусственный интеллект бесполезен. Он обладает большой оперативной памятью, выполняет рутинные дела, которыми современный человек уже не хочет себя обременять. Ранее сетевое издание «Учительская газета» представляло развернутый обзор нынешнего состояния ИИ – самой передовой и перспективной области знаний.
Комментарии