Искусственный интеллект меняет мир

Через 30 лет искусственный интеллект, возможно, превзойдет самые выдающиеся умы и начнет получать нобелевские премии за научные открытия. Такой прогноз недавно сделал генеральный директор Sony Computer Science Laboratories Хироаки Китано. При этом он надеется, что первым нобелевским лауреатом «нечеловеческого» происхождения станет именно разработка корпорации Sony.

Речь идет о проекте Nobel Turing Challenge. Основной и долгосрочной его задачей будет создание машинного интеллекта, способного совершать принципиально новые открытия в науке и технике. «Важно не повторно открывать то, что мы уже знаем, или пытаться имитировать человеческие мыслительные процессы, – считает Китано. – Цель проекта в том, чтобы изменить формулировку самого научного открытия и создать его альтернативную форму».

На первичном этапе предполагается разработать набор полезных инструментов, автоматизирующих как экспериментальную, так и теоретическую часть исследовательского процесса. Причем процесс этот будет непрерывным и автономным, то есть практически без участия операторов-людей или задействования каких-то внешних ресурсов.

Такие кибернетические системы станут генерировать и подвергать проверке огромное число гипотез на основе некоей базовой темы или программы. Разработчики надеются, что некоторые исследования впоследствии приведут к серьезным открытиям, меняющим мир. По крайней мере, так утверждает Китано. Также искусственный интеллект будет работать в связке с людьми, выполняя наиболее трудоемкие задачи и оставляя ученым больше времени для аналитической работы.

Менее оптимистичен в своих прогнозах относительно «умного» будущего Евгений Касперский, генеральный директор «Лаборатории Касперского». Он считает, что любые сложные электронные устройства могут страдать от хакерских атак, и с годами эта ситуация станет лишь усугубляться.

Выступая перед зрителями марафона «Новое знание», Касперский рассказал, что если уже сегодня умелый хакер способен запросто взломать защиту компьютера или смартфона, то с развитием так называемого интернета вещей (IoT) мы фактически никогда не сможем чувствовать себя в безопасности.

Интернет вещей уже сейчас активно развивается. На рынке присутствуют «умные» холодильники, пылесосы, видеокамеры и другие устройства. А некоторые люди полностью обустраивают себе «умный дом», нашпигованный электроникой, которая все будет делать за них, даже включать свет и заказывать еду.

«Это большая проблема, – заявил Касперский. – В будущем вы не сможете купить просто кофемашину – вы получите кофеварку с «мозгами». Она будет постоянно качать из Сети обновления. Скоро все устройства будут «умными». И если они окажутся «дырявыми», их атакуют хакеры. Ночью холодильник вдруг открывает дверь, а утром закрывает. Вы приходите на кухню, а там запах! Вы получаете эс­эмэс-сообщение: «Хотите избавиться от запаха, заплатите 5 тысяч рублей».

И это вовсе не пустая страшилка. Только за шесть месяцев позапрошлого года «Лаборатория Касперского» зафиксировала около 100 миллионов попыток нападений хакеров на «умные» устройства. Чаще всего это делалось с целью проводить майнинг без ведома владельца устройства, получить контроль над объектами инфраструктуры или бизнесом.

Насколько высока вероятность того, что киберпреступники переключатся на обычных граждан, частных лиц, пользующихся «умной» бытовой техникой? По словам директора компании «ИТ-Резерв» Павла Мясоедова, уже имеются факты получения хакерами доступа к установленным в частных домах и квартирах видеокамерам. Кроме того, были случаи, когда в результате хакерских атак некоторые устройства выходили из строя или даже загорались.

«И нельзя забывать, конечно, о персональных данных», – говорит Мясоедов. Он напоминает о том, что ряд устройств, которыми мы пользуемся, имеют функции записи. Это, например, смартфоны или телевизоры. Наверняка вы замечали, что стоит поговорить на какую-то тему в присутствии гаджета (не обязательно используя его при разговоре), как тебе начинают показывать информацию на эту тему, например рекламу. А если вы звоните в банк, называете коды? И это «умная» техника может легко подслушать… На сегодняшний день эффективного софта для защиты от проникновения извне в персональные электронные устройства не существует, предупреждает глава «ИТ-Резерв».

А теперь представим себе, что к 2050 году (а может, и раньше) в мире распространятся автономно действующие (при минимальном участии человека) системы искусственного интеллекта. Допустим, они будут заниматься научными исследованиями. Это не такая уж невинная сфера деятельности, как может показаться. Если в систему проникнет хакер, он может внедриться в ее работу и начать контролировать процесс. К чему это приведет, мы прекрасно знаем из научной фантастики. Диапазон – от локальных сбоев в электронных системах до глобальных катаклизмов, когда в масштабах целой страны или даже всей планеты отключится электричество, перестанут работать сотовые сети и Интернет. Если к тому времени нам вживят чипы, которые будут обеспечивать всю нашу жизнедеятельность и коммуникации, то наша жизнь буквально превратится в ад… А при самом худшем раскладе может произойти масштабная техногенная катастрофа, например, ядерного характера.

Так что, совершенствуя компьютерные алгоритмы, не стоит забывать о проблеме безопасности. Необходимо одновременно с разработкой новых направлений искусственного интеллекта совершенствовать и системы защиты от взлома. Более того, без такой защиты вообще нельзя запускать никакие процессы, основанные на искусственном интеллекте! Это тот случай, когда на первое место должны выходить не интеллектуальные амбиции, а человеческое благополучие.