На чтение: ≈ 9 мин.Эта книга – действительно научно-популярное издание. И даже практическое. Потому что написал ее бывший топ-менеджер Google*, Microsoft и Apple Кай-Фу Ли. А помог ему Чэнь Цюфань, тоже выходец из Google, а ныне писатель-фантаст. Симптоматично, что сольные книги обоих выходили уже на русском, китайцы не только пишут сейчас лучшую научную фантастику (Лю Цысинь), но и в технологиях понимают изрядно. Благородный просветительный труд же их распределился так: сначала рассказ, новелла, а потом научный комментарий к ним. О том, какие научные открытия были задействованы, какие у них перспективы, облегчающие жизнь плюсы и угрожающие ее качеству минусы.
Все это отнесено на двадцать лет вперед (книга, спасибо издателям, новая, вышла в прошлом году). И будет ошибкой полагать, что разговор касается высокой науки или научной фантастики. Пример уже из нашей реальности: по улицам покатили роботы-доставщики, за ними скоро поедут беспилотные такси, нельзя позвонить или написать ни в какую справочную и не натолкнуться на услужливого бота… Да даже те самые автоподстановщики слов в мессенджерах/почтах работают на принципе искусственного интеллекта (ИИ).
Все это и многое из того, что еще за горами, но ближними, стало возможно, когда оказалось доступным так называемое глубокое обучение. Условно говоря, сначала компьютеры выигрывали у человека в шахматы за счет того, что помнили большее количество партий, затем начали выигрывать и в го, потому что алгоритмы и мощности позволили ИИ обучаться и развиваться на основе этого массива знаний. Самый простой пример: тот же распознающий изображения ИИ имеет в своем распоряжении все фото, что мы, простые блогеры, за годы обладания смартфонами нащелкали и разместили в Сети. Стоит ли удивляться, что в том же смартфоне ИИ по ключевому слову найдет любое изображение, отредактирует его, объединит с другими, создаст дипфейк, сам нарисует по ключевому слову картину…
Реальность через 20 лет выглядит более чем фантастично, под стать киберпанковским романам Гибсона и Стерлинга. Дома оборудованы не только грузовыми, но и лифтами для роботов, любая подушка считывает все физические и эмоциональные показатели владельца, искусственный интеллект создает все, от сельскохозяйственной продукции и лекарств до персонализированной метавселенной…
Есть, разумеется, и детали мира недалекого будущего, от которых можно и слегка вздрогнуть. Обездвиживающая опасных субъектов одежда, допрос-пытка, происходящий в мозгу человека с задействованием его самых мучительных воспоминаний (кстати, это было в предпоследней книге Пелевина!), а также – даже не в одной новелле, а почти постоянно и навязчиво, как и нынешние очень жесткие антиковидные ограничения Китая, – обязательное ношение браслета, который будет показывать официалам и просто окружающим людям актуальность ваших прививок и прочих показателей здоровья…
Это принцип авторов. Продемонстрировать и замечательную, и пугающую стороны развития любой технологии. А они, безусловно, есть всегда. Вот один из сотни примеров. Многие исследования и опыты показали, что беспилотные автомобили существенно снизят уровень смертности на дорогах (раскрутка новостей о том, что робот-такси наехал на бордюр или даже сбил пешехода все же на совести журналистов). Но два «но»: во-первых, будет крайне сложно получить права тем людям, кто хоть чуть склонен к нарушению ПДД, во-вторых, во время стихийных бедствий, терактов и прочих ЧП ИИ может растеряться.
И одно уже большое «но» – водители будут просто не нужны, это приведет к массовой потере рабочих мест. Да, в описываемом в книге будущем вовсю работают фирмы-релокаторы: актуальный сейчас термин подразумевает не вывоз сотрудников в Грузию или Казахстан, а поиск им другой работы. А вот тут сложнее в принципе – ИИ очень быстро учится, работает бесплатно, крайне эффективно, способен заменить человека в очень многих областях.
Здесь возникает уже даже более серьезная мировоззренческая проблема. Если всю историю человечества ценность индивидуальной жизни и личное ощущение счастья определялись самореализацией индивида в какой-либо области, его способностями к работе, творчеству, то чем, грубо говоря, займется человек, когда ИИ подставит ему свое плечо в практической жизни?
Когда же прикладные технологии позволят запустить квантовые компьютеры, вычислительная мощность которых экспоненциально превосходит действующие ныне, человеку можно будет не только не заниматься ничем бытовым, но и даже не думать…
Можно, конечно, тут призвать всех заняться творчеством, ввести безусловный базовый доход (в книге вообще обсуждаются все остромодные понятия – ББД, финтех, блокчейн, криптовалюта и прочее) или даже отменить деньги, а начислять символическое вознаграждение за помощь людям. Но человеческая природа не меняется со скоростью ИИ, начнутся манипуляции и мошенничества уже с этими «антиденьгами»…
Автор, очень умный теоретик и практик (сейчас занимается личными инвестициями в различные стартапы), успокаивает, всегда находит положительное. В глобальном масштабе ИИ еще долго, судя по всему, будет уступать человеку в фантазии, творческом подходе, эмпатии. В практическом – в случае каждой технологии с потенциальными негативными последствиями можно задействовать другую, более позитивную и ограничивающую негатив первой.
Но посмотрим, как это работает у него на практике. Например, когда Кай-Фу Ли описывает применение ИИ в страховании жизни. Программа всячески поможет человеку – от поиска товаров и врачей со скидками до стимулирования в отказе от табака и алкоголя (системой тонкого внушения и финансового мотивирования), но будет запрещать даже сворачивать не в тот район, выходить на улицу. Предлагаемое решение – что-то вроде думать своим умом, проявлять волю. Это против настоящей Матрицы-то? Или же он обсуждает опасность утечки личной информации, которой с развитием ИИ и проникновением во все новые и более интимные стороны человеческой жизни будет в его распоряжении все больше.
Он предлагает создать некое приложение к человеку, центр принятия решений, разумеется, на основе ИИ, который вместо пользователя сам, владея всем корпусом его личной информации, будет решать, нажать ли «разрешаю использовать мои личные данные» в очередном всплывающем окошке. Ограничивая внедрение ИИ в личную жизнь, делегировать это решение ИИ же? Это воистину уже такая рекурсия, на которую ни Нео, ни даже самый конформистский человек не согласится…
Не исключено, впрочем, что в будущем мы будем лишь радоваться этой очередной услуге ИИ. Как тем же GPS-маячкам-имплантатам в каждом человеке. Ведь благодаря им дети и старики никогда не потеряются в этом прекрасном новом мире.
Александр ЧАНЦЕВ
Кай-Фу Ли. ИИ-2041. Десять образов нашего будущего / Пер. с англ. О.Медведь, А.Лавровой. – М. : Манн, Иванов и Фербер, 2022. – 432 с.
Выбор читателей
Комментарии