С появлением сильных киборгов человечество рискует потерять себя — мнение

Информация о качественном улучшении жизни на Земле с помощью искусственного интеллекта (ИИ) сильно преувеличена, она в последнее время подвергается сомнению со стороны учёных-практиков, философов-футурологов и даже военных. Об этом EADaily рассказал Александр Посадский, профессор Смольного института и Китайского нефтяного университета (Пекин), эксперт российского Центра гуманистической экологии и культуры.

— Искусственный интеллект станет «другом» или «врагом» человечеству в зависимости от того, будет ли человечество другом или врагом самому себе, займётся ли оно очеловечением или встанет, например, на путь тотальной дегуманизации. Ценности, духовные смыслы, нравственные нормы — все, что составляет человечность, человеческую суть, автоматически не могут быть заложены в голову робота. При этом ИИ способен быть опорой развития человечества. Например, ИИ прекрасный экономический или медицинский консультант. В любом случае его роль исключительно вспомогательная, не стратегическая. ИИ не способен формировать устойчивые сообщества, генерировать прорывные стратегии для человеческой цивилизации.

— А по какой причине человек допускает передачу своей главенствующей роли машине?

— На мой взгляд, вообще слишком лояльное отношение к возможностям ИИ говорит об определённых симптомах болезни самого человечества. Стремление передоверить кому-то собственное развитие отражает неуверенность человечества в своих творческих силах, неспособность и отсутствие желания раскрыть собственный творческий потенциал. Всё это демонстрирует незрелость, я бы даже сказал, инфантилизм нашей цивилизации. Зрелая цивилизация, в которой человек всегда будет ощущать своё творческое превосходство над машиной, никогда не будет считать машину умнее, а мы, к сожалению, уже близки к этому. Переадресование ИИ сверхзадач спасения человеческого рода, вырабатывания и воплощения стратегии устойчивого развития, формирования сущностных воззрений на мироздание — всё это симптомы упадка нашей цивилизации, истощение ресурсов духовного производства, выхолащивание творческих энергий человеческого рода. Получается, что когда мы не можем найти пути выхода из кризисных ситуаций, не верим сами в себя, то начинаем уповать на ИИ, ожидать от него то, на что он не способен. И здесь симптом болезни нельзя принимать за лекарство. Спасет планету от катастрофы, найдет ответы на вызовы современности, гарантирует безопасное будущее не киборг, а творческая личность. Исторически так было и так будет. Иначе мы рискуем превратиться в безынициативных роботов ещё до распространения сильного ИИ.

— То есть понимания, что проблема потери творческого начала действительно опасна, нам сегодня как раз и не хватает?

— Надо сказать, сама идея доминирования, превосходства ИИ над человеческим интеллектом есть во многом и продукт общества потребления, которое настраивает человека не на серьезный труд, а на удовлетворение примитивных инстинктов при минимизации работы разума. Идеал такого общества — человек наслаждающийся, а не думающий. Он с легкостью готов пожертвовать своим интеллектом во имя искусственного. Но в случае прекращения творческого развития личности «весна"искусственного интеллекта может отражать «зиму» интеллекта естественного. Интересно, что для великого отечественного мыслителя В.И. Вернадского понятие «ноосфера» (то есть сфера человеческого интеллекта на планете Земля и во всем космосе) связано с развитием интеллектуального труда, когда в основе «эры разума» находится именно человек, творчески трудящийся. В общем, далеко не всякое развитие ИИ равнозначно прогрессу человеческой цивилизации. Наращивание ИИ может зеркально отражать ее регресс, антропологическую, ценностную катастрофу.

— Вы говорили, что в странах Азии данные проблемы в XXI веке стали видны невооружённым глазом.

— К сожалению, придется признать, что азиатские страны, а именно они считаются лидерами внедрения ИИ (Япония, Южная Корея, Сингапур), относятся к так называемым исчезающим обществам. Ещё совсем недавно для многих примером страны, осуществляющей революцию в робототехнике, была Япония. Однако сейчас мы видим, что это государство идёт по пути глубокой демографической катастрофы. Япония — страна с миллионами заброшенных домов. Здесь умершие ставятся крематориями в списки ожидания. Пожилые люди находятся в социальной изоляции. Из четырех мужчин в Японии старше 50 лет один никогда не был женат (в 2030 году им станет один из трех). На заводах страны в 23 раза больше роботов, чем в среднем по миру, но это отнюдь неспособно автоматически продлить японское экономическое чудо. Сегодня японцам стало ясно, что новая волна автоматизации не решит демографическую проблему. На вызов современности был дан неадекватный ответ — роботы не стали лекарством. Они в чем-то принесли комфорт, но и обнажили болезнь. Японцы сегодня все чаще начинают задумываться о потенциале трудовых мигрантов. По прогнозам к 2050 году население в этой стране уменьшится на 20 млн человек, а половине живущих будет за 60 лет. В Сингапуре, также являющемся одним из лидеров роботизации на Земле, схожие проблемы. На островах самый низкий коэффициент рождаемости в мире. Трудоспособное население сокращается в год на 1,7%. Катастрофический дефицит трудовых ресурсов привел поначалу к ставке на трудовых мигрантов, но нежелание общества идти таким путем обернулось ставкой на роботизацию. Сейчас генерируется новый образ города — центра инноваций и внедрения беспилотной робототехники. Вот только по прогнозам, с 2026 года доля трудоспособного населения там будет сокращаться ежегодно на 2,5% и пока неясно, кто же будет жить и трудиться в умном городе.

Другого азиатского лидера разработки и воплощения роботизации Южную Корею также можно отнести к исчезающим обществам. Общий коэффициент рождаемости в этой стране в 2018 году рекордно упал до 0,98. Половина корейцев до 40 лет — одиноки. Скорее всего, к 2045 году Корея станет наиболее старой страной в мире. Ещё в корейских школах практикуется обучение детей роботами, которые не в состоянии привить подрастающему поколению большинство важных качеств.

Получается, что в отмеченных трех странах широкое применение систем ИИ стало симптомом демографической катастрофы, а не решением вопросов демографического кризиса. В таком случае ИИ лишь скрашивает увядание человеческой цивилизации.

Говоря об Азии, нельзя не упомянуть Китай, который также столкнулся с серьезными вызовами — разрушением связей общинного порядка, расцветом индивидуализма и отчуждения между людьми. Кстати, аналитики предрекают Китаю серьезный демографический кризис уже в ближайшем будущем. Иными словами, руководство Поднебесной сегодня озабочено наступлением нового"смутного времени» и распадом страны. Именно в данном контексте там вводится Система социального доверия, базирующаяся на системах ИИ. Будут ли способны электронные системы слежения и регуляции социальных отношений вернуть обществу ценности и общий дух? Я не знаю. Обычно гражданские добродетели питаются личным нравственным примером и моральным воодушевлением. Технологические же системы ранжирования поведенческих моделей, пусть и самые гуманные, никогда не приобретут силу нравственного авторитета.

Ещё замечу, что исторически Азия всегда была оплотом традиционных духовных ценностей, источником мировых религий, была цитаделью высокой человеческой идентичности. Сегодня же она рискует стать мировым центром «умной порноиндустрии». Некоторые дельцы в том же Китае хотят использовать ИИ в продвижении порнорынка на все страны мира.

— Насколько это применимо для коммунистического Китая?

— Не забывайте, что в Китае сильны в том числе и неолиберальные ценности и с развитием рыночной экономики подобные настроения только усиливаются.

— Значит ли это, что в один прекрасный момент человечество разочаруется в ИИ?

— Эксперты Saxo Bank (Дания) в 2020 предрекают «третью зиму» искусственного интеллекта. Они отмечают, что десятки миллиардов долларов, потраченные за последние 10 лет корпорациями на разработки и исследования, не окупились, а прогресс глубокого машинного обучения становится самым незначительным за последние пять лет. В конце концов, венчурный капитал серьезно сократит вложения в ИИ. Иными словами, высокие ожидания применения ИИ могут не оправдаться. Более того, сегодня учёные все чаще говорят о выявленных пределах глубокого обучения машин. Мы не в состоянии создать интеллект человеческого уровня. Об этом, например, заявил руководитель научно-исследовательского подразделения Google Эммануэль Можене. По его мнению, мы в лучшем случае можем добиться интеллекта «змеиного» уровня. Есть сильный ИИ, о котором мы мечтаем, а есть слабый, который мы имеем сегодня. А ведь представители Tesla, GeneralMotors и Ford прогнозировали повсеместное внедрение беспилотной техники уже к 2020 году. Но и этого практически нет. Поэтому, скорее всего, «третья зима» ИИ уже на дворе.

— Но тему ИИ активно и регулярно обсуждают в СМИ.

— Правильно! Вот только образ ИИ из научной плоскости перешёл в систему пиара, массовую поп-культуру, опять-таки ближе к обществу потребления. Например, мы узнаём из сообщений, что «женщина-робот» стала подданной Саудовской Аравии, получив при этом больше гражданских прав, чем женщины и миллионы трудовых мигрантов в этой стране. Нас постоянно информируют, что ИИ «пишет» картины, «создает» музыку и стихи уровня гениев человеческой цивилизации. Серьёзно обсуждается тема, что ИИ-системы уже «управляют миром», а все мы живём в компьютерной симуляции. Само обсуждение вопросов, связанных с ИИ, является тестом для человеческой цивилизации на зрелость. Ведь если мы не в состоянии отличить высокую культуру от бездарной компиляции, бездушного робота Софию от развивающегося человека, а реальность от компьютерных игр и «культовых» блокбастеров, то актуальным окажется вопрос: а есть ли разум на Земле? Причем разум не искусственный, а естественный.

— У ИИ появились свои фанаты или его так или иначе используют в бизнес-проектах?

— Фанатов ИИ в мире немало, чаще всего они пытаются возложить на «сверхразум», каким они его воспринимают, некие мессианские функции. В бизнесе философию ИИ-продукта продвигают самые разные группы маркетологов, которые сознательно используют опасный тренд о полном или частичном замещении человека. Когда бизнес не регулируется ценностями, он вообще становится опасным. Хорошо, что хоть военные сомневаются в некоторых качествах ИИ. Возможно, они просто лучше, чем многие другие чувствуют, чем может закончиться поклонение киборгам. Например, совершенно ясно, что последние в отличие от людей неспособны остановить начавшуюся войну и им ни в коем случае нельзя доверять ядерное оружие. Это также хорошо понимают учёные-практики и, конечно, многие философы-футурологи.

— Все эти проблемы в той или иной степени касаются и России?

— Сегодня Россия претендует на то, чтобы стать лидером в разработке и внедрении ИИ-систем. Это прекрасная цель. Только нам, подсмотрев, что творится в других странах, не надо смотреть на ИИ как на панацею. Роботизация не решит демографические проблемы страны, электронные системы слежения и контроля не сделают людей лучше, а общество намного безопасней, цифровая экономика автоматически не решит проблемы социального неравенства, а роботизация армии не сделает человеческий фактор излишним. ИИ нам будет помогать ровно настолько, насколько мы будем делать что-то сами. В обязательном порядке именно за человеком должно остаться такое ценное качество как стратегическое видение дальнейшего развития общества. Если такого видения у нас не окажется, то обращение к ИИ заведет в тупик. Если мы, человечество, будем не в состоянии думать и принимать решения, то жизнь на земле может закончиться ядерной войной или экологической катастрофой.