«Мы пока не можем знать наверняка»

Какое технологическое будущее нас ожидает? Как скоро мы сможем модифицировать не только конечности, но и собственные интеллектуальные способности? Займут ли все рабочие места роботы? Как скоро решения за человека будут принимать автоматизированные системы? Это только малая часть вопросов, на которые отвечает Кирилл Мартынов, кандидат философских наук, доцент школы философии НИУ ВШЭ (Москва) и редактор отдела политики «Новой газеты» в большом интервью для нового выпуска журнала Tatlin News, впервые в полном объеме опубликованном ниже.

— Первым делом я хотела вас спросить о том, какие, по-вашему, технологии способны кардинально изменить мир в ближайшем будущем?

— Мне кажется, нужно говорить даже не про конкретные технологии, которые появляются достаточно быстро. Здесь мы рискуем ошибиться в прогнозе, назвав, выбрав одну из них. Можно говорить про две большие тенденции, которые, если их объединить, могут радикально изменить культуру и те принципы, на которых строится общественная жизнь, жизнь ближайших поколений или даже нынешних. Эти технологические тенденции сформировались, как мне кажется, с начала промышленной революции или даже раньше, с того момента, когда люди начали использовать технику. Сам человек становится предметом такого технологического вмешательства, технологического усовершенствования, технологического модифицирования. Раньше технологии были направлены на то, чтобы заниматься сельским хозяйством или решать вопросы, связанные с транспортом или энергией. Иными словами, они применялись к миру за пределом человека. Теперь же мы входим в полосу открытий и каких-то готовых технологических решений. Так возникает вопрос со стороны общества о том, что человек, наконец, становится тем объектом, к которому применяются технологии. Большая их часть сосредоточена в вещах, связанных с биотехнологиями, в широком смысле слова — с генетикой, с бурно развивающейся эволюционной медициной, которая отходит от старой медицины и демонстрирует, что болезнь — это вовсе не поломка в организме. Это черта, которая возникла, когда наш вид эволюционировал на Земле вместе с другими видами.

В медицине сейчас происходят по-настоящему революционные события. На это выделяются огромные деньги, совершается необъятное количество научных открытий. Если мы обратим внимание на характер научных статей и текстов, которые публикуются в мире, то станет ясно, что огромное количество трудов посвящено именно комплексу медицинских и биотехнологических проблем. И человек здесь занимает очень важное место. К примеру, в результате совершенствования биотехнологий в развитых странах полностью изменится репродуктивное поведение человека.

По крайней мере, сексуальность и репродуктивные цели будут окончательно разведены, и для зачатия ребенка будут не нужны даже половые клетки родителей, достаточно образцов, скажем, клеток кожи. 

В результате генетики смогут отбирать, контролировать и делать наиболее пригодный геном, который затем уже будут подсаживать в матку. И такое технологическое будущее очень близко. Мы сможем перебирать разные варианты сочетаний геномов матери и отца, при этом наличие мужчины и женщины станет вовсе необязательным. Никто не скажет, что это неестественно, потому что гены в конечном итоге будут от конкретных людей. Второй момент, касающийся медицины, связан с борьбой с болезнями, которые преследуют современное общество. Рак и болезнь Альцгеймера также находятся в числе таких заболеваний. Кроме того, немаловажен вопрос продления жизни, в том числе активной жизни. На поиск решений этих проблем тратятся огромные деньги. Направления и технологии, связанные с модификацией человеческого тела и дополнительными человеческими способностями, чтобы люди жили дольше, были счастливее и устойчивее к заболеваниям, также активно развиваются. Но очевидно, что найдутся и противники и тех, и других технологий. Консервативное лобби начнет говорить, что человек должен существовать так, как он существовал всегда. Другой момент заключается в том, что мы стали больше уделять внимания людям с ограниченными возможностями, которые в состоянии вести полноценный образ жизни. Эти люди, несмотря на формальное ограничение своих возможностей, могут вести полноценный образ жизни с технологически совершенными протезами. И следующий шаг развития технологий заключается в доведении тела, которое раньше мы считали ущербным, до того состояния, когда оно по своим способностям начнет превосходить тело обычного здорового человека. Конечно, речь ведется не только о протезировании конечностей или совершенствовании зрения, но и о попытке модифицировать человеческие интеллектуальные способности.

Мозговой имплант для улучшения памяти

Но это одна история. Другая же связана с потерей человеком своего места в обществе, в истории, как единственного существа, которое способно принимать решения и нести за них ответственность — моральную, юридическую и какую-либо еще. Это происходит уже сейчас и, судя по всему, будет происходить дальше с увеличивающейся скоростью. Создаются различные автоматизированные системы, которые могут обрабатывать большие объемы данных, самостоятельно (или почти самостоятельно) принимать решения. На основе полученных данных о том, какое решение или действие следует в данной ситуации совершить, в 2016 году произошло одно примечательное событие. Компьютерная система, которая сейчас является ключевым агентом в технологических изменениях, обыграла чемпиона мира по древней китайской настольной игре Го. И это очень важный момент, сопоставимый по своей важности с поражением Каспарова в шахматном поединке с компьютером в 1989 году, а, может, даже его превосходящее, потому что игра Го считается самой сложной игрой с полнотой информации.

Игра с полнотой информации — это игра, в которой оба игрока знают все, что происходит во время игры. То есть эта информация открыта, каждый участник знает все стартовые позиции и правила — противник не может ничего утаить. И это важно по двум причинам. Еще недавно считалось, что игра Го, где в каждом ходе сосредоточено большое количество вариантов, останется недоступной для компьютерных систем. Скажем, десятилетие назад развитие технологий, основанных на модели нейросети, казалось менее перспективным. 

Произошедшее означает, что игр с полной информацией, в которой человек мог бы играть с компьютером, больше нет.

Поэтому следующая задача для разработчиков искусственного интеллекта состоит в том, чтобы заставить компьютерную систему выигрывать у человека постоянно. Типичным примером такой игры является покер, который на первый взгляд выглядит очень простой задачей. Но проблема заключается именно в том, что игрок в покер не знает, не обладает полнотой информации о том, что происходит во время игры. И это означает, что успешный игрок в покер должен принимать решения, исходя из неполноты информации. Он должен просчитывать риски и такие факторы, как возможность блефа. Короче говоря, покер, как ни странно, это довольно простая игра. Она гораздо ближе к тому типу решений, к которому люди или организации, собранные из людей, вынуждены принимать любые решения в условиях реального мира — к примеру, следует ли брать конкретного человека на работу или нет. Мы не знаем всей полноты информации касательно того, в какой университет поступать, нужно ли начинать войну с соседним государством... Если мы посмотрим на это с точки зрения теории игр, то это всего лишь разновидность игры с неполнотой информации, когда мы вынуждены принимать решения, опираясь на обрывочные сведения, не зная и не имея возможности спрогнозировать, что из этого получится. Компьютерная система только выходит в данную сферу. Сейчас настоящим вопросом активно занимаются разработчики, и мы получаем ситуацию, когда относительно незаметные системы автоматизированного контроля помогают пограничнику принимать решения относительно человека, который пересекает границу.

Нейрокомпьютерный интерфейс

Другой пример. Представьте людей, которые приходят в банк получать кредит. Сначала решение принимает компьютер, и если он отказывает клиенту в предоставлении суммы, то банк практически со стопроцентной вероятностью подтверждает это решение и считает, что вы не являетесь надежным заемщиком. Возможна и обратная ситуация, когда компьютер одобряет вашу заявку, а банковский клиент отказывает в оказании услуги. И эта логика принятия решений сейчас появляется повсеместно — принятие решений компьютерами, которые, еще раз подчеркну, основывают свои решения на совокупности имеющихся алгоритмов, представляющих собой нейросеть с одной стороны, и максимально доступные данные — с другой.

Достаточно скоро, судя по всему, мы придем к ситуации, когда компьютеры будут принимать решения эффективнее, быстрее, точнее, чем люди. И это имеет массу коммерческих выходов. Из этой концепции возникает идея персональных ассистентов, которые будут помогать нам — скажем, поддерживать общение в социальных сетях, например, в том случае, когда у вас скопилось слишком много сообщений — на помощь придет компьютерная система. Она поможет отвечать таким образом, как бы вы скорее всего ответили, и только потом приглашать к участию в той или иной дискуссии. В социальном смысле — это проблема, которая сопоставима с идеей.

Современное общество сложилось в XIX веке и окончательно сформировалось в XX веке. Оно исходило из идеи, что именно человек, и никто другой, может принимать решения. Человек — это избиратель, человек — это солдат или военачальник, который сам знает, как правильно вести боевые действия. 

Человек — это рациональный, экономический агент, потребитель или производитель товаров. И единственный для нас способ понять, что происходит в окружающей социальной реальности, частью которой мы являемся, — это анализировать все имеющиеся события. 

И важно понимать, что люди зачастую принимают решения в ситуации, когда они боятся, ошибаются или верят в удачу. Короче говоря, весь наш способ говорить про социальную реальность ориентирован на то, что единственным субъектом, который принимает решения, является человек. Когда в эту схему вторгаются искусственные системы, которые постепенно оттесняют человека от принятия решений, начинает казаться, будто это и есть ключевая технологическая революция, самая грандиозная за всю историю человечества. Довольно трудно понять, к чему конкретно это может привести, потому что у нас нет подходящего языка для описания подобной ситуации.

Сцена из аниме «Призрак в доспехах», 1995

И последний момент заключается в том, что важной составляющей этого процесса становится автоматизация. В конце XVIII века проходит вторая большая волна автоматизации рабочих мест — были механизированы рабочие места, связанные с применением физического труда. Сейчас мы можем говорить о том, что автоматизируются даже те рабочие места, которые связаны с интеллектуальным трудом. Скажем, это касается работы адвоката, имеющего дело с разными типовыми процессами, например, со штрафами за парковку. Это довольно любопытно. Данная история способна сильно изменить социальную реальность. Судя по тому, что произошло с обществом после индустриальной революции и автоматизации, точнее, после создания класса наемных работников на больших фабриках, судя по тому, что случилось в начале XIX века из-за автоматизации интеллектуальных рабочих мест, мы можем утверждать, что произошли большие перемены. Но мне кажется, что сценарии частных случаев и более проблемных ситуаций остаются открытыми. 

— То есть в какой-то момент появится много безработных?

— Здесь есть несколько сценариев. Один из них — понятный. Например, в Великобритании, в начале XIX века рабочие разрушали станки, потому что они лишали их работы. Люди сделали вывод, что все беды происходят от этих машин, поэтому они должны быть уничтожены. Этот сценарий пока очень мягко, но реализуется таксистами, которые голосуют против систем, предлагающих их услуги. Это достаточно примитивный случай, поскольку мы говорим о не полной автоматизации. И если в течение ближайших 15 лет у нас не просто появится, а станет формальным коммерческим предложением беспилотный автомобиль, тогда таксисты расстроятся по-настоящему. Вероятнее всего, есть вторая логика, которая предполагает, что, в сущности, единственное, что мы можем противопоставить новой волне автоматизации — это около 40% рабочих мест в США, которые могут быть автоматизированы к 2050 году. Но это более развитый рынок. Хотя остальные в технологическом отношении также подтягиваются довольно быстро.

Вторая позиция заключается в том, что сопротивление не имеет смысла, и что мы должны адаптировать социальную систему по следующему сценарию. Продукты начнут ввозить для всех людей, вне зависимости от того, работают они в настоящий момент или нет. Поскольку вместе с автоматизацией рабочих мест производительность труда резко вырастет, то все эти товары и услуги, которые создаются растущей экономикой, должны быть обеспечены спросом. При этом мы должны решить вопрос, связанный с безработицей, социальными протестами и автоматизацией. Обе эти проблемы решаются за счет обозначения какого-то базового подхода. Опять же, понятно, что это решение способно сильно изменить социальную реальность, потому что работа перестанет быть универсальным мерилом человеческого статуса. Вообще мысль о том, что человека определяют благодаря его работе, появилась достаточно поздно — для античности и средних веков это было нехарактерно. Возможно, мы вновь откажемся от идеи, что именно работа определяет то, кто мы есть. 

Статус безработного сейчас отчасти невозможен, но мы постепенно к этому приходим, ведь все больше людей работают сдельно. Мы видим, что благодаря сдельному контракту существуют сезонные сельскохозяйственные рабочие и университетские профессора, дизайнеры и журналисты.

Сюда бы я добавил несколько спекулятивную, но очень дорогую мне идею о логике, доведенной до предела. Работы будет становиться все меньше, ведь большую ее часть будут выполнять автоматические системы, а не люди. Эта логика предполагает, что наступит момент, когда вся работа будет сделана. То есть такие романтические образы как работа в семейной лавке, где отец и его дети изо дня в день работают до заката солнца, доставляют товары, попросту исчезнут. И все потому, что те вещи, те процессы, которые связаны с удовлетворением потребностей, будут более или менее автоматизированы. Людям придется придумывать, как себя развлекать. Тогда, в чем смысл дальнейшего существования? Как будет устроено общество, в котором не осталось работы? Это достаточно спекулятивная тема, но ее можно довести до ума. 

Сцена из аниме «Призрак в доспехах», 1995

По третьему сценарию, люди, которые говорят, что нужно готовиться к тому, что работы будет меньше, начнут принимать социальные меры, как во втором сценарии. Рабочий класс, как и во время первой индустриальной революции, лишится старых рабочих мест, но и встретит появление новых. Мы пока не можем знать наверняка, но ясно, что рабочие места появятся в каких-то неожиданных нишах. Например, один известный американский журналист писал о влиянии технологий на культуру. Еще пару лет назад он утверждал, что у людей будет огромное количество рабочих мест, связанных с правильной организацией работы роботов. Сейчас подобными вещами занимаются ресурс-менеджеры.

— В таком случае, захотят ли крупные бизнесмены, владеющие полностью автоматизированными заводами или фабриками, обеспечить остальную часть населения, которая ничем не занята?

— Это резонный вопрос, но на него история экономики уже давала ответ несколько раз. В принципе, на основе этого вопроса свою критику капиталистического общества строил Маркс, который говорил о том, что капитализм неизбежно сталкивается с кризисом перепроизводства. Рынок теряет спрос из-за отсутствия платежеспособности. Но капиталисты, пытаясь заработать и увеличить прибыль, приходят к такому тупиковому сценарию, когда появляются невостребованные предложения и перестают появляться новые рынки. 

Но капитализм в течение своей эволюции за последние 200 или 300 лет показал, что способен более или менее адаптироваться к этой схеме. То есть, несмотря на экономические кризисы, он раз за разом находит путь, как вновь установить рост, как обеспечить сбалансированный рынок. 

В принципе, если у вас есть растущая экономика и высокая норма прибыли, то большую часть работы делают какие-то автоматические системы. В общем-то, мы готовы согласиться с тем, что вы платите достаточно высокие налоги для того, чтобы ваш бизнес мог продолжать развиваться, чтобы ваши товары и услуги находили оплачиваемый спрос вне зависимости от того, какое количество безработных существует в данном обществе.

— И еще один вопрос, связанный с первой темой нашего разговора. Что вы скажете о генетических модификациях человека? Судя по всему, партнеры обоих полов смогут сделать ребенка. Как это изменит отношение людей к семье, что произойдет с понятием сексуальности?

— Это сложный вопрос. Исходя из нынешней перспективы, нам достаточно тяжело оценить масштаб этих изменений, потому что у нас до сих пор в голове есть некое представление о том, как выглядит правильная нормальная семья. При этом очевидно, что сейчас эта правильная и нормальная семья практически не существует, потому что люди начали выбирать гендерные или репродуктивные модели поведения самостоятельно. Но все продолжают говорить о нормальной семье, хотя в реальности все ее избегают. Понятно, что общество, где мужчина и женщина имеют возможность одинаково распоряжаться своей жизнью и телом, довольно сильно противоречит идее нуклеарной, отчасти патриархальной семьи, о которой мы продолжаем ностальгировать. 

Сцена из аниме «Призрак в доспехах», 1995

Я думаю, если пускаться в стратегические рассуждения, то самый простой и рациональный сценарий, который мы можем спрогнозировать, заключается в том, что семья постепенно начнет дрейфовать в сторону гражданского союза, который совершенно не обязательно связан с союзом мужчины и женщины. Драматичность этого момента будет снижаться, споры об однополых браках в какой-то момент канут в прошлое, потому что будет бессмысленно об этом спорить, поскольку тема семьи перестанет кого-то трогать в той степени, в которой это происходит сейчас. Репродуктивная функция будет последовательна и связана не столько с семейной жизнью, сколько с некими технологическими процессами. И это будет сценарий, который в большей степени сочетается с идеей, что людям по большому счету не обязательно быть в браке для создания потомства — они могут просто следовать репродуктивному сценарию. То есть вопрос с вынашиванием плода станет основным, и вопрос, связанный с суррогатной матерью окажется единственно трудным в рамках этой логики. Но в целом идея состоит в том, что вполне реально иметь детей и одновременно заниматься карьерой. При этом рождение ребенка может быть слабо связано с обязательствами со стороны того партнера, с которым вы произвели этих детей на свет, за исключением вопросов по их воспитанию.

Помимо прочего, идея о том, что семья является местом, где реализуется человеческая сексуальность, также утратит свою силу. Как мне кажется, через какое-то время биологический секс станет опосредованным технологиями и будет предполагать выход в виртуальную реальность для осуществления реалистичной или даже сверхреалистичной симуляции полового акта. Это будет намного безопаснее, разнообразнее, проще и дешевле. Безусловно, найдется группа людей, которая начнет отстаивать высшую ценность биологического секса. Но правда в том, что когда мы лишили биологический секс идеи, будто это единственно возможный процесс для зачатия ребенка, мы уже разорвали связь между сексуальностью и репродуктивной функцией. 

И дальше сексуальность может быть в принципе отделена от физического контакта — на это есть экономические и культурные причины. 

Но почему секс, опосредованный какими-то технологическими приспособлениями, будет привлекать? Здесь также имеется спекулятивная тема секса с роботами, но под роботами не обязательно понимать андроидов. Под сексом с роботами, например, может подразумеваться использование специального костюма для секса, который имитирует телесный контакт. То есть робот в данном случае — это костюм, а что вы в данный момент визуализируете и представляете, зависит конкретно от вас.

Сцена из сериала «Мир Дикого Запада», 2016

— Как могут виртуальные технологии изменить жизнь людей? Сейчас мы говорили о сексе. Не приведет ли это к еще большей индивидуализации, к появлению большего количества одиночек, которые будут жить в своем виртуальном мире и больше никак не контактировать с другими людьми? Конечно, я говорю довольно радикально, но ведь это очевидные риски.

— Мне кажется, это схоже с идеей о том, что скоро не будет ни театра, ни газет, останется одно телевидение. Эта повестка существует с 70-х годов и с тех пор никогда не подтверждалась. Около 10 или 15 лет назад нам обещали, что молодежь уйдет из реального мира в виртуальный, разучится общаться и вообще потеряет человеческий облик. Но, во-первых, этого не произошло, во-вторых, социальные связи между людьми посредством социальных сетей и разных приложений сделали реальную жизнь более насыщенной, интересной, наполненной какими-то социальными связями, которых возможно нам бы не хватало, не будь этих социальных сетей вовсе. Пугать виртуальностью уже поздно, поскольку технологическая платформа, предназначенная для общения, скорее помогает людям иметь больше контактов в реальном мире, чем наоборот.

Пока мне трудно представить, чтобы виртуальная реальность оказалась настолько универсальной и единственной, чтобы она заставила нас всех отказаться от любых форм присутствия в реальности. 

К примеру, как хорошо пойти с друзьями в ресторан и вкусно поесть, но наш мозг еще не настолько хорошо работает, чтобы в рамках виртуальной реальности создать нормальный ресторан, симулировать вкусовые ощущения, запахи, вкус, текстуру пищи, чтобы это было сопоставимо с реальностью. Сейчас много говорят о виртуальной реальности, и вполне возможно, что со второго раза она получит какой-то коммерческий смысл. Первый заход случился в конце 80-х, когда об этом говорили больше, чем сейчас. Но тогда ничего не случилось — компьютеры были недостаточно мощными для того, чтобы виртуальная реальность казалась интересной. Хотя снимались фильмы со страшным сценарием, где обыгрывалось начало 90-х. В перспективе нам нечего опасаться, и пока это не тот уровень проблем, не та опасность и не тот прорыв, о которых стоит говорить. Интересно, скорее, другое — как виртуальная реальность будет встроена в тот мир, в котором живут люди.

— Насколько я понимаю, технологические модификации человека — создание неких мозговых имплантов, которые способствуют созданию цифровой личности. В какой перспективе это будет реализовываться? Как скоро это произойдет, к каким проблемам может привести?

— Понимаете, существует граница человеческих представлений о том, что допустимо делать и чего делать нельзя. По большому счету, мы уже живем с некими аналогами имплантов в мозге, но поскольку нам в мозг в реальности ничего не вставляли, то мы чувствуем себя более или менее комфортно. Мы пользуемся смартфонами и совершенно не думаем о том, что они, по сути, и есть кибернетический организм. Для того, чтобы стать киборгом, не обязательно иметь какую-то деталь, ввинченную в череп, достаточно, чтобы ваше поведение опиралось на некие технологические структуры, как это, в частности, случилось с Интернетом, который стал доступным через мобильные сети.

Сейчас достаточно популярны нано-часы и фитнес-браслеты — это тоже некая форма носимых устройств, которые более телесны, чем смартфон. И тут мне кажется, что на популярности этих гаджетов сыграло то, что людям нравится носить что-то на запястье. Это способ продать людям украшение. Время можно посмотреть и на телефоне, а механические часы нужно ежедневно заводить, менять запчасти.

Как отсюда перейти к идее о том, что мы буквально скоро станем киборгами, когда будем себя изменять? Если человек потерял зрение или конечность, то он хочет стать киборгом, чтобы снова видеть или полноценно передвигаться, что-то делать руками. Если взять среднестатистического здорового человека и убедить его сделать операцию по вживлению имплантов… Мне пока не ясно, существует ли граница… Может быть, это не нужно, а, может, это не то, к чему умы должны на самом деле стремиться. Возможно, все-таки манипуляции, связанные с геномом и биотехнологиями, направленными на продление жизни, на увеличение человеческих способностей, более приемлемы. Согласитесь, этот вариант лучше, чем начать пить таблетки, которые вызывают привыкание, но официально не являются наркотиками. А на счет импланта в мозг — это очень спорный вопрос. То же самое касается цифровой личности. Я не вижу технологической проблемы, связанной с созданием цифровой личности, потому что мозг — это физическая система, которая может моделироваться.

Сцена из сериала «Мир Дикого Запада», 2016

Возможно, речь идет о том, что мы получим соответствующие технологии и достаточно хорошо изучим мозг через десятилетия или столетия. Но пока такого прорывного события, связанного с цифровой личностью и цифровым сознанием, я не знаю. Существуют какие-то отдельные, очень робкие шаги, даже не в этом направлении, а где-то рядом. В этой сфере прорыва не видно. Как-то я читал студентам лекцию о том, что наше представление о психологическом прогрессе очень сильно опосредовано фантастикой и фантастическими фильмами, массовой культурой. С одной стороны, это неплохо, потому что у нас появляются какие-то интересные идеи, работает воображение. Но мне кажется, что реальные технологические вызовы приходят не оттуда, откуда мы их ждем. И это видно на примере истории XX века. Мы считали, что в худшем случае к 2016 году мы будем колонизировать солнечную систему, а в лучшем… даже не знаю. Выяснилось, что это не нужно, однако мы создали другую, не менее значимую систему технологической революции. В фантастике и массовой культуре этого не было предсказано, поэтому мы ее не заметили. То есть идея о том, что мы постоянно подключены к сети, в которой хранится вся совокупность постоянно обновляющихся человеческих знаний… мы незаметно оказались внутри этой ситуации, мы ее приняли как данность, и совершенно не видели в этом какого-то социального или технологического прорыва.

Поэтому, повторюсь, я бы сейчас беспокоился не по поводу виртуальной реальности, а о том, что несмотря на существование нашей реальной личности, решения будут принимать автоматизированные системы, что в мире параллельно может происходить процесс как создания, так и развития искусственных личностей. 

Статья из этого издания:
Купить
Подписка на журнал
  • Поделиться ссылкой:
  • Подписаться на рассылку
    о новостях и событиях: