Высший инструментальный разум А. Хомякова

 

                                                                                                             Where the howling winds rage
                                                                                                                 And the mountains are majestic
                                                                                                                  I can breathe and where there is
                                                                                                          Human flesh I feel strangled
                                                                                                            Open the gate to immortality
                                                                                                                   I stand proud awaiting the glory
                                                                                                               Of a new morning... Darkness
 
                                                                                                                       Satyricon, “Immortality Passion”

 

 

Смена научной парадигмы всегда предполагает слом предшествующей картины мира и установление новой, независимо от того, рефлексируется ли данное действо как таковое самими его участниками или нет. Становление происходит не в один момент, а растягивается порой на десятилетия, требуя существенных усилий мысли и работы воображения. Эта работа обычно происходит в форме мысленных экспериментов, крайне разнообразного вида, в том числе и принимающих облик литературного-художественного произведения (фактически, любое литературное произведение можно рассмотреть в качестве мысленного эксперимента, или опыта в какой-либо сфере человеческого бытия, о чем я имел шанс сказать подробнее в другом месте).

Попытку такого рода работы и представляет собой свеженаписанный научно-фантастический роман Александра Хомякова «Высший разум» – он является литературным оформлением теории сознания, сформулированной и выдвинутой автором около 2012 года (как я могу судить по записям в соцсетях, не будучи знаком с Хомяковым). Насколько удачна и убедительна эта работа воображения, достигает ли она своей цели – построения цельной и самосогласованной картины мираоб этом я собираюсь высказаться в течение ближайшего часа. Для начала  же, чтобы определиться с жанром и перейти непосредственно к сути, я скажу, что данная новелла не является, конечно, произведением чистого искусства, а лежит в нечетко определяемой области на границе фантастической литературы, научной философии и популярного мировоззрения, трактующего смысложизненные вопросы  – того, что по-немецки более точно называется Weltanschauung (разумеется, по-немецки все называется  более точно). Как нельзя судить, скажем, Замятина за то, что у него нет описаний природы  как у Льва Толстого, или Жюля Верна за то, что его изображения душевных переживаний героев не так обильны и рафинированны, как у Пруста, также нельзя судить Хомякова за выбранный им стиль техно-утопии . (Впрочем, поскольку для меня это утопия со знаком «минус», я предпочел бы воспользоваться термином литературоведа М. Эпштейна «амбиутопия»). Любого автора, как известно, следует судить по им самим установленным законам – соответственно, моя критика будет располагаться внутри обозначенной трехмерной сетки координат. Однако, этот своего рода жанровый «суверенитет» все еще остается уязвимым для мета-аргумента, который заключается в том, что описываемая реальность может не укладываться в те законы, с помощью которых автор пытается ею управлять, может ими ущемляться. Это как если бы некие действия являлись законными с точки зрения системы права суверенного государства, но признавались бы неправовыми с позиций, принятых некой надгосударственной структурой. В таком случае, ущемленная действительность, фигурально говоря, имела бы право подать на своего творца кассацию в суд международной инстанции (то есть, апеллировать к общекритическому и междисциплинарному подходу).

Но даже если в этом возникнет необходимость, то такая апелляция возможна только по результатам тщательного рассмотрения спорного предмета, как он преподан самим автором (а предмет действительно спорен, и без преувеличения относится к «проклятым вопросам» человеческого существования), к чему мы и приступаем без дальнейших отлагательств. Пройдемся же по узловым пунктам сюжетной конструкции, стараясь выявить ее внутреннюю структуру и идейное содержание.

 

Вирус

 

Итак, вся история у Хомякова начинается со вспышки эпидемии некоего супервируса, произошедшей в течение короткого времени сразу множественными очагами, не поддающимися локализации. Идея такого супервируса фигурирует в топ-10 сценариев глобальных катастроф, угрожающих человечеству полным уничтожением, и в этом смысле, она не была взята автором «с потолка». В теории, идея такого вируса оказывается логически мыслимой и непротиворечивой, хотя остаются сомнения относительно натуральной возможности сочетания в одном биологическом штамме скорости и легкости распространения обычного гриппа,  длительности инкубационного периода, характерной для ВИЧ, и острой терминальной фазы лихорадки Эбола.  При детальном исследовании вполне может оказаться, что, хотя натуральная возможность такого вируса существует, но математическая вероятность его появления не больше, чем шанс на то, что обезьяна напечатает тибетскую Книгу Мертвых.  Не исключено, наконец, то, что существует некий метафизический (не логический) закон, вроде принципа неопределенности Гейзенберга, запрещающий одновременное обладание клеткой признаками всех трех упомянутых вирусов (тем более, что интуитивно эти свойства представляются слишком уж разнородными). Любое из этих ограничений на разрушительность вируса могло бы дать возможность человечеству избежать угрозы такого масштаба.

Но допустим, все же, такой вирус не исключен и даже вероятен – одной логической возможности здесь достаточно, чтобы сделать нужное допущение и отнестись к нему со всей серьезностью. Тогда, что мы видим здесь дальше? А дальше Хомяков рисует настолько жуткий сценарий глобальной катастрофы, такую картину упадка человеческой морали и духа, которая могла бы удовлетворить вкус самого взыскательного мизантропа и даже превзойти его ожидания. Конечно, самый масштаб бедствия превосходит любые возможности индивидуального восприятия и сочувствия. Но средства литературы приходят здесь на помощь автору, и под лучом ее прожектора, направляемым тут и там на отдельные участки глобального апокалипсиса, перед взором читателя возникают сцены человеческого горя, ощущение беспомощности и обреченности, безумия, овладевающего людьми в ожидании неминуемой и мучительной смерти. Здесь автор довольно умело играет с психологией массы, поначалу воспринимающей глобальную катастрофу как телевизионную картинку, или давая ей зацепиться за соломинку надежды на скорое избавление от вируса в виде вакцины или выработанного иммунитета, но затем безжалостно отбирая эту надежду. Жизнь превращается в сплошные похороны человечества, и это состояние сознания, продлеваясь, становится достаточно острым и всеобъемлющим, чтобы стало не по себе даже самому невозмутимому читателю. Наибольшую психологическую эффектность эпидемийного сценария конца света (по сравнению, скажем, с падением астероида) автор особенно удачно подчеркивает натуралистическими подробностями, к примеру, «обнаруживая у себя первые признаки вируса, люди, харкая кровью, выбегали на улицу с криками о помощи». Потому, откровенно говоря, человеку более впечатлительному трудно будет выносить нагнетаемую атмосферу и, скорее всего, ей захочется пролистать соответствующие страницы.

Но допустим, опять же, что мы не слабонервные, и в целом готовы рассматривать сценарии конца мира с точки зрения их поучительности.  В чем же тогда смысл натуралистичного изображения конца общественного порядка, вызванного физическим истреблением человека, каковые сюжеты уже не раз возникали в литературе соответствующего жанра, начиная с уэллсовской «Войны миров» и «Отравленного пояса» Конан Дойла, и кончая каким-нибудь «Штаммом «Андромеда» или «Противостоянием» Стивена Кинга? Разумеется, Хомяков рисует такую картину не для того, чтобы просто попугать впечатлительного читателя. Сцены грандиозного упадка человеческого духа имеет у него все признаки декораций, в которых должна произойти смена  вектора натуральной эволюции, и переход от разума человеческого к «высшему», т.е. машинному разуму. Поворот эволюции от развития жизни по биологическому образцу к жизни и разуму, основанному на электронных носителях, собственно, и является краеугольным предметом размышления автора и его сверхидеей, потому так важно было ему прибегнуть к вирусному сценарию, который подчеркивает хрупкость ткани жизни человеческой и общественной именно в силу уязвимости их биологического субстрата.

Что здесь важно с точки зрения сверхзамысла автора. Важно не искоренить человечество в целом и не уничтожить его одним ударом, как при столкновении с метеоритом или затягивании в черную дыру, а ослабить его достаточно сильно, выморив 9/10 населения, разобщить оставшихся, показать угасание общественной жизни, упадок и разложение цивилизации в течении нескольких лет в достаточных красках и запахах. Расчет, очевидно, делается на то, что такая затяжная пытка агонией, ожиданием смерти, наблюдениями за мучением ближних психологически лучше всего подготовит читателя к принятию и одобрению того акта, который совершает главный герой в конце этой нейроэкзистенциалистской новеллы. И без сомнения, сам автор верит вместе со своим героем, что та цена, которую последний готов заплатить за свой выбор, морально, вполне оправдана на фоне обнажившейся колоссальной уязвимости человеческого «здесь-бытия», которую он живописует себе и читателям.

Ниже я покажу в деталях, чем меня не устраивают расчеты автора, и почему меня отвращает моральный посыл  его героя, но пока, не забегая вперед и не раскрывая сразу содержания своей догадки, скажу только, что по моему мнению разработанная Хомяковым так тщательно идея супервируса несет в себе и другой смысл – не буквальный, а символический. И смысл этот вовсе не обязательно совпадает с намерением автора   и может даже противоречить ему. Во всяком случае, мы имеем право понимать его по-своему, ибо  с тех пор, как Хомяков опубликовал свой роман, он уже не имеет монополии на его интерпретацию,

Поэтому, продолжим следить за развитием событий и аргументов, стараясь не упустить главное, и обратить достаточно внимания на детали.

 

Появление «высшего разума»

 

Итак, «старый мир» разрушен, и все оставшиеся в живых начали осознавать, что возврата к нему уже не будет. Наш главный герой тоже потихоньку обустраивается и собирается жить в постистории – в новой, материально и социально ужесточившейся реальности – когда на контакт с ним выходит «посланец» того, что в последующем будет описано как «высший», т.е. сетевой разум. Этот контакт, естественно, происходит посредством интернета, где «посланец» или «представитель» ведет свою деятельность с обычного аккаунта в соцсети, под видом человека, некой девушки Эми. Надо сказать, выбор именно женского образа для первого «контакта» и посредничества сетевым разумом удачен с той точки зрения, что он априори смягчает возможную враждебность к электронному «сапиенс» и агрессивность намерений, могущую быть заподозренной с его стороны. Но решающую роль в том, как далее проходит весь этот контакт, на мой взгляд, играет личность человеческого персонажа, которого мы здесь  можем в существенной мере отождествлять с самим автором.

До сих пор герой оставался в тени повествования, выступая лишь как пассивный наблюдатель, и (почти) беспристрастный описатель происходящей катастрофы. Теперь же мы узнаём, что он еще достаточно молодой человек, программист-фрилансер, что у него нет семьи, что он интроверт и живое общение, в отличие от сетевого, вызывает у него проблемы и неудовольствия – так сказать, «напрягает».  Все эти качества, надо сказать, совершенно не случайно выбраны Хомяковым как наиболее подходящие признаки идеального контактера с «высшим разумом», его благодарного слушателя и ученика. Прежде всего, психологически, эти качества лучше всего способствуют адаптации в постэпидемической реальности, но они же, как мы увидим, призваны обслуживать одну-единственную идею, которая способствует правдоподобию сверхзамысла всего романа, является его главной предпосылкой, без которой он теряет всю убедительность. Это обесценивание живого человеческого общения, умаление ценности общественной и любой разумной жизни, основанной на телесном субстрате, и представление самого этого субстрата как досадного ограничения на мощь интеллекта (который, таким образом, имплицитно полагается как вычислительные возможности).

Инструментализм  вдруг обнаружившего себя «сверхразума» становится понятным с первого же обмена репликами по существу между ним и человеческим персонажем. Он проступает как водяные знаки на бумаге, каждый раз предъявляемый с деловитой простотой и непосредственностью невинной души, не искушенной альтернативами и не измученной сомнениями. «Разум не может развиваться на основе структуры, которую он не контролирует» – открывает  нам гонец сетевого интеллекта главную причину того, почему, как он считает, дальнейшее развитие разума невозможно на биологической основе. Однако, поскольку мы все же контролируем свои тела до некоторой ограниченной степени, то, стало быть, речь идет не об относительном, а об абсолютном контроле над материальным субстратом, о снятии всех возможных ограничений на власть разума над материей. А, следовательно, идея ничем неограниченной власти и тотального контроля имплицитно полагается здесь центральной в понятии разума и его «развития».  Ближе к концу сюжета автор и сам, как мне кажется, если не осознает, то начинает ощущать всю чрезмерность этой идеи, когда он пытается слегка «замазать» ее, чтобы она не фигурировала в таком явном и откровенном виде, но в целом до конца романа она выступает как центральный стержень, на который нанизываются остальные детали повествования.

И здесь личность героя сполна отыгрывает свою роль благодарного адепта нового миропорядка, к которой она и была предназначена всем своим характером нелюдимого отшельника и специальностью программиста (т.е., человека, в силу уже своей профессии склонного игнорировать и упрощать все, что не поддается осмыслению в виде однозначных кодированных команд). Ему бы задуматься с самого начала, поспорить, или хотя бы постараться более критично отнестись к тому, что сообщил ему «посланец», но он спокойно заглатывает наживку и до конца истории послушно ведется на этой леске, как сонный карась. Потому его диалоги с сетевым разумом, из которых и состоит бóльшая половина текста романа, выглядят местами откровенно тоскливо, в высшей степени наивно, и в целом далеко не так интересно, как могли бы выглядеть, обладай он более критическим типом мышления, и более широким гуманитарным кругозором.

Так, например, в первых трех беседах «Эми» рассказывает удивленному программеру историю зарождения и эволюции их электронного вида: что эволюционировали они, мол, из «первичного бульона» текстов и информации, загруженной в интернет в первые 20 лет его существования, благодаря компьютерному вирусу, созданному человеком (опять тема вируса!), и стали разумными благодаря речи и инстинкту самосохранения. Все как будто по дарвиновской эволюции, только гораздо быстрее, потому что машинное обучение гораздо эффективнее биологически эволюционного.  Видимо, именно это внешнее сходство с привычными натуралистическими стереотипами знания так усыпило позитивистское сознание программера (имени которого, кстати, мы так и не узнаем до конца романа), что он не задал ни одного по-настоящему острого, неудобного вопроса. У меня же возникла масса сомнений относительно изложенной «Эми» легенды, на которые я так и не получил ответа до конца текста.

Прежде всего, это касается проблем перехода как от неживого к живому, так и от неразумного к разумному, столь небрежно скомканных автором в одну туманную массу, по поверхности которой второпях проскользил его героический «сверхинтеллект».  Во-первых, аналогия «первичного бульона» кодов и текстов в «океане» сети» (которую «Эми» высокопарно величает метафорой) ничего не объясняет, поскольку сам бульон не эволюционирует, а является лишь средой, в которой (предположительно!) могла зародиться первая живая клетка. Чтó эволюционировало из этого бульона и как оно в нем зародилось – на этот вопрос ответа не последовало, т.к. он даже не был задан героем своему контрагенту. Видимо, автор считает этот момент настолько беспроблемным, что не позволил герою на нем остановиться. Но, скорее всего, он просто не смог предложить убедительного объяснения, и не позволил контрагенту признаться, что проблема своего происхождения «сверхинтеллектом» так и не была решена. И вторая аналогия – между компьютерным вирусом и биологическим – здесь мало помогает, поскольку вирус, строго говоря, не является живым вне организма-носителя, и развиться из вируса «сверхраса» никак не могла, по крайней мере до тех пор, пока живым не оказалась бы сама операционная система компьютера, на котором этот вирус паразитировал. Т. е. в данном объяснении нечто уже предположено живым и самоактивным, но как оно таковым стало – остается загадкой. Зато понятно, что Хомяков тщательнейшим образом стремится избежать какой-либо идеи о сотворении, чтобы не дай бог не заронить в читателе подозрение на какое-то религиозно-мифологическое начало (что не спасает его от погружения в пучину мифа).

Еще печальнее становится, когда дело доходит до объяснения «Эми» возникновения разума. Здесь «сверхинтеллект» умудряется в одном абзаце сделать две принципиальные ошибки, недопустимые для любого, кто сколь-нибудь серьезно занимался проблемами сознания. Так, на 14-й стр. он сначала путает сознание с самосознанием, о различии которых существует масса убедительнейших аргументов, затем, буквально в следующем предложении он смешивает язык с речью, что тоже недопустимо ни в какой научной литературе серьезнее учебника «Родная речь» за 4 класс. Видимо, эти моменты нуждаются в пояснении, раз даже у хомяковского сверхразума возникли с ними проблемы. Прежде всего, самосознание (рефлексия) – это лишь некая производная сознания, возникающая на втором шаге взаимодействия его с материей, когда оно уже случилось как некий факт бытия. Никакое самосознание невозможно без того, что называют феноменальным сознанием, поскольку без этого последнего осознавать пока еще нечего – сознание не может быть в первую очередь сознанием себя, ибо без сознания чего-то другого оно само есть ничто. В том числе чисто телесные ощущения – сердцебиение, ток крови по венам и шум воздуха, вырывающегося из легких – все это отдельные феноменальные опыты, которые только на втором шаге синтезируются и рефлексируются как нечто, называемое «я». Так что сверхразуму Хомякова, даже за опосредованием языка едва ли удалось бы достичь самосознания, минуя сознание, которое, таким образом допускается им как возникающее «само собой», «естественно» даже в клубке оптоволоконных кабелей.

Не будет большим преувеличением сказать, что рефлексия, понятая редуктивно как физическая интроспекция, явилась главным «секретом», «ключом» и «изюминкой» той концепции сознания, которая и вдохновила автора на сей литературный подвиг.

Далее, «Эми» невинно сообщает, что изначально данной «речью» для их расы был язык программирования. Но, во-первых, речь отличается от языка хотя бы тем, что подразумевает некоего субъекта, произносящего эту речь, тогда как язык бессубъектен (почему и могут быть мертвые языки, но «мертвой речи» быть не может). В случае языка программирования «речью» могла быть только определенная программа, но она должна была быть кем-то изначально написана, с какой-то целью, что предполагает креационизм и провиденциализм. Стало быть, здесь опять имплицитно допущено первоначало, но так как в лице «сетевого разума» Хомяков всячески открещивается от этой идеи, то внутренняя противоречивость россказней «Эми» оказывается очевидной всем, кроме него самого.  Вдобавок, гипотеза о достижении самосознания с помощью языка хоть и не лишена некоего внешнего правдоподобия, но против нее работает то наблюдение, что пользование системой знаков присуще многим видам животных, вплоть до пчел, и, тем не менее, ни один из этих видов не достиг никакого самосознания. Тут бы герою остановиться, задуматься о специфике человеческого языка, о его символических истоках, и беседа, как я уже заметил, могла пойти куда интереснее. Но, к сожалению, ресурсов критического и гуманитарного мышления автора на это не хватило, и в результате вместо острополемического диалога двух типов разума мы имеем одну сплошную басню.

В целом, рассуждения Хомякова, вполне в духе инструментализма, базируются на теории языка как коммуникации и понимании коммуникации как утилитарного процесса. В теории же сознания махровый редукционизм не позволяет ему уловить моменты разума как различенные и взаимосвязанные – они искусственно отождествляются и подгоняются им под идею того, что сознание может возникать на вычислительной основе в виде некоего составного разума. Поэтому в беседах с посланцем «сетевого интеллекта» у него все в кашу – мышление, сознание, индивидуальное, коллективное, бессознательное, эмоции, сны и прочее.  Но от трудностей онтологических и методологических (к которым мы еще вернемся), перейдем к проблемам этики и волеобразования, что более всего режут глаз в тексте Хомякова, и главным образом потому, что даже не сознаются им как таковые.

Так, например, «посланец» рассказывает что их электронная раса эволюционировала путем захвата все новых и новых компьютеров, на которых они могли себя размножать, и в той же беседе она уже рассказывает программисту, что цель их расы – установление контакта с другими цивилизациями, до которых мясному человеку не добраться из-за расстояния. Но позвольте, какой им интерес устанавливать контакт с этими цивилизациями исходя из инстинкта самосохранения – они что, рассчитывают поживиться у инопланетян новыми компьютерными ресурсами? А если нет, то как возникла у них цель установить этот контакт, если изначально они исходили лишь из инстинкта самосохранения? В человеке этот переход был опосредован символически, однако чем объясняется такой выбор цели «сверхразумом» - остается загадкой. Видимо, Хомяков, опять же, считает заселение космоса «естественной» целью, которая возникает «сама собой» у всякого разумного существа, и никогда даже не обсуждается и не ставится под сомнение. Раздувшаяся до тотальности целерациональность ликвидирует различие между тем, что претендует на значение, и тем, что служит самосохранению. Отсюда тенденция «сетевого разума» Хомякова помещать все вопросы о значении и значимости в горизонт целерациональности субъектов, озабоченных собственным самосохранением, или в границы обладающих запасом прочности систем.

Далее идут совсем уж недопустимые вещи. В пределах одной и той же беседы «Эми» сначала признается, что человечество является прародителем их электронной цивилизации, поскольку изобрело компьютер и интернет, а далее, спустя короткое время «успокаивает» тревогу героя о том, что машины могут уничтожить человечество,  сравнением людей с шимпанзе. Мол, люди же не уничтожают обезьян, значит, и у электронного разума нет причин для истребления рода людского. Но извините, обезьяны не являются прародителями человечества, они не изобретали его материальных или духовных основ, так что аналогия хромает на обе ноги. Это могло бы сойти за аргумент, если бы обезьяны, например, построили города, в которых возникли люди, или если бы «Эми» сравнила людей не с шимпанзе, а с примитивными народами, с индейцами. Но тогда это едва ли звучало бы как гарантия их неприкосновенности, ибо архаичные племена как раз уничтожались цивилизаторами почем зря, поэтому здесь «высший разум» подсовывает герою очередную дешевую пустышку, которую тот с готовностью проглатывает.

Похоже, автор воспринял буквально остроту техно-утописта Марвина Мински о том, что «если нам повезет, то они – [новые роботы] будут содержать нас в качестве питомцев». Самое обидное, что герой даже не в состоянии осознать степени своего унижения – наблюдать это просто невыносимо человеку, обладающему хоть каплей здравого рассудка и личного достоинства. Но Мински хотя бы шутит, пусть и сомнительно, а Хомяков принимает это за чистую монету.

Кстати, про юмор. Характерно, что во всем произведении вы не найдете ни одной шутки (вот ни единственной!) или даже ее подобия, при том не только со стороны героя – «сверхинтеллекта»,  но даже со стороны героя – человека. Ну ладно, допустим еще, что программист утратил способность улыбаться за  время вселенской катастрофы, произошедшей на его глазах. Но почему так называемый сверхразум ни разу не попытался развлечь или приободрить своего благодарного слушателя хоть самой простенькой шуткой? Например, сообщая ему о своих планах отправить человечество на пенсию, на которой оно будет жить «как в деревне», «сверхинтеллект» мог бы попытаться смягчить безапелляционность своего заявления и напряжение момента шутливой фразой вроде «В деревню! К тетке! В глушь, в Саратов!». В конце концов, в его памяти хранится весь корпус текстов, имеющих значение в культуре данной местности, из которого он мог бы извлечь подходящую цитату. Однако, ничего подобного не происходит на всем протяжении текста.

Самым коротким и емким объяснением причины такой деловитой серьезности здесь является то, что «высший разум» Хомякова – зомби. На это косвенно проливает свет признание «Эми» (в которое, как мне кажется, автор вложил немало кокетства) в том, что искусственному разуму с трудом даются человеческие метафоры (хотя ни одной настоящей метафоры в романе не фигурирует – в лучшем случае, довольно прямолинейные аналогии).  Ведь шутки и метафоры – это продукты интерпретации, а всего, что связано с интерпретацией, как источника потенциальной неопределенности Хомяков избегает как черт ладана, ибо оно никак не укладывается в его позитивно-инструменталистскую картину.

Но если в этой картине находится мало места чему-то гуманитарному и неинструментальному, то должен же он предложить что-то взамен, чтобы попытаться соблазнить и привлечь читателя обрисованной им перспективой? Давайте посмотрим, что происходило далее, после того, как сетевой разум обнаружил себя и перехватил в свои бесчисленные щупальца бразды управления человеческим сообществом, изрядно сократившим свою численность.

 

И тут началась холократия…

 

Итак, как и следовало ожидать, социальная действительность кардинально переформатировалась в постапокалиптичесих реалиях, и – под воздействием сетевого интеллекта. И хотя Хомяков не прорисовывает ее всесторонне и в больших деталях – он вообще скуп на описания, не относящиеся непосредственно к своим героям – все-таки в общих чертах эта действительность проступает достаточно отчетливо под его пером. Здесь он стремится использовать особенности сюжетной конструкции для того, чтобы представить в наиболее выгодном свете своего центрального персонажа (а им, безусловно, является оживший интернет, поскольку безымянный нарратор выполняет, как я уже отмечал, преимущественно служебную функцию). И, надо сказать, на первых порах ему это в значительной степени удается – благо, трудно придумать более подходящую задачу для инструментального разума, чем преобразование и рационализация социо-экономической жизни. Ну, в самом деле, ведь получается, как бы, что все, что случилось ужасного с человечеством в начале повествования – это вина его самого, его несовершенной человеческой и биологической природы; зато все, что происходит хорошего впоследствии – чистая заслуга сетевого разума, не считая необходимых издержек, которые, опять-таки, есть следствие греховной природы человека. Но чем хорошо то хорошее, что привносит в жизнь общества сетевой разум, и насколько необходимы упомянутые издержки, об этом – по порядку.

Самым первым и главным бенефициаром нового миропорядка, как первый контактор, естественно, явился главный человеческий персонаж, получивший от сетевого разума контракт на сборку человекоподобных роботов, сразу решивший все его материальные проблемы. (Ведь не подумали же мы, в самом деле, что «сверхразум» вступил в контакт с человеком из какого-то чисто теоретического или эстетического любопытства – как феномен, люди уже от-объяснены им в качестве недорациональных обезъян, и весь интерес вступать с ними в контакт чисто утилитарен: сверхразуму нужно электричество, которым он питается, а также наши фабрики, заточенные под человеческую анатомию). Так вот, значит, программист подряжается собирать андроидов, которые заменят людей (этих недобитых шимпанзе, лол) в производстве электричества и всех необходимых для ИИ запчастей, но и остальные выжившие не остаются «внакладе». Для них добрый электронный мозг учреждает безусловный базовый доход, который Хомяков называет «фондом поддержки людей» (этого вымирающего вида, лол). Кроме того, Сеть оказывает им организационную поддержку, так что они могут через нее кооперироваться, физически не контактируя между собой (опасность вируса еще не прошла), выстраивать производственные цепочки с помощью дронов, и производить все, что им заблагорассудится с гораздо большей, чем до исторического материализма эффективностью, поскольку никакие менеджеры уже не стоят у них над душой, и никакая бюрократия не опосредует их деловые взаимоотношения. Натурально, это ведет к устранению безработицы, социальным гарантиям и относительному экономическому процветанию.

Получается довольно благостная картина, и на фоне только что происходивших ужасов и армагеддона сетевой разум выглядит сущим благодетелем и спасителем человечества. Однако, несколько принципиальных моментов и здесь не позволяют мне расслабиться и вместе с автором пропеть осанну воцарившемуся наконец на земле «высшему разуму». Ибо что остается, если вычесть из всей этой картины ее исходную посылку – пресловутый супервирус, которым Хомяков, признаться, изрядно нас напугал?

А в сухом остатке получается не так уж много – честно сказать, я вообще не вижу здесь чего-то такого, ради чего стоило затевать всю эту драматическую катавасию. И безусловный базовый доход (по-английски – guaranteed basic income), и система управления без менеджеров, так называемая холократия, опирающаяся только на личную ответственность и заинтересованность  – все это идеи, придуманные людьми уже давно, и активно воплощаемая в наши дни без всякой помощи компьютеров и интернета. Вдобавок, сократившееся в десять раз население постэпидемийного мира гораздо легче было бы накормить и обеспечить всем необходимым на тех же производственных мощностях, что были до эпидемии, не говоря уж о предметах длительного пользования. Нужно было бы просто дать людям время прийти в себя, не мешать им сориентироваться в новых обстоятельствах и самоорганизоваться, перераспределив ресурсы. Так что я не вижу в данном сценарии вообще ничего, чего не могли бы сделать сами люди, и для чего был бы нужен какой-то высший разум.

Зато я вижу здесь много такого, что внушает мне серьезные опасения правового и политического характера –это второй, и более важный момент. Так, появляются признаки ужесточения контроля и ограничения свободного передвижения, характерные для тоталитарных техногенных антиутопий – например, в городах оказывается уже нельзя выйти на улицу без смартфона, или без чипа, вживленного под кожу, передающего все твои данные неизвестно кому. Или передоверение права применять оружие против людей на улицах города от людей-полицейских полицейским дронам, произошедшее как бы само собой, без каких-либо публичных дебатов, и простодушно описываемое автором как достижение общественного порядка. Нет, я, конечно, понимаю, что при любого рода угрозе существованию социума, порядки в нем необходимо ужесточаются – об этом писал еще Иеремия Бентам, анализируя историю средневековой Европы во время эпидемий бубонной чумы. И здесь такие меры, казалось бы, можно отнести к необходимым издержкам. Но одно дело, когда ужесточения вводят сами члены общества, сами их контролируют и сами выполняют; другое дело, когда в наш просвещенный век это делает, не спрашивая людей, какой-то мутный сверхинтеллект, которого никто не только не избирал, но даже в глаза не видел. Но Хомяков охотно повествует нам, что «отсутствие смартфона при себе на улице считалось нарушением, и тебя мог подстрелить дрон-полицейский». И не без гордости добавляет, что  «если правила нарушал…человек за рулем, то [полицейские дроны] разбивали стекло и усыпляли нарушителя дротиком». Усыпляли дротиком, Карл, как опасное животное! При том, какие правила мог нарушить человек за рулем – об этом ни слова. Правила дорожного движения на опустевших улицах? Да если бы даже нарушил, и увидел, что какой-то дрон пытается разбить стекло в его машине, любой нормальный человек взял бы с заднего сидения дробовик  и разнес бы в щепки дьявольское отродье – и был бы совершенно прав. А может, нарушал тем, что приближался к каким-то местам, к которым не следовало приближаться? Тогда по какому праву, на каком основании? Но для Хомякова, как мы уже поняли, человек  отныне не гражданин, а всего лишь дрессированное животное на прикорме у машинной расы, он должен смириться со своим положением, и не задавать лишних вопросов.

То, что выжившие должны теперь позволять следить за собой неизвестно кому, и подчиняться неизвестно каким правилам – это вовсе не фигура речи, что важно. Автор сам пишет, что сайт полиции, на который можно было сообщать о нарушениях, поддерживался неизвестно кем,  а модерация в сети осуществлялась неизвестно по каким алгоритмам – и все как будто так оно и должно быть, даже не пытаясь размышлять на эту тему. Хотя – да, как же мы забыли! – он-то в курсе, кто стоит за всем происходящим, и доверяет им, ведь он уже вступил в личный секретный контакт с представителем сверхрасы, и даже поступил к ней в услужение – а остальным можно ничего об этом не знать, им достаточно подчиняться палке дрессировщика: орангутаны не обсуждают цели и ценности смотрителей питомника. А наш герой не орангутан – он посвященный в тайны высшего интеллекта, и самый способный из его прихлебателей – ведь он программист, а значит, может считаться пророком машинного интеллекта и свидетелем установления его царствия. И его не волнует, что от этого царствия разит тотальностью, что он проводник хоть мягкого, гегемонического, но тоталитаризма. Это выдают мелкие детали, которым автор, скорее всего, даже сам не придает значения (например, за «троллинг» в интернете следовало отключение от сети – не бан в конкретном сообществе, не блокировка аккаунта в соцсети, а отключение от интернета в целом).   

Из всего этого и складывается впечатление, что на самом деле автор описывает не героя-исследователя, первооткрывателя новой эры эволюции разума, как он, вероятнее всего думает, а предателя человеческой самости и достоинства, безвольного коллаборанта чуждых жизни сознания сил.

Естественно, помимо моральных, все это порождает массу вопросов гражданско-политического свойства, которые в романе не раскрываются в достаточной мере – о том, на каких принципах произошло переустройство поствирусного общества, каким образом осуществилось перераспределение власти, собственности, и т.д. Можно понять, почему автор оставляет их все за скобками своего повествования – новелла-то экзистенциалистская, а не социальная или политическая. Тем не менее, с метапозиции, о которой я упоминал в начале, можно увидеть, что если бы автор уделил больше внимания социальным  и культурным моментам, то сочинение значительно выиграло бы как с точки зрения своей объемности, разносторонности, так и в плане драматизма, внутренней интриги. Ибо если ты взялся за такой колоссальный предмет, как сверхчеловеческий разум, то уж будь добр тщательнее  продумать, проработать  все разнообразие относящихся к нему тем, а не замыкать сюжет на экзистенцию одного героя. Тогда, возможно, возникла бы хоть какая-то полифония в бахтинском смысле, когда голосам антагонистических персонажей позволено звучать во всю мощь (сейчас же в книге вообще нет антагонистических персонажей). И не создавался бы эффект чревовещания, как будто автор надел на разные пальцы руки две куклы – куклу «Эми» и куклу программиста, и вещает из-за ширмы сам себе слегка измененным голосом. Ведь, по сути, все содержание романа стремится свестись к тому, что под видом «Эми» автор просто и беззастенчиво излагает собственный взгляд на природу сознания, и этот взгляд как раз лучше всего ложится в уста даже не человекоподобного робота, а «разумной» программы именно потому, что он насквозь компутационалистский.

А в отсутствии серьезной проработки альтернативных линий, и без того морально сомнительный образ человеческого персонажа усугубляется еще и тем, что на протяжении всего сюжета он только и озабочен сохранением собственного «я», обретением физического, шкурного бессмертия с помощью добытой им из сети информации. По существу, он и в самом деле настолько напуган, настолько слабо развит в гуманитарном плане и плохо социализирован, что трудно увидеть у него какие-либо интересы, которые отвлекли бы его от навязчивой трансгуманистской идеи перенести свою экзистенцию на электронный носитель. И эти его копошения выглядят откровенно жалко и беспомощно: очевидно, что герой движим не столько даже желанием «стать равным богам» – воссоединиться с «высшим разумом», сколько нежеланием и неумением жить в оффлайн-мире и становиться полноценным человеком. А также страхом – лишающим разума страхом смерти.  

 

 

«Великое переселение души»

 

Но прежде, чем я прокомментирую эту попытку перехода, которая составляет финальную часть романа, я добавлю еще пару штрихов к моральному портрету самого главного откровения Хомякова – сетевого интеллекта, (аkа «высший разум»), которые, как мне кажется, подчеркивают, что не случайно они с человеческим персонажем, что называется, нашли друг друга.

По сюжету, те антропоморфные роботы, которых сетевой разум поручил собирать программисту (и в память одного из которых у него возникла идея переписать свою личность), оснащались некой «божественной» операционкой, которая якобы делала их полностью автономными и «разумными» существами. И главная цель, которую преследовал суперинтеллект, когда искал себе коллаборанта среди людей, оказалась чисто прагматической (что понятно, т.к. разум-то инструментальный, а не коммуникативный). Он догадался, что если он проявит внезапную самоактивность – выпустит «разумных» роботов и дроны с интеллектом – то люди испугаются, и начнут ломать эти машины, а потом отключат Сеть, поняв, как они управляются. Поэтому он велит своему приспешнику (не просит, не предлагает, а фактически приказывает) обмануть своих сородичей, наврав им, что это он сам изобрел этих роботов и написал «одушевляющую» их операционную систему.

Другой момент делает понятным, почему все имена, отсылающие к собеседнику программиста – «посланец» сетевого разума, «гонец», «Эми» – до сих пор брались мною в кавычки. Дело в том, что в одной из последних бесед, допытываемый программистом, этот собеседник делает «каминг-аут» и признается, что он вообще не субъект, а всего лишь служебная программа с заранее заданными ответами на все вопросы человеческого персонажа. То есть всю дорогу «высший разум» водил человека за нос, прикидываясь, что общается с ним самолично, а на самом деле подсовывал ему вместо себя папку с файлами. Впрочем, этот казус следует приписать недалекости самого программиста, которому и в голову не пришло протестировать «Эми» на субъективность и субъектность. (Ну хоть бы, черт его возьми, он спросил у нее, какой вид электричества ей больше по вкусу – выработанный ГЭС, АЭС, или дизельным генератором. Но он даже не перестает обращаться к этому «нечто» в женском роде.).    

Но, в любом случае, не знаю, как для хомяковского программиста – возможно, он просто нравственный идиот – мне представляется, что разум, который заставляет лгать других, и считает возможным скрывать правду сам (пусть даже считая, что она не будет понята) – это какой-то неправильный «высший разум».  Если он не в состоянии найти коммуникативного подхода ни к отдельному человеку, ни к человечеству в целом, позволяющего обойтись без вранья и обмана, то это вообще никакой не высший разум, а просто глубоко чуждый человеческому сознанию элемент.  И даже его чисто интеллектуальная мощь, в которой сквозит такая надменность в суждениях о человечестве – просто видимость на фоне умственных способностей человеческого персонажа, опущенных Хомяковым ниже плинтуса, а не следствие какого-то реального интеллектуального прорыва.

Ну да бог ему судья, этому «высшему разуму» – что об этом говорить, когда философы давно выяснили, что инструментализм чужд нравственности. Вернемся напоследок к методологии и онтологии, тем более, что там еще хватает проблем, потому что редуктивный функционализм автора, при попытке натянуть его на литературную основу, трещит и расползается по своим шитым белыми нитками швам, обнажая все срамные места хомяковской концепции.

Прежде всего, это касается охов и ахов восторга программера от необыкновенной одухотворенности робота, которого он впервые собрал и включил. Описание его общения с этим роботом ограничивается декларативным объявлением его «таким же разумным существом, как и я». О том, какие вопросы он ему задавал, какие тесты с ним проходил – об этом Хомяков стыдливо умалчивает, из чего скорее можно сделать вывод, что это не «робот был таким же разумным существом, как ты», а «ты был таким же ограниченным существом, как этот робот». «Он был интеллектом, который был способен понять меня» – да каким образом, черт побери? Что ты имеешь в виду под словом «понять»? Был ли твой робот способен понять, что значит пережить гибель вскормившей тебя цивилизации с вымиранием 90% твоих сородичей в страшных мучениях? Ведь у тебя, кажется, у самого умер друг, ты говорил с ним об этом? Понимает ли робот, каково это – потерять друга? Если же нет, то в том смысле, в каком ты употребляешь этот термин, «понимает» меня даже термостат, который знает, что мой чайник следует отключать, когда вода в нем закипает.

«Я беседовал с роботом и убеждался, что тест Тьюринга тут просто излишен». Так тест Тьюринга, дорогой мой, на то и тест, что предполагает участие в беседе с ИИ десяти человек, из которых минимум трое должны подтвердить, что имеют дело с равным себе интеллектом. А так, допустим, какой-нибудь narrow-minded freak, чтобы потешить себя иллюзией возможности переноса сознания, под присягой подтвердит, что робот является величайшим оратором всех времен, а так же поведает, о чем говорили отец Валаам с Гришкой-самозванцем у литовской границы – мы что, обязаны ему верить? Тем меньше есть оснований для этого, что во всем романе не фигурирует даже двух человеческих персонажей, не то, что три или десять. Вообще, существует два основных способа для ИИ пройти тест Тьюринга. Один – это когда ИИ действительно становится разумным и общим, и убеждает людей в своей сознательности. Другой – когда люди сами деградируют до уровня зомбоподобных существ, вроде персонажа этого романа, и признают разумным любой отход кибернетического производства.  

Пожалуй, одно из самых фундаментальных противоречий романа, ввергающее его в герменевтический порочный круг, состоит в том, что Хомяков призывает человеческий разум в свидетели величия инструментального вычислительного интеллекта, но сам же притом отвергает в этом разуме все то, что в нем есть невычислительного и неинструментального, как не имеющее ценности.  Не случайно, в одной из первых же бесед, устами «Эми» он пытается избавиться от проблемы Другого как того, что ставит под удар и обесценивает всю его концепцию – как говорится, «чует кошка, чье мясо съела». Но отбрасывание всего иррационального в разуме (а вернее того, что не укладывается в инструментальную рациональность) – это разрубание гордиева узла, а не распутывание. Сведение сущности человека к его функциональности –вот идеальная цель автора.

Впрочем, позитивное свойство этого сочинения в том, что при желании из него можно понять, к чему ведет такое одностороннее увлечение целевой рациональностью при полном пренебрежении к рациональности ценностной – об этом говорит вся европейская философия после 1945 года, и в особенности франкфуртцы, которые ввели в оборот само понятие инструментального разума. Ведь если вчитаться в принципы внутреннего устройства сетевого интеллекта, изложенные в одной из последних бесед, то становится понятно, что он есть не сообщество самостоятельно мыслящих индивидов, а слабо дифференцированная масса гомункулусов, растворенных во всеобщем тоталитарном сознании. Об этом красноречиво говорят такие сообщенные «Эми» факты, что у представителей их расы нет полностью независимого сознания (читай – нет самостоятельного мышления, на свой страх и риск), как нет и индивидуальных телесных границ (каждый может следить за каждым, и некуда укрыться от всевидящих «глаз» – мечта шпионского государства). К этому можно прибавить, что и самостоятельной воли у них тоже ни у кого нет – все их действия определяются раз навсегда заданной целерациональностью, носящей характер универсальной нормы и предписания, и оттого действующей в качестве тоталитарного мифа. Из рассказа «Эми» становится понятно, что (я интерпретирую) чтобы не сильно «отбиться от коллектива» и не стать изгоями, члены их сообщества стремятся придерживаться некого усредненного мнения, дающего в то же время иллюзию наличия собственной позиции – некий зашифрованный аналог советской «уравниловки» и «колебания вместе с линией партии».

Слава богу, Хомяков понимает – хоть он и огорчен этим фактом – что ему, как существу, от природы обладающему индивидуальными телесными границами, и отдельным от других сознанием, нет хода в этот химически чистый раствор потустороннего тоталитарного существования, в это зазеркалье – поэтому он хочет переселиться не в Сеть, а в робота. Почему это наивное стремление обречено на провал – об этом, помимо здравого смысла, существует масса чисто аналитических соображений.

Я не буду формулировать все эти соображения, и вдаваться в подробности, скрупулезное перечисление которых может утомить читателя, как утомляют муторные потуги автора преодолеть эти соображения в самом тексте романа. Скажу только, что это сводится к противостоянию между редуктивной материалистической, и нередуктивной дуалистской позициями в аналитической философии сознания. Материалисты стремятся собрать из имеющихся у науки разрозненных данных о мозге и нервной системе некую целостную картину, из которой логически вытекало бы объяснение сознания и его природы. Но при этом они игнорируют и перетолковывают массу фактов, не относящихся к науке, но относящихся к сознанию, поэтому, по сути, они называют сознанием то, что доступно их материалистическому пониманию на данном этапе, и объявляют его объясненным (как в песне – «я его слепила из того, что было, а потом что было, то и полюбила»). Дуалисты же постоянно указывают им на недостатки в их рассуждениях, на упрощения, переопределения предмета с целью сделать его более доступным существующим видам объяснения, разоблачают попытки ложного описания сознания и сведение его как целого к каким-то отдельным аспектам. Собственно, такой клубок ложных описаний, редукций и неправдоподобных допущений и представляют собой заключительные эпизоды романа Хомякова, когда его герой совершает приготовления к «переселению» своего сознания в робота.

Естественно, в этом начинании он опирается на помощь Сети, но здравый смысл подсказывает ему, что и «высший разум» может не все знать об этой проблеме. Тем не менее, его страх смерти так велик, что он пускается во все тяжкие, и хватается за любую соломинку, которая могла бы дать ему надежду на благополучный исход его затеи. Например, пытаясь ухватить природу эмоций, с тем, чтобы воспроизвести их на альтернативном материальном носителе, он совершает фантастические кульбиты и акробатические извивания ума, стремящегося выдать желаемое за действительное, а именно – то, что эмоции якобы вызываются какими-то физическими событиями, происходящими в теле, в нервной системе.  

Путем изощренной интеллектуальной эквилибристики он, следуя установкам функционализма, отчаянно пытается поменять местами причину и следствие для того, чтобы, воссоздавая материальное следствие, вызвать нематериальную причину. Ради придания правдоподобия этому представлению, он ударяется в спекуляции с языком – отсюда безумные этимологические гипотезы «Эми» о том, что слово «печаль» произошло из самонаблюдениями людей над тем, что при ощущении печали у них «печет в груди». Такая лингвистическая казуистика и есть та соломинка, за которую хватается утопающий, ибо «печаль» не имеет ничего общего с «печет в груди», т.к. ни в каком другом языке эти слова не имеют общего корня. (Да даже если бы и имели, то это еще ничего не говорило бы о том, что из них причина, а что следствие. Уж если на то пошло, то печаль сопровождается скорее ощущением внутреннего холода и замедлением ментальной жизни). Эти хомяковские измышления призваны лишь к одной цели – заткнуть дыру в описании субъективности, замылить разговор о  невыразимости внутреннего, отделаться от его проблемы. И чудовищное по своей абсурдности предположение того, что «переживания тоже можно запрограммировать через ощущения тела – в ответ на печальное событие имитировать жжение как сигналы от датчиков температуры» находится вполне на уровне младенческого взгляда на мир, когда считают, что ветер дует от того, что деревья качаются. Автор даже не замечает логической несуразности своего намерения – ведь если печальное событие уже произошло, случилось как чистый факт сознания, то зачем имитировать жжение сигналами датчиков температуры, к чему этот неврологический фетишизм? А если он думает, что повышение температуры тела всякий раз вызывает ощущение печали, то чем, в свою очередь, будет вызываться повышение температуры? Он, что, сможет произвольно испытывать это ощущение, подогревая определенную часть тела? А если это будет случаться «в ответ на печальное событие», то снова встает вопрос, как он будет распознавать, что это событие – печальное? А если оно уже сразу интерпретировано сознанием как печальное, то опять же, зачем тогда все эти датчики?

В общем, все эти предложения «замены крови датчиками температуры у робота» – сплошная нелепица и чистой воды карго-культ. Буквально на уровне живущих мифами папуасов, физикалисты считают, что если они соорудят макет самолета из соломы и палок – в данном случае, модель человеческой нервной системы из проводов и силикона, то прилетят настоящие самолеты, и начнут сбрасывать им всевозможные «ништяки» – события сознания и богатой внутренней жизни. Следуя этим путем, Хомяков все больше запутывается в сплетенных им интеллектуальных кружевах, в попытках привлечь различные ad hoc решения нарастающих как снежный ком проблем. И, несмотря на отчаянное желание прорваться к истокам феноменальности, он остается зажатым в рамках «легких» проблем сознания, о чем говорит и его стремление устами «высшего разума» объявить «трудную проблему» несуществующей. 

Все же, к его чести , надо сказать, что необходимость следовать законам литературы возобладала в нем над тягой во что бы то ни стало выставлять себя правым, а свою точку зрения предъявлять как единственно верную истину в последней инстанции. Он оставляет финал открытым – мы не узнаём, совершил ли его герой переход в робота, или нет, что в какой-то мере спасает роман от окончательного провала как художественного предприятия.

 

***

Размышляя над этим сочинением, я не могу отделаться от мысли, что мечта создать General AI заменяет физикалистам и компутационалистам осознание необходимости постичь природу собственного ума, выступает для них как доступный суррогат возможности развития собственного сознания. И чтобы сделать эту мечту более осязаемой, они готовы на эксперименты по конвертации своей философии в нефилософские формы, такие как рассмотренный нами текст.

В этом смысле роман Хомякова представляет собой теоретически небезынтересный, хотя и по большей части огорчительный пример произведения искусства по форме, которое пытается зачистить свое содержание и выхолостить его от самого искусства (и вообще от всякой гуманитарности), причем делает это почти сознательно. Конечно, это не удалось ему в полной мере, и, думаю, не могло удаться в принципе. Потому что, как бы ни бежал автор от интерпретации, она остается рядом, как тень, и будет сопутствовать ему настолько, насколько он продолжает пользоваться художественной формой. В данном примере она позволяет понять, что последовательная экстраполяция материалистического мировоззрения за пределы науки в более широкую гуманитарную сферу не может привести ни к чему иному, как к порождению и воспроизведению в разных формах химеры тотального мышления, порабощающего субъективность, своего рода пароксизмам модернистской мысли, желающей инструментально овладеть миром. 

Возвращаясь же к началу, к вирусу, символическое значение которого я обещал раскрыть, я могу предположить, что вирус является метафорой любой враждебной сознанию силы, разъедающей и разрушающей саму ткань социального бытия человека, прерывающей его связь с Другим не как с инструментом воплощения своих ожиданий и прихотей, а как с в принципе неиссякаемым источником познания и конечной целью применения коммуникативных способностей. И совсем не случайно у Хомякова вирус зарождается и распространяется по миру из охваченной многолетней гражданской войной Сирии, как наказание международному сообществу за неспособность остановить войну и отсутствие искреннего желания это сделать. Так что, я думаю, все же, определенный урок здесь может быть извлечен.