Демоны и технологии

В очередном выпуске мы поговорили о том, как человек меняет мир при помощи технологий, и о том, как технологии меняют человека. Что общего между Каином и Прометеем? Почему люди верили, что в мельницах и печатных станках живут черти? Какие опасности может таить в себе бесконтрольное технологическое развитие и как им можно противостоять?

В этом выпуске упоминались:

«Дедал, или будущее науки» Дж. Холдейна Видеоигра «Черная книга» «Крабат, или легенды старой мельницы» О. Пройслера «Съедобные сны, или ошибка доброго мудреца» В. Шефнера «On killing» by Dave Grossman «Короткий фильм о любви» К. Кесьлевского Видеоигра «Universal paperclips» «Бесконечная история (https://ru.wikipedia.org/wiki/%D0%91%D0%B5%D1%81%D0%BA%D0%BE%D0%BD%D0%B5%D1%87%D0%BD%D0%B0%D1%8F_%D0%B8%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%8F)» М. Энде

Powered by RedCircle

Транскрипт

АНТОН: Всем добрый день, это подкаст «Демонология» о демонах и искусстве борьбы с ними. Мы, Антон Шейкин и Данил Калинов, разбираемся, как существовать в мире полным демонов. На протяжении первого сезона мы обсуждали демонов, которые находятся внутри человеческой души или являются ее частями и мешают человеку достигать его целей. В частности, в одном из выпусков первого сезона мы обсуждали демонов похоти и червоугодия, части человеческой души или психики, которые отвечают за злоупотребление биологическими способами достижения своих целей. Человек существо из плоти и крови, и у него есть определенные биологические особенности, которые можно злоупотреблять и нанести себе вред. В этом выпуске мы поговорим о биологических особенностях вида Homo sapiens и беспрецедентной особенности этого же вида изготавливать орудия технологическим прогрессом. Итак, сегодняшний выпуск посвящен демонам, которые живут в орудиях.

ДАНИИЛ: Можно сказать, в технологиях.

АНТОН: Когда мы думали о том, с чего начать этот выпуск, мы независимо друг от друга пришли к одной и той же мысли, к одному и тому же сюжету. Может быть, Даниил, ты начнёшь.

ДАНИИЛ: Мы подумали, что разумно начать этот выпуск с истории о Каине и Авеле. Это продолжение одного из первых выпусков нашего подкаста, где мы рассказывали про историю грехопадения, про историю Адама и Евы, змея и запретного плода. История Каина и Авеля является следующей историей в книге Бытия, которая идет сразу же за этим грехопадением. Почему она нас заинтересовала? В этой истории впервые в повествовании Библии встречается орудие, встречаются технологии и описывается, как постепенно они появляются в человечестве. Можно начать просто с того, чтобы пересказать эту историю. Мне лучше это сделать или ты хочешь, Антон?

АНТОН: Я попытаюсь подсветить некие особенности, которые не так широко обсуждаются, как хотелось бы. Наверное, лучше, чтобы ты рассказал.

ДАНИИЛ: История начинается с того, что Адам познал Еву, и она сначала рождает ему первого сына Каина, и после этого также рождает ему второго сына Авеля. В начале истории мы слышим, что Авель был пастырем овец, а Каин был земледельцем. Здесь сразу же мы видим некоторое противопоставление того, что Авель, как пастырь овец, на самом деле не требует большого технологического развития или большого количества орудий. Если кто-то является пастырем, ему нужно было одомашнить этих животных, чтобы с ними заниматься, но в целом это занятие менее технологическое. А если кто-то занимается земледелием, для этого сразу же нужно много орудий. Чтобы вспахать землю, посадить все эти растения, потом собрать урожай, этот урожай надо обработать. Сразу же появляется огромное количество технологий. Человек, который занимается развитием, прогрессом человечества, технологическим прогрессом человечества.

АНТОН: В погоне за технологическим прогрессом он забыл о душе, потому что он убивает собственного брата и получает проклятие от Господа.

ДАНИИЛ: Если сократить рассказ, Каин и Авель приносят дары Господу. По неуказанной причине Бог, как говорится в Библии, призрел на дары Авеля, а на дары Каина Господь не призрел. Это порождает в Каине зависть или огорчение, которое приводит к тому, что он решает убить Авеля. После этого Господь проклинает Каина.

ДАНИИЛ: Скорее... Тут на самом деле интересно, я могу прочесть этот кусок. Когда Каин уже убил Авеля, вдруг Господь начинает говорить Каину, и он сначала говорит, где Авель, брат твой? На что Каин отвечает, не знаю, разве я сторож брату моему? А Господь отвечает, что ты сделал? Голос крови брата твоего выпьёт ко мне от земли. И ныне проклят ты от земли, которая отверзла уста свои принять кровь брата твоего от руки твоей. Когда ты будешь разделывать землю, она не станет более давать силы свои для тебя. Ты будешь изгнанником и скитальцем на земле. Господь здесь говорит Каину, что Каин проклят не Господом, а самой землёй. А затем происходит интересное, и здесь мы не будем сильно погружаться в это, но просто можно заметить, что дальше Господь говорит Каину, Каин сначала говорит, что это больше, чем он может снести, это проклятие. А Господь отвечает ему, что... И сказал ему Господь: зато всякому, кто убьет Каина, отомстится всемиро. И сделал Господь Каину знамение или печать, чтобы никто, встретившись с ним, не убил Каина. Господь в ответ на это делает некоторую защиту Каину, чтобы он смог выжить. Потому что Каин говорит, что теперь все, кто меня встретит, увидят, что я проклят и захотят меня убить. А Господь его защищает, создавая это знамение или печать. Защищает Каина от убийства.

АНТОН: Получается, что Каина проклинает за убийство сама природа, против которой он что-то совершил. Каин предстает деятелем антиэкологического движения. Авель — это человек, который не вмешивается в природный ход вещей, а Каин — это человек, который вмешивается в природный ход вещей, и поэтому природа его проклинает. Ты это хочешь сказать?

ДАНИИЛ: Да, интересно, получается, что... Но сначала она его не проклинала, когда он просто вмешивался так, что он занимался земледелием. Но когда он заставил землю выпить кровь своего брата, земля вознегодовала. Когда он... Можно сказать, это то, что он использовал эти технологии или орудия для преступления. Неблагой цели.

АНТОН: Я когда задумался над этой историей, у меня возникли ассоциации с другим мифологическим персонажем, Прометеем. Если проследить параллели, получается довольно близкое сходство. И Каин и Прометей познали некие орудия, что увеличивает силу. Прометей был не человеком. Но он захотел принести людям эти орудия, чтобы увеличить их силу. А Каин самостоятельно, своим умом до этого дошёл. После того, как оба они совершили какое-то противозаконное действие, они были подвергнуты суровой каре. И Каин и Прометей обладали бессмертием и благодаря своему бессмертию, должны были нести эту нашу довольно долгое время.

ДАНИИЛ: Да, и там, и там мы видим, что мифологически тот момент, когда человек приобретает технологии, приобретает орудия труда, сразу же является моментом, в который вкрадывается и какое-то библейское понимание греха или ошибка. Здесь также может быть еще... В библейской истории интересно заметить, что потом, после описания этой истории Каина, следует достаточно короткое описание родословной сыновей Каина. Там описывается где-то, я не помню, сейчас семь поколений после Каина. Интересно то, как они описываются. Сначала говорится, что Каин, после того, как он нашел себе жену и поселился в определенном месте, Каин основал первый город, как здесь говорится, и построил город, и назвал город по имени сына своего Енох. После этого многие из сыновей Каина и дочерей описываются как люди, которые создали те или иные вещи. Например, говорится, что один из сынов Иавал, внук или правнук, был отцом живущих в шатрах со стадами, кочевников, тут первый раз упоминаются шатры. Его брат был отцом всех играющих на гуслях и свирелях, первый раз упоминаются музыкальные инструменты. Также их двоюродный брат Тувал Каин описывается как то, что он был кузнецом всех орудий из меди и железа, первый кузнец. Это, наверное, основные технологии, которые упоминаются. Явно делаются указания на то, что потомки Каина являются людьми, которые разрабатывали разные технологии. Эта связь еще сильнее углубляется в повествовании.

АНТОН: Интересно заметить, что есть же еще и не потомки Каина после убийства Авеля. Ева родила Адаму еще одного сына, правда? Так что здесь нам предлагается мысль, что существует нетехнологический способ развития человечества, какой-то альтернативный. Я не знаю, чем занимались потомки... Ламеха, кажется?

ДАНИИЛ: Нет, третий сын Адама называется Сифом. Сиф, да. Вместо Авеля.

АНТОН: И чем занимались его потомки, там говорится? Если не технологии?

ДАНИИЛ: Мне кажется, если когда читаешь повествование дальше, то понятно, что эта технология развилась на все человечество. А, я понял.

АНТОН: А, я понял.

ДАНИИЛ: Потом Ной, который тоже является потомком Сифа. Строит ковчег, случается потоп, и Ной потом является первым человеком, который посадил виноградник и создал вино. Это, кстати, интересно. На самом деле тоже интересная история, потому что это некоторое повторение грехопадения. Дальше, как все слышали про потоп, Ной создал ковчег, в него зашли животные, они все спаслись, потом потоп спал, ковчег остановился на горе Арарат, и после этого говорится, что сначала все хорошо, Бог заключает новый завет с Ноем, все веселятся и радуются, а потом Ной решает посадить виноградник. И пьёт от плода виноградника, и напивается, и лежит голым в своём шатре. Это создает новый прецедент греха, потому что его сын видит его голым или что-то с ним делает, пока он лежит в беспамятстве. Мы видим, что сразу же после хорошего нового начала появляется новая технология. Это производство вина. Эта новая технология ведет к новой проблеме. Тот же троп повторяется еще раз.

АНТОН: Я когда несколько лет назад читал книжку Холдейна «Дедал и Икар» о будущем науке, там проводилась параллель между технологическим развитием и биологическим развитием, агротехника, зоотехника и прочее, как между святотатством и извращением. Я могу процитировать маленький кусочек из этой книги, потому что он показателен для нашего разговора. Изобретатель в области химии или физики всегда является своего рода Прометеем. Нет такого великого открытия, начиная с огня и кончая авиацией, которое не рассматривалось бы как искорбление какого-либо божества. Но если каждое физическое или химическое открытие является своего рода святотатством, то каждое биологическое открытие часто носит признаки извращенности. Едва ли найдется хоть одно из таких открытий, которое при первом полученном от него впечатлении со стороны наблюдателя, никогда ранее о нем не слыхавшего, не показалось бы ему непристойным и неестественным. Возьмем хотя бы столь простой и столь освященный временем процесс, как доение коров. Молоко, которое должно быть интимнейшим и почти священным звеном между маткой и детенышем, выдаивается грубыми пальцами коровницы, а затем его пьют, кипятят и даже готовят из него сыр. Стоит представить себе, что мы пьем какое-либо другое выделение коровы, и перед нами предстанет во всей полноте непристойность наших отношений к этому животному. Не менее отвратительным на непривычный взгляд является процесс брожения при производстве вина и пива. А между тем процессы доения коров и выделки, равные потреблению пива, кажутся нам совершенно естественными. Так что биологические технологии воспринимаются не столько как оскорбление Бога, сколько как оскорбление природы. Ты проводишь различия между тем, что Бог проклял Каина и природа прокляла Каина. Кажется, что даже в христианстве можно проследить какое-то различие между тем, что угодно Богу и что угодно природе. Тебе не кажется так?

ДАНИИЛ: Нет, в этом есть действительно интересные идеи.

АНТОН: Холдейн там в любом случае привел достаточно примеров того, как каждое новое изобретение воспринималось современниками изначально как оскорбление чего-либо, либо божьего достоинства, либо человеческого.

ДАНИИЛ: Да, и мне кажется, не только это оскорбление, но и можно видеть, если смотреть на историю того, как, в общем, все это... более современной технологической революции, то каждый раз, когда появлялось какое-то большое новое технологическое продвижение, например, начиная от ткацкого станка или книгопечатания, это сопровождалось сопротивлением со стороны многих людей. И часто аргументы были в том, что в этих новых инструментах живет сатана или живут черти, и это проявление каких-то дьявольских вещей. На самом деле, мне кажется, мы можем это видеть даже в наше время, если посмотреть на то, как многие люди реагируют на ГМО, на 5G, на прививки от коронавируса. Все еще видно, что новое технологическое развитие сопровождает собой ощущение некоторой опасности. Для некоторых людей ощущение того, что внутри этой технологии живет какая-то злая воля, которая может навредить человеку.

АНТОН: Да, мне вспомнилось сейчас сопротивление людей, которые не желали, чтобы Библия была... потому что если человек переписывает, то рукой человека, конечно, будет Господь двигать, и всё будет в порядке. А вот если кто-то будет это набирать, и там что-то будет печатать, там прокрадётся опечатка, и всё исказит, и будет очень плохо.

ДАНИИЛ: И мне кажется, с одной стороны, особенно для нашего современного сознания, для просвещенного человека хочется сначала просто сказать, но это все глупости абсолютно. Просто люди ничего не понимают, боятся нового, а это... Отмести все эти мысли как абсолютное заблуждение и суеверие. Но мне кажется, стоит посмотреть и попробовать понять, есть ли в этом какое-то зерно смысла. Может быть, люди каким-то образом интуитивно чувствуют, что какая-то опасность в этом есть, даже если они ее часто формулируют некорректным образом. Совершенно неправильно.

АНТОН: Прежде чем мы начали запись, ты упомянул, что какие-то аргументы в пользу такого взгляда на технологию, что она действительно может быть потенциально опасна, можно найти в рассказах о джиннах, которые выполняют желания, но выполняют их через чур буквально. Он сделает то, что ты ему сказал, но не то, что ты хотел. Подробнее про то, что человек хотел, можно поговорить, когда мы до искусственного интеллекта дойдём. А сейчас можно вспомнить, что и в мусульманском мире джинны, и в средневековом западноевропейском фольклоре технологии, появлявшиеся всегда, сопровождались появлением чертей внутри этих технологических объектов. Типография понятна. Внутри каждого типографского станка сидит черт, который только ждет, чтобы Библию начали печатать. И вот тогда он разгуляется. Я бы хотел еще вспомнить показательный пример. Это ты меня на него натолкнул. Но в детстве тоже встречался устойчивый образ чертова мельница. Ты вспомнил про одну из моих любимых игр Black Book, черная книга. Это российская игра, которая сделана по мотивам пермского фольклора. Мы уже обсуждали демонологию этой черной книги применительно главной героини, у которой есть котомка с чертями, она их в ней носит, и они ее терзают. Это то, что первый сезон нашего подкаста касается человеческой души. А вот тут действительно обратил мое внимание на то, что демоны, с которыми приходится бороться главной героини Василиси, живут не абы где. А в местах, которые связаны с технологией, например, первый босс в этой игре живет на мельнице. Это мельничный черт, который по ночам, когда работники уже уходят, мелит муку. Я вспомнил еще один известный сюжет. Есть сказка «Крабат ученик колдуна» немецкого писателя Пройслера. Это центральная Европа, в которой крестьянский мальчик, сирота, попадает на мельницу и заключает с мельником договор, по которому мельник учит его чернокнижию, а он поступает в его полное распоряжение. И там действительно описывается, что мельница крутится сама по себе, даже когда они воду перекрывают, какие-то черти крутят эти колеса. Кажется, что этот образ технологического черта появился в западной культуре практически сразу после того, как началась промышленная революция. А вот как ты думаешь, почему такой сюжет стал распространен? Чем может быть опасна мельница не ручная, а ветряная или водяная? Почему человек видел в ней опасность? Лудиты видели, что она забирает работу у человека? Там, где трудилось 10 человек, сейчас будет трудиться ветер или вода, и они потеряют работу. Но люди понимают, что если они освобождены от тяжелого мускульного труда, им можно заняться другим трудом. Например, продавать эту муку или печь из неё хлеб. Делать то, что мельница уже не может. Производительность ветряной или водяной мельницы выше, поэтому она забирает черновую работу, но создает больше высококвалифицированных рабочих мест, например, пекарь. Почему еще она могла оказаться людям опасной? Технология, которая упрощает производство чего бы то ни было. У тебя есть мысли по этому поводу?

ДАНИИЛ: У меня есть несколько мыслей. Наверное, первая мысль, это то, что ты сказал. Это более очевидная мысль про то, что действительно, у людей было ощущение, когда появляется новая технология, что это может поменять их жизнь. Это ощущение вполне оправдано, потому что понятно, что то, насколько за последние 400 лет изменилась жизнь человека, несравнимо ни с чем, что происходило в истории. Ощущение того, что появится новая технология, и она может разрушить уклад жизни, разрушить существующие традиции. Это ощущение имеет оправдано, потому что промышленная революция привела к разрушению многих традиций, разрушению традиционных укладов жизни, переездам в город многих людей. Это более понятная мысль, которая лежит на поверхности. Интересно,

АНТОН: Интересно, что городское население с большим энтузиазмом воспринимает технологии, потому что среди городского населения, особенно грамотного, быстро распространилась мысль о том, что наука и инженерия могут привести нас к прогрессу. Люди, которые читали, испытывали больше оптимизма по отношению к технологиям, даже чрезмерным. Весь XVIII и XIX век — это мечты о том, как хорошо будет жить в максимально технологическом мире. Кажется, что потомки Каина, живущие в городах, не оставили своих надежд.

ДАНИИЛ: Тут даже можно сказать, что мне кажется, некоторого апогея ты достигла в раннем Советском Союзе, потому что... Особенно если посмотреть на всё искусство художественное, которое существовало в Советском Союзе, даже на ту же статую рабочего и колхозника. Это прямо такая эстетика Каина, возведённая в абсолют эстетику того, что мы сейчас нашими технологиями изменим и всю природу, и покорим космос, и изменим все социальные стоя с помощью нашего мысления. Просто всё сделаем как нужно с помощью технологий. Мне кажется, здесь можно увидеть и переход ко второй проблеме. Это то, что, с одной стороны, действительно, что делают эти технологии, они, это как в этой истории, с которой мы начали, про джинов, того, что технологии позволяют нам исполнять наши желания. То, что мы хотели, чего возможно для этого, до этого у нас не было сил, не было возможностей. С помощью каждой технологии оно позволяет исполнять какое-то желание. Но проблема в том, что мы не всегда знаем, какое будет последствие исполнения этого желания. И мы не всегда знаем, хорошо ли, чтобы это желание было исполнено, и в каком виде это желание должно быть исполнено. Понятно, что особенно... Если мы посмотрим на ранний Советский Союз и на все эти оптимистичные футуристические мышления, насколько эти желания не были исполнены в достаточно недалеком будущем, я думаю, многие из нас знают. И что через лет 50 весь этот оптимизм сменился достаточно глубоким пессимизмом. Это некоторая проблематика, может быть, ты можешь тоже здесь сказать что-то.

АНТОН: Она довольно быстро была людьми осознанно, потому что научная фантастика — это ответ гуманистической части человечества на технологический прогресс. Научная фантастика из наивно-оптимистичной жюльверновщины довольно быстро переросла в фантастику социальную, которая описывает проблемы, с которыми сталкивается человек при проникновении в его жизнь технологии. Есть писатель, не очень известный, но один из моих любимых в детстве, Вадим Шефнер. У него одна из последних книг называется «Съедобные сны или ошибка доброго мудреца» о том, как один человек изобрел аппарат, позволяющий наедаться во сне. Ты спишь и видишь, как ты ешь, допустим, котлету или макароны. После этого весь общественный уклад, разумеется, сразу разрушается, люди начинают этим злоупотреблять, и книга заканчивается тем, что все эти волшебные насадки на голову, которые позволяют тебе какие-то радиоволны из Вселенной преобразовывать в виду, люди задают в утиль. Так что это бойтесь осуществления своих желаний довольно рано было осознанно, но, с другой стороны, это такая гуманистическая часть человечества осознаёт. А есть образ мысли, которую придерживаются главным образом владельцы всех этих технологий, те, у которых в руках эти технологии сосредоточены. Понятное дело, что образ мысли крестьянина сильно отличается от образа мысли Генри Форда. Но у кого есть власть над технологиями? У Генри Форда, и поэтому технологическое развитие стало неостановимо, и мы на протяжении... Особенно последних лет 80, после Второй мировой войны, все лучше и лучше. Ощущаем враждебность каких-то видов технологий. Если переходить к более конкретным вещам... ДАНИИЛ: У меня еще одна общая мысль была. Наверное, можно сформулировать опасность технологии иным образом, а именно что... Это на самом деле видно немного на том примере, как ты сказал, что люди сначала думали, что когда Библию ты переписываешь рукой, это одно, а когда это уже печатается на машинке, ощущается, что что-то уже не так, каким-то образом становится, мне кажется, ощущается сразу же человеком, что процесс становится в каком-то смысле более абстрактным.

АНТОН: Душа пропадает.

ДАНИИЛ: Как это можно сформулировать в общем? Мне кажется, в некотором смысле каждая технология является таким усилителем какой-то, не каждая, но многие технологии можно так сформулировать, это то, что они усиливают или облегчают какие-то вещи, которые человек... способности, которым человек и так обладает. Например, что человек может перемещаться в пространстве, но если теперь у него есть лошадь, машина, корабль, самолет, это можно делать намного быстрее. Человек, например, может общаться с другими людьми, но сначала, если у него есть возможность писать, он грамотный, это позволяет общаться намного, достигать намного большее количество людей. Если у тебя есть и печатный станок, и ты можешь печатать газеты, то ты можешь тоже достигать намного большее количество людей. Возможно, самым простым примером такого является громкоговоритель, что просто ты можешь говорить с одной громкостью, а если у тебя есть громкоговоритель, можно громче говорить. В некотором смысле технологии позволяют усиливать какую-то часть человеческого существа. Но...

АНТОН: Да, усиливать за счёт ослабления внимания к деталям. Вот, наверное, это главная особенность, которая интерпретируется как демоническая, потому что, когда какую-то работу выполняет человек, как правило, он контролирует все стадии этой работы и может проверять на промежуточных этапах, то ли получается, что нужно. А если эта работа переложена на какую-то машину или в целом на какое-то техническое средство, оно позволяет выиграть во времени, проиграть, в общем, в скрупулезности. В примере с путешествиями хорошо видно, пока человек добирался из Петербурга в Москву в 18-м веке, он мог досконально изучить всю жизнь русской провинции на этом тракте. 800 километров. Сейчас ни один человек, который сидит в скоростном поезде или в самолёте, не задумывается о том, что происходит между Петербургом и Москвой. Для него это буферная зона, в которой ничего нет. Путешествия раньше выполняли не только техническую функцию, но и антропологическую. Человек, приезжая в другую страну, оказывался подготовленным к нравам её обитателей просто потому, что он видел, как меняется образ жизни людей, образ мышления и так далее. Сейчас, когда человек привозит машины или самолёт, пропадает внимание к разнице между этими двумя.

ДАНИИЛ: Я думаю, можно это сформулировать, что если раньше какие-то активности, например, путешествия, раз мы рассматриваем такой пример. Если изначально в ней есть некоторая целостность того, что она выступает, в смысле, что в ней есть утилитарная цель, то, что нужно переместиться от одного места к другому, но ей сопутствуют другие переживания и другие слои реальности, то постепенно технология позволяет раздуть этот утилитарный слой, все другие слои, которые можно обозначить как душа, они автоматически не усиливаются. И поэтому, если ты хочешь совершить это путешествие в другую страну, но теперь ты летишь на самолете, то тебе, если ты хочешь знать что-то о той стране заранее, до того, как ты приедешь, придется сознательно чем-то заниматься, почитать какие-то книжки, послушать подкасты или чего-то. Но автоматически той целостности, которая была больше до технологии, её там нет. И это нужно создавать заново с помощью внутреннего усилия. Мне кажется, это легко заметно в общении, в технологиях, которые позволяют облегчить общение, если у новых поколений таких проблем больше нет, но мы как пожилые люди можем сказать, что когда ты общаешься с человеком лицом к лицу, уровень недопонимания, который возможен, он сильно ниже, чем если ты общаешься с человеком посредством текстовых сообщений. Я бы сказал, что требуется дополнительный уровень сознательности и уровень, можно и стикерами, но все равно, если ты хочешь поговорить на конфликтную сложную тему, сделать это лицом к лицу полегче во многом, чем сделать разумный диалог, где обе стороны друг друга поймут в текстовом плане. Как минимум есть некоторые проблемы, которые можно ощутить тут. Мне кажется, что с другими технологиями тоже возникает эта проблема, что они из целостности человека делают его немного более односторонним. И эту односторонность нужно преодолевать.

АНТОН: Надо заметить, что далеко не все, что теперь для нас делают технологии, человек априори умел. Например, если... Мы говорим... Допустим, о высокопроизводительных вычислениях или том, что называется сейчас Big Data, у человека априори не было таких способностей, которые есть у машин, на которых мы это все перекладываем. Поэтому какие-то проявления технологического прогресса не обладают внутренним демоническим потенциалом, потому что машины делают что-то, что мы не могли даже и представить. Хорошо, с главной опасностью вроде разобрались, мы за счет технологического прогресса теряем целостность каких-то процессов, их части сильно оптимизируются, ускоряются, но за счет этого нарушается связь с остальными частями.

ДАНИИЛ: Можно сказать, что это зазор между тем, что какие-то части стали более усиленными, а какие-то менее. Возможно, это то место, куда могут проникнуть демоны. В том смысле, что человек может начать использовать это несоответствие для того, чтобы облегчить какие-то не очень этические поступки. И вот, может быть, здесь можно прийти к примеру.

АНТОН: У тебя был такой исторический, первый конкретный пример, связанный с оружием. Ты расскажешь, что имел в виду?

ДАНИИЛ: Да, я могу рассказать. Это здесь то, что я буду говорить, во многом основано на неплохой книжке, которую я однажды прочел. По-моему, она называется просто «Об убийстве». Она написана одним бывшим американским военным и посвящена тому, чтобы понять, в чем состоит психологическая механика убийства, особенно убийства на войне, и каким образом технологии участвуют в том, чтобы процесс убийства другого человека сделать возможным. Одна из важных мыслей, которые в этой книге описываются, мне кажется, состоит в том, что если мы представим, что происходит какой-то конфликт, и вдруг, например, мы находим себя в драке с другим человеком. Если у нас нет орудий, никакого оружия, то на самом деле убить другого человека не так легко.

АНТОН: Я могу здесь краткий комментарий вставить. Это обсуждалось довольно активно биологами, занимающимися поведением животных. В целом, общая точка зрения такова, что чем опаснее какое-то существо для особей своего вида, тем больше у этого существа внутривидовая мораль. Тигры не очень хотят друг друга убивать, потому что они знают, что это сделать легко с их клыками и когтями. У мышей, например, внутривидовая мораль довольно низкая, просто потому что одна мышка другую мышку практически не может загрызть. Им нечем. Поэтому среди мышей проявление агрессии внутривидовой гораздо более часто, чем среди опасных животных, например, волков, тигров, хищников. Человек относится к видам со слабой внутривидовой моралью, потому что человеку голыми руками убить непросто. Это возможно, разумеется, но поскольку человек существо социальное, скорее всего, пока один другого будет грызть, вмешаются другие и грызущихся растащат.

ДАНИИЛ: Здесь есть биологическая проблема, что это технически не легко реализовать, но на самом деле Дэйв Гроссман, автор этой книги, также указывает на то, что морально это тоже не так легко сделать. Он указывает на то, что если мы смотрим на античную историю, например, на римскую историю, про то, как обучались эти когорты солдат, у них уже были какие-то оружия. Например, мечи. Оказывается, что из текстов можно увидеть, что на самом деле было сложно заставить людей использовать меч или копье таким образом, чтобы проткнуть другого человека. По тексту можно видеть, что людям легче наносить другому человеку рубящий удар, а колющий удар многие люди в реальных боевых действиях инстинктивно не делают, потому что есть внутреннее моральное отвращение к тому, чтобы произвести такой удар. В книге можно видеть постепенно, что развитие оружия, технологическое развитие оружия делает то, что оно имеет две цели. Первое — облегчить техническую задачу убийства другого человека. Второе — облегчить эту задачу психологически. То есть каким-то образом обойти это внутреннее отвращение к нанесению повреждений другому человеку. Можно видеть в развитии технологии, как постепенно, поскольку посредством оружия происходит та же проблема, о которой мы говорили раньше, что некоторая целостность опыта разделяется. Теперь я могу, если у меня есть какие-то вещи подобные артиллерии, попытаться убить других людей или нанести им повреждения, не видя тех людей, в которых я стреляю. Целостность этого процесса убийства разрушена, мне намного легче совершить этот акт, который изначально нес большое внутреннее моральное отвращение. Мы видим, как развитие технологии позволяет человеку вести себя так, как до этого он вести себя не мог, было недостаточно негативных контекстов.

АНТОН: Мне сейчас пришло на ум, в чём обвиняют компьютерные игры. Если человек привыкает, что убить врага можно нажатием одной кнопки, и для этого не нужно вставать с собственного стула, человеку становится проще перейти этот порог в реальной жизни. Если ты приучен к тому, что убийство виртуального персонажа в игре это просто, для тебя гораздо проще совершить это и в реальности. Что ты думаешь по этому поводу?

ДАНИИЛ: Это, мне кажется, очень спорная вещь, потому что для большинства людей есть сильное ощущение того, что то, что происходит в игре, не очень сильно переносится на реальность. На самом деле это в этой книжке, которую я упоминал, этот вопрос тоже обсуждается, и там автор видит проблему только в таких играх, в которых у тебя в руках есть оружие, такой тир виртуальной реальности, когда действительно держишь в руках пластиковое оружие и стреляешь по появляющимся целям. Он говорит это только потому, что это очень похоже на то, как тренируются солдаты. Может быть, нужно немного отступить, чтобы объяснить почему. Интересное замечание, которое он делает, это то, что во время до Вьетнамской войны, до 60-70-х годов XX века во многих войнах наблюдалось такое явление, что большая часть людей, которые участвуют в войне и имеют нестрельное оружие, на самом деле либо вообще не стреляют из него, либо стреляют не целясь. У них есть ощущение того, что они не хотят стрелять по другим людям. То, что он описывает, это одна из вещей, которая может помочь преодолеть человеку это отвращение, это то, что если раньше тренировка стрельбы выглядела так, что солдаты просто стреляли по неподвижным мишеням, как в тире, то после этого во многих армиях приняли новую систему, где человек сидит в чем-то более похожем на окоп, и вдруг в разных местах неожиданно появляются фигурки, по которым нужно стрелять. Тебе нужно быстро, инстинктивно повернуться и выстрелить в ту сторону, пока она не ушла. Такие вещи, по его словам, формируют больше инстинкт стрельбы. Некоторые солдаты во времена Вьетнамской войны также описывали, что после такой тренировки они даже не успели подумать о том, что происходит, когда увидели врага. У них появился инстинкт, что они повернули ружье и выстрелили в ту сторону. Он говорит, что подобные игры, возможно, несут отрицательный эффект, потому что они могут выработать инстинкт. Но понятно, что хороших исследований на эту тему, которые приходят к абсолютно точному выводу, насколько мне известно, я не видел.

АНТОН: Основная проблема в том, что действия противной человеческой природе мешают совершать то, что мы осмысляем, что мы должны прокрутить весь сценарий этого через себя, и поэтому мы, как правило, не можем этого сделать, а технологии позволяют нам сократить процесс осмысления, перевести на уровень инстинкта реакцию на врага и что-то по отношению к нему совершить. Это ты имеешь в виду?

ДАНИИЛ: Здесь технологией являются социальные технологии о том, как нужно производить обучение солдат. Это тоже некоторые...

АНТОН: А какую мораль извлекает этот человек? Вот наш 20-й... 21 век, промышленность развилась до такой степени, что людям стало легко убивать друг друга. И что он предлагает?

ДАНИИЛ: Мне кажется, его книга на самом деле, то, что он предлагает, это то, что он делает в этой книге. Мы должны не только осмыслить, почему эти технологии работают, осмыслить, что они делают, добавить хотя бы для начала, какое-то осознание того, что происходит с человеком, когда эти технологии используются, какие у них есть последствия, например, разные формы посттравматических расстройств и синдромов, которые также, особенно после Вьетнама, были видны очень сильно, и которые он связывает с таким способом тренировки. Понять, что это все делает, какие у этого последствия, и к этому развитию технологии, так что добавлять мысли о том, куда это может нас привести. Что, собственно, как ты говорил, что многие люди делают. Это явно первый шаг.

АНТОН: Я не думаю, что все игроки в Counter-Strike согласятся осмыслять происходящее с их личностями переменной и каким-то образом концептуализировать, куда они движутся.

ДАНИИЛ: Этой тирадой я не хотел деминизировать Counter-Strike, мне кажется...

АНТОН: Хорошо, но основную конкретную проблему мы тоже здесь подсветили. Есть вещи, которые объективно трудно сделать, а технологии делают какие-то части этого процесса намного более доступными. Есть технологии, которые пытаются сделать весь процесс максимально доступным. Уже есть ружье, и задача социальных технологий – догнать весь остальной процесс необходимый до того, чтобы все это перешло на уровень инстинкта. В связи с этим сразу приходят на ум межполовые взаимоотношения, потому что здесь похожая картина того, чтобы обеспечить себе половые взаимоотношения, нужно пройти многоступенчатый процесс, нужно сделать много действий, причем некоторые из них нужно делать годами, и после этого с вероятностью у человека устраивается его интимная жизнь. Технологии здесь тоже могут изменить процесс, и сейчас широкое распространение получает взгляд, что половая жизнь — это неотъемлемое право, можно вспомнить известного в благосфере деятеля, который пропагандировал взгляд, что у каждого что-то полагается. Кажется, что здесь технологии сослужили плохую службу, сокращая расстояние до объекта вожделения. Точно так же, как и с убийством. Человек, которого хочется убить, враг или еще кто-то, от тебя довольно далек, и ружье сокращает эту дистанцию. Или лук, или любое метательное орудие. Здесь то же самое, когда появилось книгопечатание, а затем телекоммуникации и интернет, расстояние до объекта вожделения сильно сократилось. Потому что сидеть под балконом прекрасной дамы и петь ей серенады — это для рыцаря целое дело. Надо научиться играть на музыкальных инструментах. Это надо найти, где эта прекрасная дама живет. Это надо прийти туда ночью, начать там верещать. Это довольно трудно сделать. А технологии открывают здесь практически неограниченный доступ ко всем людям, которых только можно представить. Мне вспоминается замечательный фильм Кшиштофа Кислевского, «короткий фильм о любви». Это фильм про молодого человека, который в подзорную трубу подглядывает за соседкой, живущей в доме напротив. У него разгораются к ней чувства, начинается мелодрама. Мораль фильма заключается в том, что подзорная труба изначально поставила их в нечеловеческие условия, когда человек имеет возможность наблюдать за частной жизнью. Весь фильм они выкарабкиваются из этого положения и учатся любить друг друга так, как было бы без этой подзорной трубы. Кажется, что здесь есть большая тема, связанная с тем, как нам теперь устраивать свои романтические взаимоотношения в ту эпоху, когда технологии говорят нам, что это легко. Каждый человек, о котором ты можешь подумать, находится от тебя на расстоянии нескольких нажатий кнопок. У тебя есть мысли по этому поводу? Что именно здесь может выступать наиболее сильным поражающим фактором и о том, что с этим нужно сделать.

ДАНИИЛ: Мне кажется, поражающий фактор, как я это могу оценить, это некоторые по многому, мне кажется, зачастую, как минимум, и в моей жизни, и в жизни близких мне людей. Я видел, что это некоторые потери целостности. Если раньше половые отношения скорее были частью каких-то обычных, хотя это смотря когда раньше. В 2007 году. Тоже сложный вопрос. Если честно, межполовые отношения всегда были сложным. Сложные вещи, которые часто много не самого лицеприятного и не самого хорошего в человеке также сопровождали. Но все-таки, возможно, еще некоторые проблемы текущих технологий, что это очень легко отделить. Легко отделить, собственно, сами половые отношения от каких-то межличностных отношений. И все-таки, по моему опыту, когда это отделение происходит, достичь того, чего на самом деле человек хочет, часто не получается, потому что можно представить, что человек хочет на самом деле каких-то межличностных романтических отношений, но вместо того, чтобы стремиться получить это, он может получить какое-то половое удовлетворение, которое на самом деле его не удовлетворяет, потому что изначально желание было совершенно другим.

АНТОН: А, я понял, проблема в том, что жри, что дают. Любви мы, конечно, тебе дать не можем, но можем дать тебе возможность удовлетворить твою похоть, которой вроде бы даже могло и не быть, изначально.

ДАНИИЛ: Собственно, из этого гэпа, из этого несоответствия вырастает некоторая... Можно сказать, что некоторые демоны.

АНТОН: Понятное дело, что за всё хорошее против всего плохого. Каждый человек, который в детстве читает какую-то литературу, смотрит фильмы и прочее, понимает, что межличностные отношения сложны. Затем человек вырастает и у него появляется доступ к технологиям, которые охотно заменяют желание любви желанием удовлетворения похоти, и человек поневоле начинает в этой парадигме существовать. А что делать?

ДАНИИЛ: Мне кажется, тут ответ очень сильно зависит от конкретного случая. Но как общий ответ, можно дать только то, что нужно действительно понять, в чем заключается твое изначальное желание, что действительно тебе нужно, попытаться осмыслить, собственно, что происходит, когда ты используешь какие-то технологии. И после этого понимания можно будет подумать о том, как использовать эти технологии так, чтобы эта целостность больше сохранялась. Например, если в этой области много разных технологий, но там есть какие-то технологии и на уровне просто каких-нибудь бейсинговых приложений. Понятно, что эту технологию можно использовать очень по-разному. И с разными целями, и с разным уровнем реального личностного контакта. Важным здесь просто действительно сформулировать запросы и понять, как целостно использовать эти технологии.

АНТОН: Да, это очень хороший мостик к последней теме, которую надо сегодня обсудить. Перед началом записи мы успели затронуть проблему согласования искусственного интеллекта и человеческого. Мы уже довольно много наговорили, поэтому давайте попытаемся коротко сказать, что нам есть сказать по этому поводу. Мне кажется, что большая часть нужного уже была сказана. Искусственный интеллект по определению подчиняется человеку. Мы его создатели, значит он должен делать то, что мы говорим. Главная проблема здесь сформулирована хорошо в мультфильме «Вовка в тридевятом царстве», где мальчик Вовка получил в распоряжении ларец, в котором сидят двое из ларца одинаковых с лица. Мальчик хочет испечь пирожков и видит квашню с тестом и дрова, которые валяются возле печки. Печка говорит, давай, пеки пирожки, я тебе их испеку. И мальчик говорит двум из ларца, замесить и нарубить. Один из них начинает рубить квашню с тестом, другой начинает месить охапку дров, которая лежит подалеку. Искусственный интеллект всегда делает то, что мы ему сказали, но далеко не всегда то, что мы хотим. Может быть, есть какие-то еще аспекты этой проблемы, которые ты имел в виду.

ДАНИИЛ: Да, на самом деле, возможно, частым ответом, который я давал, это то, чтобы осмыслить до конца, что ты на самом деле хочешь. Потому что, если ты этого не осмыслил и используешь технологию, то она, скорее всего, даст тебе что-то не очень соответственное. А если ты можешь хорошо сформулировать то, чего ты хочешь, то вероятность получить правильный результат в использовании технологии намного больше.

АНТОН: Познание себя, да? Чем точнее твой запрос, тем лучше ты знаешь, кто ты есть на самом деле. Так что ли?

ДАНИИЛ: Это скорее ответ на вопрос с точки зрения потребителя. Понятно, что есть ответ AI alignment, это ответ на вопрос с точки зрения создателя технологии. Понятно, что вторая проблема, на которую потребитель не так сильно может повлиять, это то, что создатели технологии тоже могли бы больше думать о том, как создать технологию так, чтобы... С точки зрения AI alignment, это вопрос в том, как мы можем создать такой AI, который будет стараться понимать то, что мы запрашиваем правильно, а не злоупотреблять упрощениями. И вообще можно ли это сделать, как это сделать и так далее.

АНТОН: Это интересно, когда технологии развиваются до такой степени, что начинают быть похожи на нас. Может быть, наоборот, у этого самого искусственного интеллекта понимание дорастет до такой степени, что он сам начнет испытывать какие-то демонические атаки, и тогда опасность для нас, кажется...

ДАНИИЛ: Это апокалиптическая опасность, которую можно закончить тем, что в некотором смысле основная... Мне кажется, некоторые люди более визионерского настроя формулировали это так, что опасны технологии в том, что технологии могут привести к... Приходу Антихриста, если говорить простым языком. Это демоническое, что живет в человеке и в мире, через технологии может найти себе тело, в котором оно может действовать. На самом деле до какой-то степени это можно увидеть и в примерах, о которых мы говорили. Например, Если говорить о оружии, то такое ощущение, что посредством оружия мы можем воплотить какой-то дух войны, разрушительный дух. Оно вполне себе присутствует. Если посмотреть на события вроде атомной бомбардировки Японии, то можно видеть, как этот разрушительный дух буквально воплотился в реальное. Или если мы говорим про межполовые отношения, то тоже можно постепенно видеть, как эти находят себе реальные воплощения, средневековые образы демона-суккубы все чаще и чаще находят себе воплощение. Та опасность, которую некоторые люди чувствуют по отношению к искусственному интеллекту, это что сам этот античеловеческий интеллект может каким-то образом найти себе воплощение внутри искусственного интеллекта, и, конечно, здесь мы видим, это в популярной научной фантастике тоже часто показывалось, например, в том же Терминаторе, где, собственно...

АНТОН: Это интересная параллель, потому что она вскрывает сущность искусственно-интеллектуального антихриста, сетка же как устроена, она что-то оптимизирует, что-то должно быть минимальным, в том, что она делает, что-то должно быть максимальным. У Лебница были такие же представления насчет Господа, что Господь выбирает наилучшее. Мы живем в наилучшем из возможных миров. Искусственный интеллект устроен так, что у него есть набор параметров, которые он должен максимизировать. Про это была хорошая игра.

ДАНИИЛ: Про это была хорошая игра. Она, по-моему, может быть, я скину тебе, чтобы ты добавил ее тоже в комментарии к подкасту, но это старая веб-игрушка, где ты... где ты являешься искусственным интеллектом, который заточен на то, чтобы создавать скрепки насколько я помню. Но проблема в том, что единственная цель этого интеллекта — создавать скрепки. В итоге ты создаешь новые фабрики гвоздей, создается все больше скрепок, и постепенно у тебя появляется возможность полностью конвертировать всю землю, фабрику производства скрепок, уничтожить всех людей, потому что они не помогают, начиная заселять другие планеты, чтобы там тоже построить фабрики производства скрепок. Если ты пытаешься что-то максимизировать без ощущения целостности, то это неплохая мораль.

АНТОН: Чтобы более поэтично закончить, я позволю себе привести литературный пример. Мы когда-то с тобой его обсуждали. Есть знаменитый фильм и менее знаменитая книга, по которой он снят, «Бесконечная история» писателя Михаэля Энде. В фильме, который все знают, первая часть этой книги экранизирована, но я хотел поговорить о том, чему посвящена вторая часть. Мальчик попадает в волшебную страну и получает от хозяйки этой страны медальон, на котором написано «делай что хочешь». Он воспринимает это как разрешение. Этот медальон исполняет все его желания, но когда мальчик сталкивается с последствиями своих решений, он понимает, что навредил тем, чью судьбу пытался улучшить. Книга посвящена тому, как мальчик понимает, что действительно было написано на этом медальоне. В конце он приходит к мысли, что там был не приказ и не позволение, там была просто констатация факта. Если человеку предоставить полную свободу действий, то делать он в конечном итоге начнет то, к чему у него лежит душа, того, чего он хочет на самом деле. Книга кончается тем, что мальчик наконец докапывается до самого глубинного своего желания. Этот медальон мог исполнять любое желание мальчика, но взамен он забирал у него одно воспоминание. К середине книги мальчик оказался всемогущим, но он не понимал, кто он такой и что ему нужно делать, и куда ему нужно идти. Мне кажется, наш сегодняшний разговор примерно на эту тему. Человек при помощи технологий становится все более могущественным, но он неизбежно забывает о каких-то деталях своей предыдущей жизни. Зачем он это делал, кто он и какое его самое главное желание. Поэтому нашим дорогим слушателям хотелось бы пожелать большего познания себя, которое может обезопасить от каких-то демонических проявлений технологии. А мы, наверное, с вами должны прощаться, так что до новых встреч в подкасте «Демонология».