В своей книге «Республика» Платон, комментируя упадок морали в своем городе, сравнил общество с кораблем, у которого моряки потеряли карту, и горизонт для них перестал быть различимым. Если перенести эту метафору в XXI век, мы окажемся на корабле, плывущем с помощью ядерных двигателей и невероятных кремниевых чипов, но все еще бросающем нас в серую бездну без морального компаса, что дезориентирует наш мир и разрушает его общественные нормы. В связи с этим я вспоминаю название своей статьи, опубликованной около трех лет назад, под названием «Искусственный интеллект – не разум», вдохновленной криком Абдуллы аль-Кусайми в его книге «Мир – не разум»; и сегодня я повторяю эту мысль во весь голос: мир не морален.
Вероятно, тот, кто знаком с историей человечества, осознает, что конфликт между принципом и выгодой уходит корнями в глубокую древность; от резни в Афинах между афинянами и спартанцами до войн Средневековья, где крестоносцы повесили баннер «Крестом победим» и провозгласили лозунг «Это воля Господа»; чтобы оправдать свой крестовый поход в Иерусалим и творить зло на земле во имя религии; чтобы человечество завершило свою борьбу в нашу цифровую эпоху, добавив к этому темному наследию слой, который трудно воспринимать чувственно, – «этическую автоматизацию», которая превращает убийство и предвзятость в процесс нажатия кнопки или обучения алгоритма строкой кода и большими данными. Когда сионистское образование запускает беспилотник над землей, населенной безоружными гражданскими лицами, его указания смертоносному беспилотнику и его алгоритмам исходят из аморальных предпосылок; чтобы пронзить своим беспилотником синеву неба и сравнять безопасные дома с землей, этот парадокс показывает то, что польский социолог Зигмунт Бауман назвал «текучей современностью»; где насилие превращается в электронные импульсы, затуманивающие зрение от серьезности последствий.
В эпоху «Amazon» и «Alibaba» человек классифицируется в таблицах «анализа поведения клиентов» в соответствии с новизной, частотой покупок и их RFM-значением (Recency Frequency, Monetary); свобода в словаре рынка – это всего лишь «право выбора» между тысячей похожих товаров, в то время как желание управляется программным обеспечением психологического прогнозирования, которое расчленяет наш неосознанный разум на хранилище данных. Подобно тому, как американский бихевиорист Джон Кэлхун превратил своих подопытных мышей (Universe 25) в ленивых потребительских существ, прежде чем их среда рухнула; так и экономика платформ превращает людей в потребителей без корней и ценностного горизонта. Вспоминается то, что сказал Джордж Оруэлл в своем романе «1984»: «Кто контролирует прошлое, тот контролирует будущее. Кто контролирует настоящее, тот контролирует прошлое»; он намекал на удаление правды и замену ее официальным повествованием. И наш мир сегодня идет еще дальше; правда сама по себе больше не является чем-то, что следует удалять, а чем-то, чем манипулируют до исчезновения. Группа из Массачусетского технологического института отслеживала разрыв в распространении фейковых новостей по сравнению с реальными новостями на платформе «X» в период с 2006 по 2017 год, проанализировав около 126 000 публикаций 3 миллионами пользователей, и обнаружила, что фейковые новости репостятся на 70% чаще, чем реальные, и фейковые новости достигают 1500 пользователей в 6 раз быстрее, чем реальные новости достигают того же числа. Поскольку человеческий мозг создан для поиска последовательности, публика примет теорию заговора, если она больше соответствует ее опасениям, даже если ее доказательства неоднократно опровергались.
Стив Джобс представил смартфон, который для многих стал «инструментом жизни», и вдруг этот инструмент превращается в комнату зеркал, в которой человек смотрит только на себя, измененного «фильтрами» платформ социальных сетей. Донна Харауэй в своем «Манифесте киборга» 1985 года предсказала рождение гибридного существа, выходящего за рамки бинарностей, и описала «киборга» как постмодернистское и постчеловеческое существо, не принадлежащее к модели фиксированной идентичности, но пересекающееся с технологической, биологической и политической реальностью. Но сегодня есть опасения, что гибрид превзойдет саму суть своей человечности, и достаточно взглянуть на отчеты Amnesty International о прогностических полицейских алгоритмах, нацеленных на районы проживания меньшинств, или на скандал с Cambridge Analytica, который показал, как формируется общественное мнение; чтобы повлиять на коллективный разум и его ориентацию. Следовательно, автоматизация вместо того, чтобы освободить нас от тяжелой работы, может привести нас к новому познавательному рабству, управляемому языком «Python», а не цепями и кнутами.
Иммануил Кант в своей книге «Критика практического разума» предвидел, что мораль исходит не извне, а из внутреннего голоса, который он назвал «совестью», и это то, что мы понимаем из его знаменитой фразы: «Две вещи наполняют разум изумлением: звездное небо надо мной и нравственный закон внутри меня». Задача нашей эпохи – заглушить цифровой шум вокруг нас, чтобы снова услышать этот голос, а затем спросить: какова ценность победы, если мы потеряем себя? Какова ценность интеллекта, если отсутствует сочувствие? Какова ценность правды, если она стала инструментом для продажи иллюзий? На пороге 2026 года человечество принимает облик технологического гиганта с глиняными ногами, планируя туристические поездки на Марс, но не способного вселить надежду в лагеря перемещенных лиц на Земле, и тратит триллионы на торговлю квотами на выбросы углерода; для борьбы с глобальным потеплением и его уменьшения, в то время как оно забывает о детях, умирающих от жажды, голода и убийств в Газе. С каждым обновлением операционной системы наших телефонов обновляется и операционная система нашего разума с помощью нового программного обеспечения для упрощения.
Несмотря на моральный распад, который мы наблюдаем в нашем современном мире, мы – мусульмане – не застрахованы от этого глобального морального краха; возможно, мы стали его самой открытой сердцевиной не потому, что нашей религии не хватает моральной системы, а потому, что мы – в болезненном парадоксе – оставили суть этой системы и остались в плену ее скорлупы. Аяты Корана подробно описывают компас великой морали, тем самым закладывая моральные принципы, которые сохраняют права и достоинство человека и ставят человека на его место как человека, прежде чем он будет описан своей принадлежностью, но то, что мы видим сегодня на многих наших религиозных аренах, отражает эти принципы только в его знаменах; дискурс превратился из призыва к милосердию в инструменты мобилизации, а из призыва к единству – в инструменты сортировки и поляризации, и религия в некоторых своих аспектах стала сухими лозунгами, которые фрагментируют мораль, разжигают ненависть и иногда придают убийству легитимный религиозный оттенок; поэтому мы видим разрыв между откровением и поведением, между провозглашенными ценностями и реальной практикой, раскрывая двойное внутреннее поражение, которое заключается в поражении в сознании и поражении в совести; вместо того, чтобы быть дверью к добру, призыв – через некоторые из своих цифровых платформ – превратился в трибуны для сектантской накачки и морального обмана, и нам нужно лишь внимательно взглянуть на реальность современных платформ; чтобы осознать этот скользкий путь.
Так осмелимся ли мы признать – как Сократ признался перед афинским судом – свое моральное невежество? И хватит ли у нас смелости перестроить мир на основе «человечности человека», а не на прибылях промышленно-цифровых комплексов? Вопрос не ждет теоретического ответа, но фактически проявляется в политике, которая перераспределяет заботу, в образовании, которое развивает мудрость, и в алгоритмах, которые воспитываются на сострадании, как и на эффективности, и пока этого не произойдет, мир со всеми своими блестящими огнями останется миром не моральным, и свободное перо продолжит протестовать, чтобы сказать это – снова и снова – возможно, признание – это первый шаг к спасению.
Д-р Муаммар бин Али ат-Туби, оманский ученый и исследователь