Доклад Мирко Фарина «Mind Embedded or Extended: Transhumanist and Posthumanist Reflections in Support of the Extended Mind Thesis»
8 февраля Мирко Фарина, профессор Университета Иннополиса (Казань), выступил с докладом «Mind Embedded or Extended: Transhumanist and Posthumanist Reflections in Support of the Extended Mind Thesis».
(English version below)
Профессор Фарина считает, что текущие дебаты о расширенном (extended) и встроенном (embedded) разуме зашли в тупик. Единственный способ выйти из тупика — отказаться от метафизических соображений. Мирко Фарина выступает за умеренный постгуманизм в поддержку ЕМТ (extended mind thesis). Он считает тезис расширенного разума предпочтительным по сравнению с тезисом встроенного разума по этическим и социальным причинам.
Существует давняя традиция, которая определяет людей в первую очередь через их способность создавать инструменты и активно с ними работать. Латинская фраза «Homo faber suae quisque fortunae» описывает наш вид как вид творцов инструментов и своей собственной судьбы. Эта идея была движущей силой итальянского Возрождения (Фичино, Мирандола, Леонардо). Во время научной революции от этой идеи быстро отказались, но она не совсем умерла. В XX веке Бергсон (1907) определил (человеческий) интеллект как «способность создавать искусственные объекты, особенно инструменты для изготовления других инструментов, и бесконечно их изменять». Арендт (2013/1950) говорила о homo faber как об «ремесленнике мира», идеалы которого заключаются в создании «постоянства, стабильности и долговечности». Однако она считала, что простое инструментальное господство наносит ущерб целостности человеческого общества. Фриш (1959/1957) поддержал это понимание и даже написал роман об этой концепции под названием «Homo faber». В своей книге "Opera aperta" (1989/1962) Эко трактует homo faber как проявление врожденного бытия человека в природе. Стиглер (1998) совсем недавно предложил описание человеческой жизни как «эпифилогенетическое», подчеркнув, как люди постоянно полагаются на расширения органов тела, чтобы выживать и процветать. Дон Иде (1990) утверждал, что созданные человеком артефакты или инструменты способны вступать в «симбиотические» отношения с человеческим телом.
Эта возможность инструментов вступать в симбиотическое партнерство с людьми поднимает важный вопрос о расположении границ разума. Ограничен ли разум организмом человека (embedded mind view), или они могут выходить за пределы организма, включая окружающую среду как составную часть механизма, реализующего познание (extended mind view)? Расширенный разум — это точка зрения, согласно которой психические состояния и когнитивные процессы могут быть реализованы, по крайней мере частично, структурами и процессами, расположенными за пределами человеческой головы. Другими словами, тело и окружающая среда могут вносить существенный вклад в механизм человеческого познания. В основе ЕМТ (тезис расширенного разума) лежат три направления исследований: первое основано на функционализме, второе — на комплементарности, третье исследует прогностическое кодирование и выступает за расширенное сознание — куда более радикальное требование, чем расширенный разум. Тезис встроенного разума гласит, что когнитивные процессы могут неожиданным образом быть зависимыми от ресурсов окружающей среды, но когнитивные системы всё равно ограничены самим организмом. Когнитивные процессы в лучшем случае включают в себя телесные преобразования ментальных представлений. Тезис встроенного разума способен устранить многие недостатки, характерные для традиционных интракраниалистских представлений о познании, без необходимости заходить так далеко, как заходит ЕМТ.
Теперь похоже, что мы зашли в тупик между ЕМТ и тезисом встроенного разума. Сторонники ЕМТ указывают на (1) пластичность схемы тела — ощущение растянутого тела можно рассматривать как показатель локализации когнитивных процессов человека в бимодальных нейронах; они также говорят, что (2) инкорпорирование и прозрачность в использовании могут быть истолкованы как аргумент в поддержку идеи когнитивных расширений. Теоретики встроенного разума отвечают, что (1) реализаторы соответствующего опыта и когнитивного состояния всё равно находится внутри головы (назовем это теорией эмулятора), в то время как (2) мы можем выйти за пределы сознательного планирования и преднамеренной подачи двигательных команд, но это не означает, что мы буквально теряем всякое осознавание внешних предметов как отдельных от своего тела.
Таким образом, определение истинности любой из этих теорий на основе метафизических соображений, вероятно, невозможно и, честно говоря, бесполезно. Невозможно, потому что сторонники этих теорий подходят к проблеме с несоизмеримых точек зрения. Бесполезно, потому что лучше всего мы строим наше объяснение познания, тестируя и исследуя самые отдаленные уголки нашего концептуального пространства, а не общие метафизические вопросы. Мы должны поступать так, как поступают ученые-естественнонаучники, которым их прагматичный подход позволяет двигаться вперед. Как только мы примем такой подход, метафизические проблемы исчезнут из рассматриваемого нами спора.
Мирко Фарина утверждает, что ЕМТ предпочтительнее с социальной и этической точки зрения, чем тезис встроенного разума. Для доказательства этого он обращается к идее постгуманизма и трансгуманизма. Постгуманизм даёт новое определение тому, что значит быть человеком, в то время как трансгуманизм активно пропагандирует технологические улучшения человека. Постгуманисты подчеркивают биологические и эволюционные корни социального поведения, а также наше сходство с другими видами, тогда как трансгуманисты рассматривают возможность технологического расширения человечества и продвигают формы гибридизации между естественным и искусственным, которые помогут нам ускорить нашу культурную эволюцию.
Среди недавних трактовок темы «киборг-человечества» и ее связи с постгуманизмом в литературе — книги Туитт-Бейтс («Кибернетические самости», 2012 г.), Алькарас («Являются ли киборги личностями?», 2020 г.) и Фуллера («Ницшеанские размышления», 2021 г.). Независимо от различий между этими двумя взглядами (расширенный и встроенный разум), мы можем быть уверены, что технологические достижения окажут глубокое влияние на природу человека. Стив Фуллер (2011) утверждает, что «люди — это божества в процессе своего становления, которым суждено искупить свое падшее состояние с помощью современной науки и технологий». Ник Бостром (2008) считает, что инкорпорирование технологий полезно для нашего вида, потому что оно изменит его к лучшему.
Так как же посттрансгуманизм связан с расширенным разумом? Профессор Мирко Фарина использует пост- и трансгуманистические соображения, чтобы доказать, что ЕМТ социально и этически более желателен, чем встроенный разум. Энди Кларк (2003) отметил, что люди уникальны в своей способности пластически перестраивать свое тело и включать инструменты в свой когнитивный репертуар. Технологии, по словам Кларка, «полагаются на поразительно пластичную природу нашего мозга и напрямую используют ее. Наш разум настроен на поиск и использование небиологических ресурсов, чтобы мы действительно думали и чувствовали с помощью лучших из доступных нам технологий».
Кроме того, биотехнологические "союзы" развиваются со скоростью, невиданной ранее в истории человечества. Грань между человеком и технологией, которую он использует, становится все тоньше день ото дня. «Этот двойной удар со стороны пластичного мозга и все более чувствительных и хорошо приспособленных инструментов создает беспрецедентную возможность для еще более тесного слияния человека и машины» (Кларк, 2003). Крайне важно, считает Кларк, что такое слияние совершенно естественно и идет на пользу нашему виду. Таким образом, идея киборгизации имеет важные социальные, культурные и даже моральные последствия.
Главной угрозой для человечества является изменение климата. Несмотря на некоторый прогресс в этом вопросе, люди не желают менять свой образ жизни на благо других. Существует разрыв между тем, что мы на самом деле делаем, и тем, что мы могли бы делать с моральной точки зрения, даже несмотря на то, что мы более моральны, чем наши предки (например, рабство было почти повсеместно отменено, но все еще существует в мире). Перссон и Сваулеску («Непригодные для будущего», 2012) предложили определить основные этические ценности (такие как альтруизм и чувство справедливости) и утверждать ценностное поведение за счет технологий и биомедицинских средств. Таким образом мы сможем распространять нашу нравственную заботу на будущее.
Однако мы также можем улучшить наше познание. Технологии (например, Интернет) могут сделать нас умнее (Clark, 2008; Clowes, 2013). Связка человек + инструмент образует новую единицу когнитивного анализа, расширяющую наши возможности. Если технологические инструменты могут повысить наши этические ценности и когнитивные способности, то они могут способствовать укреплению личности человека до такой степени, что любое нарушение внешнего инструмента может рассматриваться как атака на личность (Carter and Palermos, 2016). Тем не менее, интеграция технологических элементов может также привести к большей социальной терпимости. Несомненно, что многие люди страдают от серьезного вреда (экзистенциального риска) из-за отсутствия моральных соображений. Чтобы предотвратить возникновение таких экзистенциальных рисков, мы могли бы усилить нашу моральную предрасположенность и сделать приоритетной стратегию расширения круга моральной заботы человечества. Идея расширения морального круга, конечно, не нова. Если мы признаем, что человек может когнитивно и морально расширять себя различными способами благодаря технологиям, то распространение когнитивных расширений увеличит разнообразие нашего морального круга и постепенно заставит нас принять его.
Расширение морального круга могло бы:
а. способствовать развитию эффективного альтруизма (Singer, 2015);
б. способствовать развитию более широкого чувства справедливости (Persson & Savulescu, 2012);
в. или рассматриваться как средство решения «текущих моральных катастроф» (Williams, 2015), за которые нас могут критиковать будущие поколения (сексизм, расизм, пытки и жестокое обращение с животными).
Профессор Мирко Фарина отметил, что некоторые тенденции в трансгуманизме, предвещающие полномасштабный технологический переход, рискуют разжечь формы сильного шовинизма и дискриминации. Можно сказать, что наивный оптимизм в отношении когнитивных расширений неуместен в нашем сегодняшнем переплетенном сетевом мире. Индивидуумы не взаимодействуют с инструментами в гордом одиночестве. Они отдают больше контроля над своей умственной (и физической) жизнью, чем осознают. Риск корпоративного/государственного «вторжения в сознание» (mind invasion) может быть нежелательной, неэтичной, темной стороной индивидуального расширения разума (см. книгу Зубофф «Эпоха наблюдательного капитализма»).
Профессор Мирко Фарина выступил за умеренный вариант пост/трансгуманизм в пользу тезиса EMТ. Такая версия постгуманизма могла бы ограничить антропоцентрические проявления доминирования/дискриминации разного рода (мужчины над женщинами, западные народы над прочими народами, люди над другими животными). Кроме того, умеренный постгуманизм можно рассматривать как форму пост-эксклюзивизма, который рассматривает технологии и гибридизацию как инструменты эмансипации и противодействия дискриминации. Таким образом, умеренный постгуманизм может способствовать выявлению инклюзивности и терпимости, лежащих в основе ЕМТ; следовательно, ЕМТ предпочтительнее теории встроенного разума.
On February 8, Prof. Mirko Farina (Innopolis University, Kazan) delivered a presentation "Embedded or extended mind: transhumanist and posthumanist reflections in support of the extended mind thesis." Professor Mirko Farina considers the current debate of extended vs embedded mind a stalemate. The only way of getting out of the stalemate is abandoning metaphysical considerations. Mirko Farina argues in favour of moderate posthumanism in support of EMT. He considers the extended mind thesis better than the embedded mind thesis for ethical and social reasons.
There is a long tradition that defines humans primarily by means of their ability to build tools and to actively operate with them. "Homo faber suae quisque fortunae" describes our species as a species of makers of instruments and of their own life. This idea was the driving force of the Italian Renaissance (Ficino, Mirandola, Leonardo). This idea was quickly dropped during the scientific revolution, however. But it didn't entirely die. In the 20th century, Bergson (1907) defined (human) intelligence as the "faculty to create artificial objects, in particular tools to make tools, and to indefinitely variate its makings". Arendt (2013/1950) talked about the homo faber as "the fabricator of the world", whose ideals lie in creating "permanence, stability, and durability". She thought, however, that mere instrumental domination is detrimental to the integrity of human society. Frisch (1959/1957) echoed this understanding and even wrote a novel about this concept, titled "Homo faber".
Later, in his "Open work" (1989/1962), Eco treats homo faber as a manifestation of man's innate being in nature. Stiegler (1998) — more recently — suggested a description of human life as "epiphylogenetic", highlighting how humans constantly rely on prosthetic supplementations to survive, prosper and thrive. Ihde (1990) famously argued that human artefacts or tools are capable of entering in "symbiotic" relationships with the human body. This possibility of tools entering into symbiotic partnerships with humans raises an important question concerning the location of the boundaries of the mind. Are the boundaries of the human mind confined to its organism (embedded view) or can they extend beyond the organism to include the environment as a constitutive part of the machinery that instantiates cognition (extended view)?
Let's start with the basics. Extended mind is the view that mental states and cognitive processes can be realized, at least in part, by structures and processes located outside of the human head. In other words, Body and Environment can constitutively contribute to the machinery of human cognition; with Glue and Trust serving as conditions for cognitive extension. There have been three strands of research underlying the EMT (extended mind thesis): the first wave is functionalist-based. The second wave is complementarity-based. The third wave explores predictive coding and argues for Extended Consciousness, a far more radical claim.
The embedded mind view says that cognitive processes can causally depend on environmental resources in unexpected ways, but cognitive systems are organismically bounded. Cognitive processes — at best — involve bodily transformations of mental representations. The embedded view is capable of addressing many of the shortcomings characterising traditional, intracranialist accounts of cognition without the need of going as far as the EMT goes.
Now it looks like we have reached the stalemate between the EMT and the embedded mind. Proponents of the EMT point at the (1) plasticity of the body schema — feeling of an extended body might be taken as an indicator of the location of human cognitive processing in bimodal neurons; they also say that (2) incorporation and transparency in use may be taken to support the idea of cognitive extensions. Embedded mind theorists reply that (1) the realiser of the relevant experience and of the cognitive state produced is still located inside the head (call it the emulator theory), while (2) we can transcend conscious planning and the deliberate issuing of motor commands, but it does not mean that we literally lose all awareness of external items as separate from one's body.
So establishing the validity of either of these theories on the bases of metaphysical considerations is (probably) impossible and (frankly) unhelpful. It is impossible because proponents of these theories approach the problem from incommensurable perspectives. It is unhelpful because we should rather build our best account of cognition by testing and exploring the most remote corners or dimensions of our conceptual space rather than general metaphysical issues. We should do like scientists do — pragmatic approach allows progress. Once we accept this, much of the metaphysical bite deflates out of the debate.
Mirko Farina argues that the EMT is socially and ethically preferable than embedded mind. Posthumanism reconsiders what it means to be human while transhumanism actively promotes human enhancements. Posthumanists emphasize the biological and evolutionary roots of social behaviour, as well as our commonalities with other species, whereas transhumanists look at the possibility of humanity's extension into technology and promote forms of hybridization between natural and artificial that help accelerating our cultural evolution.
Recent treatments of the "cyborg humanity" theme and its relation with posthumanism include: Thweatt-Bates ("Cyborg Selves", 2012), Alcaraz ("Are Cyborgs Persons?", 2020) and Fuller ("Nietzschean Meditations", 2021). Regardless of the differences between these two views (embedded and extended views), we can be sure that technological advancements will have a profound effect on the nature of human beings. Steven Fuller (2011) argued that "humans are deities in the making, destined to redeem their fallen state with the help of modern science and technology". Nick Bostrom (2008) claimed that incorporation is beneficial for our species because it will transform it for the better.
So how does post-transhumanism relate to the extended mind?Andy Clark (2003) noted that humans are unique in their capacity to plastically renegotiate their bodies and incorporate tools in their cognitive repertoire. Technology, according to Clark, "relies on and directly exploits our brains' astoundingly plastic nature. Our minds are primed to seek out and incorporate non-biological resources, so that we actually think and feel through our best technologies".
Furthermore, biotechnological unions are evolving at a speed never experienced before in human history. The line between the human and the technology that she uses grows thinner day by day. "This double whammy of plastic brains and increasingly responsive and well-fitted tools creates an unprecedented opportunity for ever-closer kinds of human-machine merger" (Clark, 2003). Crucially, Clark believes, such a merging is entirely natural and to the advantage of the individual involved. So, this idea of cyborgization has important social, cultural, and even moral implications.
Next, Mirko Farina used post- and transhumanist considerations to argue that the EMT is socially and ethically more desirable than the embedded mind view.
A major threat for humanity is climate change. Despite some progress on the issue, people are unwilling to change their lifestyle for the benefit of others. There is a gap between what we actually do and what we could do morally, even though we are better ethically inclined than our ancestors (e.g. slavery was almost everywhere abolished, but it still exists at some places in the world). Persson and Svaulescu ("Unfit for the Future", 2012) suggested the IDEA, which stands for Identify Basic Ethical vAlues (such as altruism and sense of justice) and boost them through technological coupling, essentially through biomedical means. In that way, we extend our moral concern into the future.
We can also boost cognition, though. Technology (such as the Internet) can make us smarter (Clark, 2008; Clowes 2013). The individual + the tool form a new unit of cognitive analysis, which enhances our capacities. If technological tools can boost our ethical values and cogntive capacities, then they can constitute an enhancement to a person's identity, to the point that any violation on the external tool may count as an extended personal assault (Carter and Palermos, 2016).
Yet, the integration of technological elements could also lead to greater societal tolerance. It is beyond doubt that many humans suffer serious harms (existential risks) due to a lack of moral consideration. To prevent such existential risks from arising, we could enhance our moral disposition and we could prioritize the strategy of expanding humanity's moral circle. The idea of expanding the moral circle is of course not new. If we accept that an individual can cognitively and morally extend herself in a variety of ways thanks to technology, then the diffusion of cognitive extensions would increase the diversity of our moral circle and gradually force us to accept it.
The extension of the moral circle could:
a. promote the development of effective altruism (Singer, 2015);
b. promote the development of a broader sense of justice (Persson and Savulescu, 2012);
c. or be considered a means of addressing "ongoing moral catastrophes" (Williams, 2015) — things that future generations may criticize us for (sexism, racism, torture, and animal cruelty).
Mirko Farina noted that some trends in transhumanism that herald a full-scale thechnological transition risk fueling forms of strong chauvininsm and discrimination. One could say that naive optimism about cognitive extension is ill-advised in the heavily networked world we live in today. Individuals do not interact in splendid isolation with the tool. By "plugging in", they give away more control over their mental (and physical) lives than they are aware. The risk of the corporate/government "mind invasion" might be the undesirable, unethical, dark side of individual mind extension (see Zuboff, "The Age of Surveillance Capitalism").
Mirko Farina argued for moderate post/trans-humanism for the EMT. Such a version of posthumanism could put limits to anthropocentric expressions of domination/discrimination of different kinds (men over women; Western peoples over other peoples; humans over other animals). In addition, moderate posthumanism could be seen as a form of post-exclusivism, which sees technology and hybridization as tools for emancipation and to counter discrimination. Moderate posthumanism could therefore contribute to bring out the inclusivity and tolerance underlying the EMT; hence making it preferable over the embedded mind theory.