Доклад Р.Р. Белялетдинова «Freedom to Fall и оцифрованная (биоулучшенная) мораль: проблема выбора будущего»

19 сентября в рамках научного семинара «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий» с докладом «Freedom to Fall и оцифрованная (биоулучшенная) мораль: проблема выбора будущего» выступил кандидат философских наук и старший научный сотрудник РАН Роман Рифатович Белялетдинов. Здесь мы публикуем краткий отчет прошедшей встречи.

Идея морального биоулучшения возникла в связи с тем, что в нейробиологии появились такие концепции, которые стали определять материальные, натурализованные нейропроцессы, которые формируют поведение. Эта идея впоследствии стала активно развиваться философами-утилитаристами, в первую очередь австралийским биоэтиком Джулианом Савулеску и не которыми другими (Ингмар Перссон, Алан Агар). Они выдвинули концепцию, по которой необходимо использовать все достижения нейробиологии для того, чтобы бороться с коллективными угрозами, возникающими перед человечеством, в частности в техногенной цивилизации.

         Ученые нейробиологи изучали нейропептид окситоцин на примере живых организмов, предшествующих млекопитающим. Тогда они обнаружили, что функцией окситоцина было «оцепенение» (во время влияния внешних факторов, приводящих к агрессии, панике, страху живого организма). Позднее ученые обнаружили корреляцию между действием гормона и социальными связями (например, парное поведение мышей полевок) у высших животных, в том числе человека. Окситоцин, выбрасываемый организмом, в прямом смысле управляет поведением высших животных, заставляя их принимать решения исходя из интересов малой группы, в которой они состоят. Скелет этой концепции состоит в том, что сама эта поведенческая модель находится «под» интеллектом. Это означает, что не только интеллект принимает решения исходя из формального мышления, но и эмоциональность играет большую роль. Это своего рода модель «стимул-реакция» - если существует конфликт, выход из группы или любая другая триггерная ситуация, это вызывает отторжение на уровне гормонов. Дефицит гормона приводит, например, к ощущению чувства вины. Это натолкнуло исследователей на мысль, что в модели, где человеку нужно отреагировать на моральную дилемму, они действуют не исходя из этических соображений, а исходя из их эмоционального фона, испытывая симпатию, раздражение или другие чувства, вызванные гормонами. Таким образом, мы получаем систему, которая 1) Существует в человеке априори; 2) Влияет на его поведение; 3) Некоторым образом может быть отрегулирована.

         Принято выделять несколько биоэтических подходов, конкурирующих между друг другом и представляющих вопрос о биоулучшении совершенно по-разному. Первая концепция, принадлежащая Алену Бьюкенену, представляет критический подход к идее биоулучшения, аргументируя свою критику невозможностью установления объективного мерила «более морального» или «менее морального» выбора. Утилитаристский подход, с точки зрения этой концепции, не позволяет количественно рассчитать уровень «моральности» того или иного поступка. Это связано с тем, что внутри вопроса о моральном биоулучшении существует более глубокий уровень – уровень принципов, непреодолимых установок, которые формируют отношения между людьми (например, справедливость, честность, уважение частной собственности). Эти установки часто могут вступать в конфликт с сохранением или приумножением утилитарного блага. Ключевая опасность идеи морального биоулучшения по Бьюкенену – это разрыв связи между эмоциональным уровнем принятия решений и теми самыми деонтологическими принципами, которыми руководствуются люди без вмешательства в «моральную конституцию». Отсюда следует появление (и разрыв) двух «видов» людей – «обычные» люди и их «биоулучшенные» версии. Второй вид начнет строить между собой такой тип отношений, построенный на основании моральных максим, которые людям первого типа будут попросту непонятны. Это приведет к разлому коммуникации – проблеме, которая в биоэтических кругах на данный момент считается неразрешимой.

         Второе направление дискуссий – полемика между Джоном Харрисоном и Джулианом Савулеску. Оно связано с введением идеи «божественной машины». В одной из своих статей Савулеску предложил рассмотреть мысленный эксперимент, в котором технологии достигли такого уровня развития, которое привело к созданию искусственного интеллекта, способного просчитывать и делать заключения в отношении очень большого числа событий. С другой стороны, в ходе мысленного эксперимента возникает нейробиологическая возможность моментально отслеживать проявления агрессии, склонности к насилию и других видов маргинального поведения. Далее, по мысли Савулеску, «божественная машина», фиксирующая такого рода «отклоняющиеся от нормы» побуждения у человека, тут же задействует механизм «стирания» подобных желаний, тем самым предотвращая саму возможность человека поступать в соответствии с этими «нежелательными желаниями». Благодаря этому механизму, должно возникнуть своего рода идеальное общество, где все действия человека контролирует искусственный интеллект, отвечающий за моральное поведение людей. При этом действующие субъекты будут думать, что принимают решения сами, не зная о том, что их действия руководствуются априорным языком морали искусственного интеллекта, что исключает всякую возможность свободного действия. Здесь, естественно, встает проблема свободы воли – свободы субъекта принимать решения исходя из собственных соображения «подлинно». Концепция «Freedom to fall», которую Харрис берет из литературы, представляет собой «право на грехопадение», рассматриваемое автором, как фундаментальная особенность человеческого самосознания. Ее уничтожение, по мнению Харриса, приведет к неисправимому вреду для человечества.

         Третий виток дискуссий по вопросам морального биоулучшения связан с именем сербского философа Воина Ракича и его английского оппонента Харриса Вайзмана. Ракич является последовательным сторонником биоулучшения и считает, что оно может быть как добровольным, так и принудительным. Он интерпретирует человека сквозь призму сциентистского подхода, как механизм, пригодный для усовершенствования. В свою очередь, Вайзман придерживается совершенно противоположной точки зрения, считая, что этические концепты слишком не универсальны, чтобы пытаться создать унифицированную этическую систему, на которой могла бы базироваться модель морального биоулучшения. Для Вайзмана такой моделью хранения всех этических кодов является культура и именно на нее он призывает опираться в попытках решения сложных моральных дилемм. Дискуссия Ракича и Вайзмана закончилась признанием трудности, связанной с эволюцией человека, в ходе которой проблематизируется его приверженность к действию в малых группах. Поскольку люди исторически боролись за выживание и отстаивали интересы в числе небольших групп, это поведение закрепилось и является основополагающим до сих пор. Эта особенность становится препятствием в построении коллективной системы действия. Помимо этого, гормон окситоцин, с которого началось наше обсуждение, наряду с функцией привязки к близким членам малой группы, обладает функцией установления неприязни к чужакам (ксенофобия).

         Таким образом, исследования показывают, что автономия реализуется не только, как стремление сознательно признать некоторый порядок действий, а затем применить его, но и как групповое поведение, связанное с нейробиологическими триггерами, которыми можно управлять в том числе с помощью искусственного интеллекта. Тем не менее, не стоит списывать все на однозначные механизмы, присущие всем нам эволюционно, ведь существуют такие феномены как аномалии инклюзии – такие ситуации в истории, когда возникает включенность чужака в некоторое сообщество (например, движение аболюционизма), влекущее за собой полное изменение привычного жизненного строя. Это служит примером позитивной моральной эволюции без применения искусственного морального биоулучшения. Однако, какова цена такой моральной эволюции?