Доклад Т. О. Проволович «Искусственный интеллект как инструмент манипулирования поведением»
25 апреля под эгидой семинара «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий» состоялся доклад Т. О. Проволович «Искусственный интеллект как инструмент манипулирования поведением». Публикуем краткий отчёт по содержанию доклада.
Первые исследования манипулирования потребительским поведением связаны с экономикой. Существует множество маркетинговых исследований и исследований дизайна — как дизайнерам так преподносить продукт потребителю, чтобы продукт был привлекательным и чтобы подтолкнуть потребителя к выбору того или иного способа потребления данного продукта. Но всё больше и больше появляется исследований того, что техники манипуляции поведением затрагивают не только поведение потребительское и манипулирование только потребительским поведением, но и манипулирование, которое наблюдаются уже в политической сфере, то есть перенос практик из сугубо экономической сферы в более широкую социальную сферу и в политическое поведение людей в том или ином обществе.
Проблема ставится уже достаточно давно. Она уходит корнями в определение того, как мы понимаем, кто такой экономический агент. Если мейнстримная экономика предполагает принцип рациональности экономических агентов, то есть предполагает, что экономический агент всегда стремится к максимизации выгоды и поэтому принимает те или иные решения, обоснованные тем, что он постоянно стремится к выгоде, то где-то с конца XX века начали появляться новые подходы, которые пытаются показать ограниченность экономической рациональности экономического агента или даже примеры иррациональности экономического агента. Что понимается под иррациональностью?
Пример одного из экспериментов, который проводил Дэн Ариэли. У потребителя был выбор между тремя видами покупки. Можно было купить онлайн версию журнала за 59 долларов, можно было купить за 125 печатную версию и можно также было купить за 125 долларов и печатную, и онлайн версию. Приводится статистика, что вариант просто печатной версии не купил ни один из студентов, электронную версию купили 16 студентов и 84 студента купили совместную подписку. Последний вариант ответа как будто бы предоставляет максимальную выгоду потребителю, поскольку потребитель получает как печатную, так и онлайн версию, при этом не доплачивая ту разницу, которая есть между печатной версией.
Второй эксперимент был связан с тем, что есть два варианта ответа. Есть онлайн версия за 59 долларов. И есть третий вариант, где печатная и онлайн версия 125 долларов, то есть был убран второй вариант, где просто печатная версия без онлайн версии. Участники эксперимента поменяли своё решение. Если изначально они выбирали подписку на печатную и онлайн версию, то в дальнейшем они стали выбирать исключительно онлайн-версию.
Ариэли предполагает, что это поведение иррационально по той простой причине, что не оно соотносится с максимизацией выгоды и не осмыслено. Проблема в том, что он не предлагает объяснение того, что такое рациональное и противоположное ему рациональное осознанное поведение. И поэтому он делает, вывод что подача выбора потребителю трёх вариантов ответа уже толкает его на выбор какого-то конкретного варианта. Сама манипуляция кроется в не в том, что предлагается и по какой стоимости, а как преподносится информация о том товаре и той услуге, которые может приобрести потребитель.
Есть новая область исследования поведенческий дизайн — комплекс упрощённых методик, заимствованных из разных поведенческих наук, направленный на то, чтобы изменять привычки и работать над собственным поведением. Важно акцентировать внимание на том, что поведенческие науки прекрасно понимают, что автоматическое бессознательное поведение и есть сознательное неавтоматическое, когда мы попытаемся осмыслить, почему мы делаем то или иное действие. И, к сожалению, поведенческий дизайн упускает эту сознательность и упускает рассмотрение рационального способа принятия решения, рационального, сознательного и осмысленного. И его интересуют только сами привычки и автоматические действия, основанные на предыдущем опыте.
Поведенческий дизайн работает только с той частью бессознательности, которая является следствием предыдущего научения. Очень важно, что поведенческий дизайн пытается показать, как закрепляется тот или иной способ принятия решения, как он становится автоматическим и как люди по привычке делают те или иные действия и как нам менять эти привычки. Несмотря на то, что некоторые исследования по поведенческому дизайну носят не совсем научный характер, а больше научно-популярный, всё-таки они опираются на научные исследования, в большей степени на нейробиологические исследования по закреплению на нейрофизиологическом уровне вот этих привычек.
Как вырабатывается привычка, как это подразумевает поведенческий дизайн? Сначала у нас есть что-то, что привлекает наше внимание, а дальше после привлечения внимания нам надо как-то сделать так, чтобы потребитель захотел то, что мы ему продемонстрировали. После того, как у него появилось желание, он должен сделать какое-то действие по удовлетворению этого желания. Постепенно, после выполнения раз за разом тех или иных действий, появляется привычка, поскольку каждый раз должны быть подкрепление и награда.
Исследование 2005 года в MIT проводилось на крысах. Классический эксперимент заключается в том, что сначала крысу заставляли выполнять какие-то действия с подкреплением, потом подкрепление убирали, смотрели, как она перестала выполнять те или иные действия. То есть она могла менять траекторию действия, но в результате всё равно получалось подкрепление. Суть заключается в том, что самое главное — чтобы закрепить конечный результат, то как принимается решение. Здесь, конечно же, нельзя говорить о переносе результатов эксперимента с крыс на людей, поскольку здесь проблема кроется не в последнем этапе, то есть не в награде, не в привычке, не в том, как бессознательно она функционирует, а в том, как мы её закрепляем. Закрепление происходит на сознательном уровне. То есть человек когда-то изначально принимает решение поступить так или иначе. Он изначально принимает решение, он каким-то образом это обосновывает внутри своей структуры ментального. И уже потом, поскольку каждый раз не нужно обоснование, он потом продолжает делать те или иные постоянные действия, уже не задумываясь об этом.
В этом смысле пример с крысами хороший, но не совсем важный для исследования поведения человека. Поведенческий дизайн работает с привычками. Привычки — бессознательный способ принятия решений, когда не включается работа сознания. Поведенческий дизайн предлагает воздействовать на привычку, чтобы её менять. Многие пишут, что изменения достаточно сложные, что у человека вырабатывается такой механизм и это такое подкрепление, что даже сознательно это достаточно тяжело. Но обратите внимание, что только сознательная работа, только последовательное осмысление того, как привычка формировалась, позволяет нам изменить её или попытаться её устранить. Несмотря на то, что они упускают сознательность формирования привычки, на этапе, когда мы хотим её изменить или устранить эту привычку, нам опять нужно сознание для того, чтобы понять как сознательно она когда-то выработалась. Нам постоянно нужно работать с рациональным и осмысленным способом принятия решения, даже если он когда-то стал автоматическим.
Причём здесь искусственный интеллект? В двадцатом году был проведён эксперимент, когда людям предлагали определённую компьютерную симуляцию. Изначально этот выбор строился на том, что надо было выбрать квадратики слева и справа, и тут очень важно, что этот выбор всегда строился с обратной связью, то есть было какое-то подкрепление. То, что мы сейчас у крыс видели. Здесь есть определённый злоумышленник, который при помощи обратной связи или подкрепления пытается сподвигнуть человека субъекта или агента к тому или иному поведению для того, чтобы постепенно это поведение стало привычкой, то есть бессознательным, и потом агент уже постоянно, уже даже может не имея подкрепления, выполнял те или иные действия.
В этом эксперименте было три этапа. Первый этап — это самое простое с квадратиками. Последний этап был связан с инвестициями. Агентам предлагалась некоторая сумма, несколько центов или долларов, и предлагалось выбрать, во что инвестировать. И с помощью технологии пытались их принудить инвестировать в те или иные способы, которые выгодны для "злоумышленника". Это важно, потому что вот это исследование было построено на том, что субъекты не однотипные, учитывается, что люди вообще-то все разные, люди по-разному принимают решения, поэтому эта искусственная симуляция была построена на обучении того, как принимаются решения.
Было показано, что способ принятия решения очень сложный. Есть несколько разных состязательных процессов внутри человека, который принимает решения и достаточно сложно обучить как искусственную систему, имеется в виду искусственный интеллект, так и самого человека. Почему принимается то или иное решение, что воздействует, какой фактор является определяющим? Пока это зачатки этих исследований. Мы прекрасно понимаем, что когда искусственный интеллект пытается чему-то научиться, необходимо большое количество постоянно проводящихся экспериментов. Недостаточно какого-то маленького количества исследований, в котором участвует небольшое количество испытуемых.
Пандемия привела к очень серьёзному росту капитализации цифровых компаний, таких как Amazon, и они всё больше выделяет средств на то, чтобы исследовать как экономический агент принимает решения и там способам манипуляции достаточно большое количество начиная от Facebook* кончая Amazon, который подталкивает принимать решения о покупке. Сначала нужно привлечь внимание к продукту, чтобы он был уникальным. Мы пытаемся привлечь сознательное внимание клиента, чтобы он каким-то образом зацепился за данный продукт. Что очень важно, поведенческий дизайн и вот эти искусные способы манипуляции построены на том, что постоянно нужно концентрироваться дизайнерам, которые создают тот или иной цифровой продукт, на том как можно воздействовать именно на поведение, то есть как можно принудить человека сделать то или иное действие — смахнуть приложение, нажать кнопку о покупке, просто открыть какой-то сайт. Там показано много разных способов, как цифровые компании нас заставляют делать те или иные действия.
Очень важно, что концепция поведенческого дизайна строится на том, что мы пытаемся привлечь внимание не только к самому продукту, но и к способу подачи, как он упакован, как он преподносится. Всё имеет значение. Нам нужно привлечь внимание клиента всеми силами и не только каким-то уникальным проявлением продукта, а чем угодно. Современные исследования рациональности агента показывают, что факторов очень много. Нет такого, чтобы мы сказали, что все экономические агенты стремятся к максимизации прибыли и поэтому нам надо только так воздействовать. Агенты разные, культуры разные, социальные среды разные, поэтому нам необходимо попытаться воздействовать всеми возможными средствами, чтобы привлечь клиента и заставить его сделать то или иное действие.
Этот акцент на том, что современные исследования по поведению человека, по экономическому потреблению, по политическому манипулированию строятся только на синтезе разных моделей и теоретических конструкций из разных областей. Монокаузальный подход не дает возможности построить реалистичные модели экономического агента, поведения и так далее, а то с чем сейчас работает поведенческая экономика — это уже достаточно проработанные области, в частности в психологии. Пренебрегая психологическими исследованиями, экономическая теория очень много теряет.
Следующий важный аспект, опять же в контексте развития современной нейробиологии, это социальное манипулирование. Очень важно в понимании принятия решением человека, что он принимает решение не в изолированности, опять же не исходя из максимизации какой-то абстрактной выгоды, а исходя в первую очередь из каких-то своих личностных установок, а второе - исходя из той социальной реальности, в которой он живёт. Современные исследования как Ариэли, так того же Войчека, вообще современные исследования ограниченной рациональности и иррациональности экономического агента в меньшей степени или вообще не учитывают социального контекста. Как правило, социальный контекст очень тяжело формализуется в какую-то математическую модель. А если нет математической модели, тогда невозможно встроить способ объяснения в мейнстримную экономику. Тогда конструкция признается нежизнеспособной, ненаучной и так далее.
Очень важно, что даже современный поведенческий дизайн не показывает, что всё-таки социальная среда, будь то реальная, будь то искусственная, оказывает очень серьёзное влияние на способ принятия решения, на способ того, почему мы действуем так или иначе. Теперь про три способа, три типа поведения поведенческих продуктов, то есть как мы можем создавать какие-либо продукты в экономике, чтобы стимулировать поведение. Если мы хотим создать такие поведенческие продукты, нам надо изменить поведение, чтобы ценность продукта для пользователя приобрела значение. Необходимо, чтобы пользователь мог извлекать для себя какую-то выгоду из продукта и какую-то ценность. Вот это очень важно. Выгода уходит на какой-то второстепенный план, а для принципа рациональности она имеет определяющее значение, и здесь выходит на первый план проблема ценности. И последний третий аспект, который выделяется отдельно, что потребитель-пользователь может не знать, что и как повлияло на то, как он принял решение. Опять же, всё крутится вокруг бессознательности. Третий аспект показывает, что способ манипулирования сознательным поведением, когда мы привлекаем внимание и предлагаем человеку задуматься о том, нужно ли ему или не нужно сделать определённые действия для получения того или иного товара или услуги, отличается от способа воздействия, если это какая-то привычка или рефлекторное действие значит. Но в данном случае не подразумевается какая-то злонамеренный, то есть здесь нет обмана и лжи. Здесь мы делаем что-то невидимое для потребителя, чтобы склонить его к тому или иному типу поведения.
Структура ментальности связана не только индивидуально-психологическими качествами, но и с закреплёнными через опыт социальными характеристиками, поскольку субъект формируется в процессе социализации в какой-то социальной среде, и то, как среда закрепилась в его ментальном мире, тоже имеет значение. Здесь важно учитывать не только сугубо субъективные квалитативные качества, но и такие социальные. поскольку современные современные исследования этому посвящены. Но к сожалению поведенческий дизайн опять скатывается в бессознательность, в то, что всё это иррациональное, что не человек принимает решение, что не не нужно никаких волевых, сознательных усилий для того, чтобы принять решение и его закрепить, в дальнейшем манипулировать. Утрата и не фиксация на том, что сознание это очень важный компонент в структуре личности человека, что от того, как функционирует сознание, зависит и бессознательное, а значит если зависит бессознательное, значит то, как мы пытаемся бессознательным. Такая сложная цепочка — от сознания зависит бессознательное, а тогда, если мы хотим воздействовать на бессознательное, надо понимать, как это сознательное закрепилось, как она стала бессознательным.
Есть теория нейронного глобального рабочего пространства, которая больше касается объяснения сознания. Деан, французский нейробиолог, со своей группой исследователей провел эксперимент по поводу того, как разные стимулы, которые поступают, в данном случае зрительные стимулы, как они активизируют разные области мозга, и на каком этапе стимул начинает осознаваться и возбуждать сознание. Они вывели пороговые значения — чтобы стимул возбудил сознание, необходимо, чтобы его длительность была больше 300 миллисекунд. Если продолжительность зрительного сигнала менее 300 миллисекунд, тогда стимул поступает, сигнал поступает, человек не понимает и не чувствует, что он что-либо видел. Минимальная нейробиологическая активность и человек говорит, будто он ничего не видел, но всё-таки мы понимаем, что мозг "что-то увидел". На самом деле это бессознательность — это ключевая база идеологической бессознательности. Мы дали стимул, мозг его воспринял, человек не знает, что его феноменальной компонент не почувствовал, но стимул поступил, ведь каким-то образом он оказал воздействие на нейробиологическую структуру. Если предполагаемая картинка — это стимул более 300 миллисекунд, тогда информация от затылочной зоны, зрительной зоны переходит в другие отделы мозга и начинается активизация смежных областей в дальнейшем всей нейронной сети, и человек начинает осознавать, ему кажется, что он там о чём-то думает, видит, слышит и так далее. Это кстати к вопросу об эксперименте Либета, кто принимает решение. Здесь очень важно понять скорость принятия решений в нейробиологической структуре и того, как передаётся информация между разными отделами.
Второй тип бессознательности более точно артикулирует Либерман. У него есть несколько статей, он один из родоначальников и пионеров социально-когнитивной нейробиологии. Он пытается исследовать, как сигналы, как сознательные способы принятия решения становятся бессознательными — не в смысле неосознаваемыми, а автоматическими. Он исследовал. Он исследовал интуитивное мышление, вот это всё крутится вокруг одного и того же предметного поля. Он предлагает различать бессознательное, рефлекторное и рефлексивные состояния, которые есть у человека в поведении. Важный вывод экспериментов Либета, что они рефлекторные, поскольку когда-то были рефлексивными, то есть когда-то были сознательными. Когда-то человек принимал решение, и на нейрофизиологическом уровне мы видим, что изначально сознательное решение, рефлексивно-осмысленное каким-то образом зафиксировав в тех или иных областях мозга. Однотипные действия в разных культурах закрепляются в разных зонах мозга. Эти исследования строились на анализе американцев и китайцев — конечно, исследования пока не репрезентативные, там очень маленькая выборка испытуемых. Уже важно понимание того, что социальный контекст важен, что социальная реальность закрепляется сначала в сознании человека, то есть каким-то образом через осмысление она становится интуитивной и рефлекторной. То есть она там например какие-то социальные действия которые мы привыкли делать когда-то были закреплены с помощью сознания в структуре ментального у человека.
Ещё одна работа, которая пытается каким-то образом объяснить связь и способы принятия решения, это Уайброу — психотерапевт, психоаналитик. Он пытается показать, как можно перенести данные нейробиологические на поведение экономического агента. Мы действительно можем размышлять о мотивах продавца и способах достижения желаемой цели, но чаще всего мы принимаем решение рефлекторно и интуитивно — вот эту терминологию он берёт либермана — под воздействием настройки на поведение окружающих и закреплённых в памяти шаблонов, сформированных за долгие годы рыночного опыта. Очень важно, что социальный опыт является определяющим — способ закрепления и через исследование социальной реальности может быть мы можем понять, как субъекты принимают решение в данном контексте и тогда может быть мы можем каким-то образом воздействовать или не воздействовать в данном случае уже не только на потребительское поведение, но например на принятие политических решений и каких-либо ещё. Главный вывод заключается в том, что способы закрепления социальной реальности очень важные и необходимо их учитывать.
Чтобы определить, что есть какая-то социальная среда, что даже если искусственный, если это искусственная система, она всё равно создает социальную реальность в тот момент, когда мы говорим о том, что каждый агент взаимодействия является моральным агентом. Он может принять решение, у него есть возможность совершать какие-то действия, связанные как с необходимостью и возможностью выбора, то есть он может выбирать, как в тех или иных решениях поступить.
В исследованиях искусственного интеллекта разграничение на рефлекторные и рефлексивные действия может быть перенесено и на то, как мы делим агентов. Например, у Марианы Анатольевны Шестаковой в сборнике конференции, которая проходила в 2016 году, есть разделение на реактивных и интеллектуальных агентов. Реактивные — те, которые принимают решение рефлекторно и действуют автоматически, не подключая сознание. Интеллектуальные агенты — те, которые подключают сознание. В данном случае мы делим агентов, но на самом деле даже конкретно человек может находиться в двух этих состояний. Если он в данной ситуации находится в состоянии интеллектуального агента, тогда мы должны воздействовать на сознательные способы принятия решения, когда мы должны так ему преподносить способ принятия решения, так его уговаривать, чтобы способы выстраивания цепочки казался ему привлекательным, чтобы он согласился с тем, что он принял решение, не на автомате, а включая сознание.
*Реализация соц. сети Facebook запрещена на территории России по основаниям осуществления экстремистской деятельности.