Доклад М. А. Савиной «Применение искусственного интеллекта в психиатрии: проблемы и перспективы»
На базе семинара «Искусственный интеллект в мире людей» 25 марта 2022 г. Мария Александровна Савина, доктор медицинских наук, ведущий научный сотрудник НЦПЗ РАМН прочитала доклад "Применение искусственного интеллекта в психиатрии: проблемы и перспективы".
М. А. Савина начала своё выступление с ремарки, что сейчас мы находимся в критической точке четвёртой индустриальной эры после эры механики, электроники и интернета, получившей название "цифровая революция", которая характеризуется синтезом технологий. И ведущей такой технологией является искусственный интеллект, который был открыт в 1956 году. Многие сферы общества уже применяют его, но в медицине он встречается с осторожностью. Несмотря на очевидную обеспокоенность, искусственный интеллект всё чаще применяется — прежде всего, речь идет о раннем выявлении заболеваний, отслеживание прогрессирования заболеваний, нахождение новых лекарственных препаратов, подбор дозировки. Показано, что алгоритм искусственного интеллекта лучше оценивает патологические изменения, чем хорошо обученные специалисты, и обнаруживает изменения, невидимые человеческому глазу. Системы искусственного интеллекта все чаще используются для помощи в принятии клинических решений, также используется для определения трендов взаимосвязи, касающихся паттернов поведения человека.
Но в психиатрии есть очень много скептиков, которые сопротивляются введению данной технологии несмотря на множество ценных практических выводов. В частности, это касается применения ИИ в исследованиях биомаркеров. Существует большое количество заболеваний, которые имеют специфические генетические признаки. Искусственный интеллект вычисляет эти признаки очень хорошо, с точностью 90% можно выявить болезнь Альцгеймера, синдром гиперактивности и дефицита внимания, шизофрению и другие расстройства.
Как заметила М. А. Савина, в исследованиях биомаркеров при помощи ИИ существует несколько проблем. Первое, если работаем мы с помощью нейросетей, то необходима огромная база данных, и она требует сотрудничества разных стран для создания общих платформ, что в текущей исторической ситуации выглядит проблематично. Тем не менее, это насущная необходимость, потому что технологии искусственного интеллекта — это коммерческий продукт который должен быть использован для разных групп населения. Если он разрабатывался для определённой группы населения, то он не может использоваться в других странах, население которых не входило в выборку обучения. Мы знаем, что предвзятый отбор изначальных данных чреват ошибками. Автоматическое распознавание лиц, например, хуже работало у людей с тёмной кожей, особенно женщин. Вторая значимая проблема — это необходимость соблюдения прав правообладателей. В разных странах права принадлежат разным субъектам. В Америке и России это институты, которые берут биоматериал. В Европе права на биоматериал принадлежат людям, у которых их взяли. И велика вероятность того, что для заполнения базы искусственного интеллекта будут использоваться страны с менее развитой правовой базой.
М. А. Савина указала на важную проблему, которая возникает в нейронауках и психиатрии — нейродискриминацию. Это дискриминация на основе применения алгоритмов при анализе нейрональных факторов, нейрофакторов. Такой дискриминации могут подвергаться как отдельные индивидуумы, так и целые группы. Например, на основании признаков наличия когнитивного снижения прогрессирующего неврологического заболевания или каких-то признаков дизонтогенеза.
Второй сферой деятельности искусственного интеллекта является персонализированная психиатрия. Оптимисты, которые настаивают на применении алгоритмов искусственного интеллекта, подчёркивают, что применение алгоритмов сможет помочь подобрать адекватные методы лечения и дозировки препарата. Искусственный интеллект — это следование определённым алгоритмам при неограниченной базе данных. Тем не менее, искусственный интеллект не работает на нестандартных случаях. Именно ошибки при нестандартных случаях являются причиной недоверия врачей к алгоритмам искусственного интеллекта. И вторая причина — то, что алгоритмы работают в механизме чёрного ящика, и врач никогда не может понять, по каким причинам выбрано то или иное решение. С одной стороны, знания искусственного интеллекта технически безграничные и действительно более совершенны. Некоторые исследователи считают, что конечное решение должно быть за ним. Но другие исследователи говорят о возможных ошибках, и конечное решение принадлежит, по их мнению, врачу, поскольку врач несёт юридическую ответственность.
Но есть сферы, в которых, ИИ, безусловно выигрывает по отношению к мозгу человека. Это анализ различных функциональных параметров. Мы можем говорить о гормональных параметрах, функциональной МРТ. Например, по функциональному МРТ можно определить риск суицида, и человек здесь в любом случае не справится. Хотя люди, которые занимаются разработкой таких программ, говорят о том, что в настоящий момент мы начинаем видеть ограничение вычислительной нейровизуализации, и связано это с тем, что параметры в разных состояниях очень различны. Величина этой вариативности — это то, что традиционные технологии в действительности не могут охватить.
Цифровое психическое здоровье — важное направление, которое развивается более, чем в 15 институтах по всему миру. Оно позволяет с помощью технологии смартфона получить богатые мультимодальные данные о поведения человека в их динамике. Анализ может существенно улучшить классификация болезней и определить траекторию развития заболевания. Такой метод оказался эффективным для предсказания обострения биполярного расстройства, депрессии, зависимости, суицидального поведения. Так, например, исследователи обнаружили, что во время эпизодов мании люди печатают быстрее, а во время депрессии пишут более короткие сообщения. Вообще, большая часть работ, посвященная цифровому психическому здоровью, разработана для диагностики депрессии. В частности, в одной из таких работ осуществлялось интервьюирование с помощью робота людей, и были выявлены модели речи по её содержанию, тону голоса, скорости речи, даже почерку.
М. А. Савина упомянула этические проблемы внедрения цифрового психического здоровья, такие как возможное ограничение прав и свобод отдельных индивидуумов. Информация о психическом диагнозе, о наличии депрессии и мании, потенциально может более открытой для более широких слоев населения. И мы должны думать, как будут защищаться права психически больных. Если подобные оценки будут проводиться на основании сообщения в соцсетях или средствах массовой информации, нам необходимо помнить, что это всё контекст-зависимые вещи, и какая-то действительно накрученная эмоциями статья может показаться алгоритму депрессивной. Необходимо понимать, что подобные цифровые оценки имеют сугубо вторичный, предварительный характер, и что ведущее слово в диагностике принадлежит врачу. Наконец, возможна патологизация нормальных психологических реакций: например, реакции горя будут считать патологическими и депрессивными.
Как отметила М. А. Савина, психиатрия имеет крайне сложную историю. Во-первых, сам психиатрический диагноз не только придает человеку статус больного и обосновывает его просьбы о помощи, он является риском для предвзятого отношения других и удара по самооценке, может разрушить карьеру и служить поводом для исключения из общества. Психиатрический диагноз может быть ругательством. В СССР политические противники системы получали психиатрический диагноз и таким образом лишались свободы. В нацистской Германии психиатрический диагноз являлся поводом для физического уничтожения пациентов. Именно поэтому, имея такую историю, мы должны существенно осознавать проблемы дискриминации.
Ещё одна область искусственного интеллекта в психиатрии — замещение искусственным интеллектом врача. Существуют роботизированные интервьюеры, причём исследования показывают, что они вполне могут заменить человека, и оптимисты по применению искусственного интеллекта в психиатрии говорят о том, что он превосходит среднестатистического интервьюера. Существует когнитивно-поведенческие терапевты. КПТ основана на применении ряда алгоритмов, и эти алгоритмы легко может применять робот. Существует два варианта — либо робот применяет их самостоятельно, либо под супервизией врача-психолога, человека. Существуют социальные помощники и роботы для тренировки когнитивных функций. В настоящий момент эти роботы активно разрабатываются, и мы уже примерно представляем, как они будут выглядеть в будущем.
Исследования показывают, что люди более честны с компьютерами, чем с людьми. Хотя пессимисты, которым не нравится применение искусственного интеллекта в психиатрии, говорят о том, что это совсем не преимущество, и человеку иногда лучше скрывать что-то от своего интервьюера. Социальные помощники добились определенного успеха как в преодолении чувства одиночества и социальной изоляции, так и в борьбе с такими симптомами, как ажитация и тревога. Они увеличивают качество жизни — это показывают данные отдельных исследований. Вообще, эта вся область стимулируется тем, что психиатров в мире не хватает. И что большое количество групп пациентов, с которыми работают психиатры, трудны для контакта, и люди стараются их избегать. В связи с этим возникают этические аспекты применения робота.
У человека, которому дарят робота, может возникать чувство обмана и чувство превращения себя в объект. Может возникать привязанность к роботу и подмена общением с роботом всех других социальных контактов, хотя разработчики таких роботов ознакомлены с этой проблемой и клянутся, что они всячески способствуют нарастанию социальных контактов у человека. Возникает проблема необходимости хранения персональных данных. Наконец, могут быть побочные эффекты, хотя мы знаем о них крайне мало — дело в том, что хорошо построенных исследований в настоящий момент недостаточно.
М. А. Савина привела негативный пример применения такого мобильного интервьюера. Британская Национальная служба здравоохранения опробовала приложение для мобильного телефона для уменьшения нагрузки на домашних врачей. С помощью этого приложения пациенты должны были получить первичный диагноз, в случае лёгкого недомогания отказаться от посещения врача и воспользоваться домашними средствами. В действительности это привело к тому, что число консультаций с врачами только возросло.
В заключение М. А. Савина выразила уверенность, что искусственный интеллект может изменить саму психиатрию как теоретическую область, область, изучающую психические болезни. Исследования различных биомаркеров позволяют совершенствовать определения и наше понимание психических болезней, поскольку многие психические болезни — в том числе болезни мозга. Но главное здесь даже не биомаркеры, а осуществление биопсихосоциального подхода. Этот подход был предложен в восьмидесятые годы XX века, но до сих пор он никоим образом не находил применения. Дело в том, что для того, чтобы отследить все варианты социального и психологического состояния человека, нужны огромные базы данных, и человек тонул в этих базах данных и не справлялся с их анализом. Искусственный интеллект — это как раз то, что поможет применить биопсихосоциальный подход, и мы, возможно, будем иметь другие классификации, построенные с помощью нейрональных сетей.
Когда машина исследует человека, рациональное исследует иррациональное. Психическая болезнь — это классический пример главенства иррационального в психике человека. И если в случае столкновения врача и пациента врач может понять больного, поскольку иррациональное есть в его психике. У него есть подсознательное. Если каждый из нас проживал психоз дезорганизации в ранние свои младенческие годы и конструировал свою психику на этом психозе дезорганизации, то для машины психически неуравновешенное — это аномальное. И мы тут десакрализуем психическую болезнь, хотя она по сути дела является большой загадкой человеческой природы. Быть психически больным означает не просто потерю, неудачу. Это также возвращение к глубокому человеческому, к архаическому опыту и возможности общей для всех людей, говорят немецкие исследователи. Мы можем получить углубление тенденции к биологизации в психиатрии, и мы знаем, что это легко происходит, поскольку алгоритмы зависят от предубеждений его создателей. Может произойти редукция в значимости субъективного в человеке до осуществления правильного поведения. Может произойти медикализация социальных, культуральных и религиозных особенностей.
В 2020 году был проведён опрос психиатров 22 стран на тему, заменит ли искусственный интеллект психиатра. Все врачи отметили, что внедрение технологий ИИ в некоторой степени изменит их работу. Только 4% ответили, что лишатся из-за этого работы. 75% респондентов ответили, что искусственный интеллект освободит их ведения медицинских записей, что, безусловно, приветствуется. 33% посчитали, что когда-нибудь искусственный интеллект будет ежедневно оценивать статус пациента, и здесь мы замечаем эту тенденцию — психиатры отказываются от общения с психически больным, стремятся сократить этот контакт. И 17% пошли дальше — они предсказали, что искусственный интеллект будет осуществлять эмпатическую заботу о пациентах.
Подводя итог, М. А. Савина указала, что поскольку технологии ИИ продолжают улучшаться, они помогут специалистам в области душевного здоровья по-новому определить сущность психических болезней, более объективно, чем это сделал DSM-5, выявлять эти болезни на более ранних стадиях — это крайне важно в психиатрии — когда терапевтические воздействия наиболее эффективны; персонифицировать лечение на основе уникальных характеристик пациентов. Однако необходима осторожность, чтобы избежать предварительных сверхобобщающих результатов. Требуется дополнительная работа, чтобы возвести мосты через пробел, лежащий между исследованиями применения искусственного интеллекта и в клинической практике.