Доклад Е. В. Введенской «Цифровизация и роботизация в медицине: этические аспекты»
2 июня в рамках научного семинара «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий» был заслушан доклад Е. В. Введенской «Цифровизация и роботизация в медицине: этические аспекты». Команда семинара публикует краткое содержание доклада.
В последние 20 лет в мире отмечается бурный рост цифровизации, то есть интеграции цифровых технологий в повседневную жизнь путем оцифровки различных данных. К главным достижениям «цифровой революции» относится автономность и самообучаемость технологий.
Возникает «новая религия» - датаизм. Ее приверженцы считают, что люди не могут больше справляться с потоками данных, поэтому их обработку надо переложить на «умные» алгоритмы, которые являются гораздо более мощными, нежели человеческий мозг. В своей книге «Homo Deus» Юваль Харари пишет: «На практике это означает, что датаисты скептически относятся к человеческим знаниям и мудрости и предпочитают полагаться на Большие данные и компьютерные алгоритмы». В своем докладе Е.В. Введенская также опиралась на работу американского кардиолога Эрика Тополя «Искусственный интеллект в медицине», где автор пишет, что «с вероятностью 50 процентов ИИ превзойдет человека во всех отраслях через 45 лет, а автоматизация всех рабочих мест произойдет приблизительно через 120 лет». Пока мы находимся на уровне «Жизни 2.0». Сейчас мы можем в какой-то мере изменять свое «программное обеспечение», обучаясь новым сложным навыкам, но весьма ограничены в возможностях модифицировать биологическую «аппаратную часть». В скором времени, как считают ученые нас ждет «жизнь 3.0», в которой люди научатся проектировать «биологический хард» и «биологический софт» - то есть полностью модифицировать исходные качества человека.
Все более широкую популярность приобретает феномен цифрового здравоохранения. Оно представляет собой совокупность сервисов и гаджетов для дистанционного взаимодействия с врачом, а также для удаленного мониторинга жизненных показателей пациента. Сейчас цифровое здравоохранение развивается очень активно, учитывая условия пандемии. Пациенты все чаще прибегают к помощи телемедицины. Технологии цифровой медицины пользуются широким разнообразием инструментов: от наноботов и аппаратов 3-D печати до электронных медицинских карт, умных татуировок, и, конечно, технологий Big Data.
Под Большими Данными следует понимать большой объем, высокую скорость и/или большое разнообразие информационных активов, которые требуют экономически эффективных, инновационных форм обработки информации, позволяющих улучшить понимание, принятие решений и автоматизацию процессов. Системы, работающие с Big Data, являются уникальным инструментом в решении задач здравоохранения, поскольку позволяют проанализировать большой поток информации о пациентах, особенностях возникновения и протекания болезней, действии препаратов; составлять прогнозы возникновения эпидемий; определять более эффективные методы лечения и так далее.
Отдельное внимание в докладе было посвящено рассмотрению преимуществ и недостатков телемедицины. «Телемедицина — это метод предоставления услуг по медицинскому обслуживанию там, где расстояние является критическим фактором. Предоставление услуг осуществляется представителями всех медицинских специальностей с использованием информационно-коммуникационных технологий после получения информации, необходимой для диагностики, лечения и профилактики заболевания» [World Health Organization 1998]. К особенностям телемедицинских практик в России, в первую очередь, можно отнести то, что она ориентирована прежде всего на повторные визиты пациента к врачу, поскольку без первичного личного осмотра врач не имеет права ставить диагноз и назначить лечение. Однако, предполагается, что данные технологии будут развиваться и вскоре смогут заменить и первичный визит пациента к врачу, если пациенту будут доступны различные тесты для анализа состояния здоровья. Развитие новых технологий позволит осуществлять раннюю диагностику, создавать экспертные системы, основанные на больших и малых данных, которые в совокупности будут знать больше, чем врачи и позволят проводить персонализированный контроль здоровья на всех этапах жизни человека.
Телемедицина позволяет решить сразу несколько глобальных проблем здравоохранения: решение проблемы доступности медпомощи в отдаленных
деревнях и поселках; снижение затрат на здравоохранение; возможность оперативно получить необходимую консультацию родителям детей-инвалидов и тяжелобольным пациентам. Телемедицина предоставит врачам возможность работать удаленно и по совместительству, способствуя росту благосостояния медицинских работников благодаря оплате онлайн-консультаций как полноценной работы в поликлинике.
Тем не менее, телемедицина не избавлена от проблем. К ним относятся: возможные перебои при низком качестве интернет-связи в отдаленных регионах; плохое качество полученных от пациентов изображений, усложняющих диагностику заболевания; стресс у врачей из-за адаптации к новым условиям деятельности и из-за необходимости постоянно находиться
на связи со своими пациентами; исчезновение «живого» контакта между врачом и пациентом.
Еще одним глобальным недостатком выступает от факт, что до сих пор существует неопределенность ответственности за телемедицинские ошибки. Кто будет нести ответственность за неисправность телемедицинского сервиса или неправильный дистанционный диагноз: врач, разработчик программного
обеспечения, производитель информационных технологий, администратор сайта, оператор «облачных услуг» или провайдер? Отдельная ответственность за оказание телемедицинской консультации пока не прописана в отличие от классической консультации.
Говоря о растущей тенденции к применению телемедицинских практик, стоит обратить внимание, что большинство людей до сих пор предпочитает личное общение с врачами на дому дистанционным консультациям (исследование
разработчика системы взаимоотношения с клиентами (Salesforce). Несмотря на развитие телемедицины, почти 90% клиентов по всему миру заявили, что выбирают личные визиты врачей и 75% хотят, чтобы к ним на дом приходили специалисты по уходу. В то же время только 68% опрошенных сообщили, что в принципе не против опции медицинских онлайн-консультаций. 62% клиентов готовы пользоваться телемедициной для лечения физиологических заболеваний, но только 27% отметили, что готовы обратиться к мобильным
приложениям в случае психических заболеваний. Разница в предпочтениях зависит от возраста. Так, среди миллениалов (родившихся между 1980 и 1996 годом) онлайн-медицину выбирают 83% по сравнению менее чем с 50% в возрастной категории 1940-1960-х годов рождения.
Отдельным пунктом обсуждения является внедрение в цифровое здравоохранение систем искусственного интеллекта. Сегодня активно разрабатываются алгоритмы для помощи врачам при решении разнообразных задач: оценки вероятности осложнений заболеваний; удаленная первая медицинская помощь и сбор данных пациента; помощь в постановке диагнозов и назначение лечения; анализ данных тяжелобольных пациентов в режиме реального времени. Можно привести массу примеров успешного использования ИИ в медицине. Известен случай, когда когнитивный сервис диагностики IBM Watson выявил у 60-летней пациентки редкую форму лейкемии, изучив 20 миллионов научных статей о раке всего за 10 минут. Таким образом, ИИ позволяет уменьшить объем повседневных рутинных задач и значительно уменьшить количество врачебных ошибок.
Еще одним достойным внимания примером служит работа приложения Face2Gene. Оно создано с целью помощи в диагностике более 4 тысяч генетических нарушений, многие из которых очень трудно диагностировать. Например, диагностика синдрома Коффина-Сириса занимает у приложения несколько секунд, тогда как врачам на эту же процедуру ранее понадобилось 16 лет.
Однако, встает очевидный вопрос: может ли врач полностью полагаться на технологии искусственного интеллекта? У когнитивных систем возникают проблемы с качеством и объемом медицинской информации. Накопленные в медкартах пациентов данные могут быть неполными, содержать ошибки, неточности и нестандартные термины. В них недостаточно записей о жизни пациента, его привычках и поведении. Эффективных механизмов сбора этой информации пока попросту не существует.
К наиболее распространенным причинам неудач в системе принятия врачебных решений относятся следующие: ошибки в использовании программных библиотек; некачественно собранные медицинские данные; недостаточное количество данных или выборки данных для обучения алгоритма; нерепрезентативная выборка (не все данные, не по всем клиническим случаям оказались в дата-сете); ошибки в разработке программного продукта. Тем не менее, стоит также учитывать и неявные причины таких неудач. Это – искажение первичных медицинских знаний; когнитивные искажения; отсутствие знаний или недостоверные знания о предметной области; социальные искажения; предубеждения и предрассудки (гендерные, расовые); предвзятость; дискриминация; риск целенаправленного создания неэтичных алгоритмов. При использовании алгоритма в медицине есть вероятность диагностической ошибки. Она может возникнуть на первых двух этапах обнаружения и восприятия симптомов: распознавание ведущих проявлений и выявление решающих признаков болезни. Эта проблема носит название «Черный ящик». В алгоритме могут возникать ложные корреляционные зависимости и ошибки и, если система приняла неправильное решение, то невозможно найти ответ, почему. Так, например, эксперты-медики, работающие с суперкомпьютером Watson, обнаружили многочисленные примеры небезопасных и неправильных рекомендаций по лечению, которые он давал, используя программное обеспечение.
Конечно, все вышеперечисленные истории показывают, что существует ряд недостатков использования искусственного интеллекта в медицине. К ним можно отнести: нарушение права пациентов на частную жизнь и сохранение
конфиденциальности личных данных, обнародование врачебной тайны; данные из электронной карты доступны для страховой компании, которая повысит цену медицинского полиса и страхования жизни, если пациент не ведёт «здоровый» образ жизни и не выполняет все рекомендации врача по лечению; чрезмерная диагностика; доступ к медицинским данным соискателя. Отказ в трудоустройстве из-за наличия хронических болезней и/или генетической предрасположенности к определенным видам заболеваний; угроза дискриминации людей по физическим и генетическим характеристикам.
Самым актуальным пунктом обсуждения в настоящее время выступает вопрос об этических проблемах, связанных с использованием искусственного интеллекта в медицине. Совет по биоэтике Наффилда систематизировал этические проблемы использования ИИ в медицине, главные из которых: возможность когнитивных систем принимать ошибочные решения; неопределенность субъекта, который несет ответственность, когда ИИ используется для поддержки принятия решений; трудности в проверке выходных данных систем ИИ; качество данных, используемых для обучения систем ИИ; обеспечение защиты конфиденциальных данных; возможность использования ИИ в злонамеренных целях. Ключевой задачей создания «умных» алгоритмов в медицине, по мнению Совета по биоэтике Наффилда, будет обеспечение того, чтобы разработка и применение ИИ были транспарентны и совместимы с общественными интересами, в тоже время способствуя инновациям в этом секторе (Nuffield Council on Bioethics2018).
Тем не менее и эта сфера применения искусственного интеллекта в медицине не лишена трудностей. Комплекс проблем использования робототехнических систем в хирургии включает в себя: вероятность механических неисправностей; эмоциональную дистанцию между пациентом и хирургом; отсутствие взаимодействия между врачом и пациентом. Чем больше врачи будут полагаться на машины, освобождая себя от мыслительных и физических усилий, тем быстрее растеряют свои ценные навыки.
Животрепещущим все еще остается вопрос относится ли медицина к «территории машин»? В связи с дальнейшим развитием цифровизации и роботизации в сфере здравоохранения, можем ли мы утверждать, что медицина относится к категории «территория машин»? В статье Ф. Фоссена и А. Зогнер «Будущее труда: деструктивные и трансформационные эффекты цифровизации» отмечается, что на медицину цифровые технологии оказывают трансформирующее влияние, а не деструктивное. «Деструктивные эффекты выражаются в замещении человеческих ресурсов машинами, а трансформирующие — в повышении производительности труда людей». Профессии, относящиеся к «территории человека», слабо подвержены этим эффектам. Современная медицина относится одновременно к двум категориям: «территории машин» и «территории человека». К «территории машин» медицина относится в силу автоматизации многих процессов (контроля основных показателей работы организма, постановки диагноза, проведения робот-ассистированных операций). Трансформирующее влияние цифровизации подразумевает более тесное взаимодействие людей и машин. Однако, несмотря на масштабную трансформацию, врачебная деятельность вряд ли утратит востребованность, поскольку риск деструктивных эффектов для нее ниже среднего показателя.
Современная практика показывает, что все еще существует большой спрос на навыки, недоступные машинам, а именно: восприятие и манипулирование; творчество и социальный интеллект. Восприятие и манипулирование включает ловкость пальцев, ловкость рук (хотя данным навыком все лучше овладевают машины, в том числе роботы-хирурги) и способность работать в тесном пространстве и неудобном положении. Творческий интеллект — это способность предлагать оригинальные идеи в конкретной ситуации. Социальный интеллект базируется на социальной восприимчивости, умении договариваться, умении убеждать и заботе о других. Очевидно, что социальный интеллект подразумевает наличие эмпатии, способности объединять людей и преодолевать разногласия, умение убеждать других изменить свое мнение или поведение, а также оказание другим людям помощи, эмоциональной поддержки. Тем не менее, существует явная тенденция по смене парадигмы современной медицины. То, зачем люди обычно обращаются к врачам, — за установлением диагноза, назначением курса лечения, рецептом, проведением медицинских манипуляций, — все чаще будут выполнять машины, оставляя человеку совершенно другую роль
в отношениях врача и пациента. Освобождение врачей от непосильной задачи сопоставления огромного массива данных для диагностирования заболеваний, позволит им уделить больше внимания заботе о пациентах, то есть, проявить свои человеческие качества в полной мере. Известно, что успех лечения, на 60% зависит от доверия пациента врачу, значит, в медицине необходима обратная связь. Неизменным остается одно - состояние психики пациента сильно влияет на течение болезни. Надежда на исцеление или фиксация на собственной обреченности влияет на исход болезни в значительной степени. Главная задача врача состоит в формировании у пациента этой надежды
на исцеление. И с этим лучше не справится никто кроме человека. «Психотерапия, состоящая в словесном, вернее, духовном воздействии врача на больного — общепризнанный, часто дающий прекрасные результаты метод лечения многих болезней» (Лука Войно-Ясенецкий).
Таким образом, заменить уникальные человеческие взаимодействия между
врачом и пациентом цифровым аналогом не представляется возможным. Что значит быть врачом, пациентом и, что значит вообще быть человеком? «Быть человеком означает обладать качествами, которые (в ближайшем будущем) мы не сможем просчитать, измерить, алгоритмически определить, сымитировать и полностью понять. То, что делает нас людьми, не имеет математического основания и не сводится к чисто химической и биологической природе», — пишет американский футуролог Г. Леонгард.