Искусственный интеллект и этические аспекты современной медицины
16 и 23 марта на базе Московского центра инновационных технологий в здравоохранении (Медтеха) совместно со Школой философии и культурологии НИУ ВШЭ и ПМГМУ им. И. М. Сеченова прошли круглые столы «Этика в системе здравоохранения в контексте применения систем искусственного интеллекта в медицинских целях».
Целью мероприятий являлось экспертное обсуждение с медицинским сообществом, судмедэкспертами, разработчиками и представителями бизнеса особенностей внедрения систем искусственного интеллекта в широкую медицинскую практику с точки зрения потенциальных возможностей и рисков в вопросах этики.
На текущем этапе важно осознавать как безграничный потенциал использования этой технологии, так и невозможность полноценной замены специалистов, потому как принятие решений – ответственность человека, и ни один компьютер или система не могут быть оценены как субъекты правовой и этической оценки действий, а также их последствий. Дискуссии об этике ИИ считаю правильным начинать заблаговременно, то есть уже сейчас, чтобы в обществе родился компромисс, к которому нам прийти часто очень и очень сложно
Вячеслав Шуленин, генеральный директор Медтеха.
Участники круглых столов обсудили различные аспекты использования продуктов с элементами ИИ в медицинской практике, в том числе перспективы внедрения экспертных процедур в оценку общегуманитарных и конкретно этических рисков. Причем этическая оценка, по общему убеждению, требуется на всех этапах: от разработки СИИ и пилотных проектов до внедрения и оценки краткосрочных и долгосрочных рисков для жизни пациентов и ее качества.
Особое внимание было уделено профессиональным компетенциям врача, использующего в своей деятельности искусственный интеллект – прежде всего, в онкологии и радиологии. Врачи и разработчики согласились в том, что ИИ не сможет полностью заменить врача, за исключением рутинных сфер его деятельности. Это связано с непрозрачностью динамических алгоритмов, которые, в отличие от статических алгоритмов, учатся и развиваются, взаимодействуя с окружающей средой. Такие алгоритмы обычно классифицируются как алгоритмы машинного обучения.
На самом деле то, с чем мы имеем дело сейчас, говоря об искусственном интеллекте, можно назвать очень быстрыми и умными «калькуляторами», которые выполняют реккурентные функции сбора, подсчета и анализа данных. Интеллект – это свойство абстрактного познания, которым математические модели не обладают, поэтому в ближайшем обозримом будущем ИИ в медицине будет выполнять роль ассистента-помощника, но врача не заменит
Руслан Парчиев, CEO/ Founder стартапа Medical Neuronets
В этой связи большой интерес вызвало обсуждение отдельных кейсов, связанных с медицинскими ошибками и перспективой судебно-медицинских разбирательств в случаях допущения таких ошибок при использовании ИИ в клинической практике.
Даже вспомогательное использование искусственного интеллекта во врачебной практике может нести угрозу формирования «слепой веры» в ИИ, которую рано или поздно обретает врач. Применяя ИИ в ежедневной практике, врач в конечном счете начнет надеяться на него больше, чем на себя
Николай Карнаухов, зав. отделением, врач-патологоанатом ГБУЗ Московский Клинический Научный Центр имени А. С. Логинова ДЗМ
Проведенные круглые столы еще раз убедили в необходимости продолжения широкого общественного и профессионального обсуждения вопросов предвзятости, недопущения дискриминации, нарушения принципов автономии и благодеяния, которые могут быть заложены в алгоритмы. Большое внимание стоит уделить также вопросам моральной ответственности врача и разработчика за внедряемый продукт, вопросу доверия к нему также со стороны пациентского сообщества. В этой связи заслуживает отдельного внимания вопрос просвещения в сфере ИИ, без решения которого не могут быть «сняты» ни проблема открытости, ни проблема прозрачности/понятности СИИ для пользователя.
Для выработки эффективных средств недопущения вреда вследствие внедрения ИИ в медицине требуется проведение работы по формализации этических понятий, верификации и валидация этической компоненты.