Доклад А. С. Хританкова "Доверенный ИИ и искажение данных системами машинного обучения"

13 июля в рамках семинара "Искусственный интеллект в мире людей" состоялся доклад кандидата философских и математических наук Антона Сергеевича Хританкова "Доверенный ИИ и искажение данных системами машинного обучения".

С технической точки зрения доверие понимается как степень уверенности пользователя/ оператора в том, что определенный технический продукт будет работать так, как предполагает пользователь. Отсюда вытекает атрибут «достойный доверия», которым становится возможно наделять технические продукты. Чаще всего этот атрибут скрывается за понятием «благонадежности» и означает способность системы удовлетворять ожиданиям некоторым проверяемым образом.

Понятие доверия в следствии вышесказанного стараются интерпретировать, разделяя на понятийные составляющие. Первая часть этого вопроса — это его техническая часть. Система, с которой работает оператор, должна отвечать параметрам качества с технической точки зрения — это и есть критерий ее рабочей благонадежности. Математические модели, соответствующие испытания и сертификация позволяют оценить степень качества выполняемой алгоритмом работы. Во многом, именно на этот технический критерий сейчас делается упор при разработке искусственного интеллекта.

Второй аспект в оценке доверия к системе - требования или ожидания того, что определенная алгоритмическая система соблюдает этические и моральные нормы. Набор принципов, которому должна советовать система ИИ — это своего рода вшитый в нее код разработчика, зависящий именно от того, кто его разрабатывал. Этические принципы и моральные нормы здесь являются «собственностью» того, кто пользуется этим ИИ, отсюда неуниверсальность благонадежности этих систем.

Еще одним критерием доверия является «стремление делать добро». Действия системы считаются надежными теми, то ей пользуется, в случае если система показывает способность и нацеленность на выполнение скорее «благих» (приносящих пользу) действий, нежели «злых» (приносящих вред).

Проблема доверия к ИИ и вопрос о том, можем ли мы в принципе ему доверять в конечном счете упирается в долгосрочность опыта использования системы. В этом смысле, работа с искусственными алгоритмами напоминает общение с реальными людьми - мы доверяем тем охотнее, чем больше знаем человека. В случае с искусственным интеллектом наше доверие строится на факте того, как долго мы работаем с ним и как часто он удовлетворял нашим критериям благонадежности.