Доклад В. В. Васильева «Нужно ли бояться искусственного интеллекта?»
23 ноября под эгидой семинара "Искусственный интеллект в мире людей" д.ф.н., профессор МГУ им. М. В. Ломоносова В. В. Васильев выступил с докладом "Нужно ли бояться искусственного интеллекта?".
В последнее время об ИИ много говорят в контексте исходящих от него угроз. Существуют опасения, что носители inanimate reason, или "неодушевлённого разума", размножатся, превзойдут человечество и, в конечном счёте, поработят его. По мнению проф. Васильева, эти опасения безосновательны. Бояться ИИ — это всё равно, что бояться академической линейки или счётов.
Проф. Васильев начал свой доклад с исторического курьёза. В конце XVIII — начале XIX веков барон фон Кемпелен приводил европейскую публику в замешательство своим изобретением. Барон демонстрировал механического турка-шахматиста, который мог обыгрывать человеческих игроков. Турок вызвал восхищение у будущего императора Павла I и сыграл партию с Наполеоном. Впоследствии стало известно, что автоматом управлял спрятанный от глаз публики человек.
Итак, история искусственных субъектов началась с мистификации и переоценивания их возможностей. Сходным образом, не стоит преувеличивать достижения нынешних антропоморфных устройств — таких, как электронные голосовые помощники. Например, до сих пор не удаётся создать ИИ, который бы прошёл то, что проф. Васильев называет метатестом Тьюринга. Метатест Тьюринга — это способность программы корректно перевести с русского на английский фразу наподобие "Мы сели в машину Тьюринга" (так, чтобы не получилось "We got into the Turing machine"). То, что многие популярные переводчики проваливают этот тест, проф. Васильев считает позором для разработчиков нейросетей и показателем того, на каком низком уровне сейчас находятся ИИ-технологии.
Последует возражение: ИИ развивается и рано или поздно научится справляться с любыми задачами. Тогда он станет достаточно независимым, чтобы поработить своих создателей. Проф. Васильев считает, что эти опасения строятся на ложных допущениях. Во-первых, никакие интеллектуально развитые личности не будут пытаться поработить других личностей. Во-вторых, для всех разумных существ естественно проявление благодарности к тем, кто их породил. Напротив, ИИ будет холить и лелеять нас, своих создателей. Опасения по поводу ИИ скорее раскрывают алармистский склад людей, которые их высказывают.
В заключение проф. Васильев выразил уверенность, что людям стоит больше бояться самих себя, нежели ИИ. Только люди способны направить ИИ против других людей. Это враждебное использование ИИ грозит человечеству самоуничтожением. Избежать этого сценария будет трудно, и спасти нас может только чудо. Но, как отметил проф. Васильев, радует только то, что чудеса иногда случаются.