Доклад Я. В. Родионова и М. А. Полухина "Проблема семантического заземления как условия понимания в ИИ"

Специалисты начинают активно применять системы искусственного интеллекта для решения задач, требующих высокой точности и ответственности: от медицинской диагностики до юридического анализа документов. Но перед тем, как передать нейросетевым моделям подобную работу, следует ответить на эпистемологический вопрос: обладают ли системы ИИ подлинным пониманием того, что они делают, или лишь имитируют понимание? Когда AI-система ставит медицинский диагноз или принимает юридическое решение, демонстрирует ли она знание в предметной области?

Опираясь на теории понимания из когнитивных наук и философии сознания, мы показываем, что понимание предполагает не просто функциональную компетентность, но способность к объяснению, контекстуальной адаптации и интеграцию информации в концептуальные схемы. Ключевое условие понимания – это наличие у репрезентаций "значения", то есть устойчивого отношения к тому, что они представляют.

Именно здесь возникает проблема семантического заземления: если ИИ оперирует в замкнутой системе символов или паттернов, отсылающих только друг к другу, откуда взяться пониманию? В работе анализируется, как различные архитектуры искусственного интеллекта – от классических систем машинного обучения до мультимодальных моделей – справляются с проблемой заземления и какие эпистемологические следствия это имеет для статуса их "знания".