Первый семинар проектной группы 24.06
Состоялся первый семинар проектной группы, на котором с докладом «Иной класс "я": идентичность, характер и квазисубъектность языковых моделей как нечеловеческих агентов» выступил В.Э. Терехович. Выступление собрало слушателей из различных сфер, от медиаспециалистов до технических экспертов, и стало предметом многостороннего обсуждения.
24 июня Владислав Эрикович Терехович представил на регулярном семинаре научной группы доклад «Иной класс "я": идентичность, характер и квазисубъектность языковых моделей как нечеловеческих агентов». Выступление было посвящено философским, правовым и прагматическим аспектам восприятия больших языковых моделей (LLM) и ИИ-агентов в современном обществе.
Владислав Эрикович обосновал необходимость отказа от устаревших бинарных подходов к оценке ИИ и предложил новую систему координат для описания взаимодействия человека и машины.
Докладчик подсветил значимые трудности в понимании ИИ современными исследователями. По его мнению, современный дискурс загнан в тупик жестким выбором: либо ИИ признается мыслящим субъектом, подобным человеку, либо полностью обесценивается до уровня «стохастического попугая» и слепого инструмента. Оба подхода не отражают реальности. Как указывает Владислав Эрикович, прагматически человеку выгодно наделять сложные системы (такие как ИИ) намерениями и целями. Необходимо при этом разделять онтологический антропоморфизм (поиск «души» у машины) и функциональный (признание квази-субъектности ИИ для эффективного взаимодействия).
Поскольку современные модели обучаются на основе обратной связи от людей, усваивая человеческие ценности (полезность, безопасность, честность), это формирует у них паттерны поведения, которые невозможно описать вне категорий «квази-убеждений» и «квази-желаний». Соответственно, идентичность ИИ не является монолитной. Она делится на уровни: базовая модель (веса), конкретная персона (настроенная разработчиком линейка, например, Claude или ChatGPT) и динамический контекстный агент (экземпляр в рамках конкретного чата с пользователем). Это означает, указывает докладчик, что идентичность ИИ процессуальна и возникает только в момент коммуникации.
Все указанные сложности требуют для себя нового языка рассуждений. Философии и праву требуется новый концептуальный аппарат для описания ИИ — отказ от попыток найти в машине человеческое сознание в пользу изучения её уникальной «квази-агентности».
Выступление вызвало оживленную дискуссию среди профильных специалистов — философов, лингвистов и исследователей когнитивных наук. Участники дискуссии сошлись во мнении, что использование традиционных человеческих терминов («сознание», «личность», «воля») применительно к ИИ вызывает отторжение. Обсуждалась необходимость введения терминов-заменителей: «квази-субъектность», «кибернетические аттракторы» или «параметры порядка». Был также поднят острый психологический вопрос о том, что люди уже формируют реальные эмоциональные связи с ИИ-агентами. Удаление или перенастройка ИИ-аватаров корпорациями вызывает у пользователей настоящие переживания (феномен «горевания по ИИ»), что требует, по мнению дискутантов, нового этического и регуляторного осмысления.
К концу дискуссии развернулась полемика о том, является ли субъектность ИИ исключительно «усиленным эффектом Элизы» (иллюзией, вызванной качественной генерацией текста), или же мы имеем дело с формированием новой социальной реальности, где ИИ выступает полноправным участником языковой игры.
В завершение, участники семинара констатировали, что развитие технологий ИИ значительно опережает философскую и правовую базу. Формирование нового междисциплинарного консенсуса в отношении «квази-субъектности» машин станет одной из главных задач исследовательской группы на следующих этапах проекта.
Запись прошедшего доклада можно посмотреть по ссылке.
