Исследователь из Токийского института науки Инь Цзюнь Пхуа использовал метод, который он назвал «синтетической нейрофеноменологией». Он создал ИИ-агентов, представляющих три ключевые теории сознания, и провел эксперименты, невозможные на традиционном живом мозге. Эти агенты не являются сознательными, а представляют собой «идеальные модельные организмы», в которых каждый нейрон и вес могут быть изучены и изменены. В исследовании рассматривались теория глобального рабочего пространства (GWT), теории высшего порядка (HOT) и теория интегрированной информации (IIT).
Первый эксперимент проверял гипотезу HOT, согласно которой сознательное состояние требует самомониторинга. Агенту с модулем «Я-модели» отключили этот модуль, не затрагивая остальные части архитектуры. Точность выполнения задач осталась на уровне 88%, но способность оценивать собственную уверенность упала до случайного уровня, что привело к тому, что график уверенности стал случайным. Агент действовал успешно, но перестал осознавать, что он делает это правильно, что можно сравнить с феноменом слепозрения у людей с поврежденной зрительной корой.
Второй эксперимент тестировал гипотезу GWT о глобальном рабочем пространстве. Суть теории заключается в том, что в мозге функционирует множество специализированных модулей (зрение, память, планирование), но лишь информация, попадающая в общее «рабочее пространство», становится сознательной и транслируется остальным модулям. Для проверки агенту была поставлена задача по рабочей памяти: запомнить два сигнала, пройти через «комнату» и воспроизвести их в нужном порядке. Сигналы поступали исключительно через «шину» рабочего пространства, и остальные части агента их не видели. При полной емкости шины (4 слота) агент справлялся в 99.5% случаев, при половинной — лишь в 28%. При полном отключении шины точность достигала 0%. Ключевое наблюдение: значительный скачок в точности происходил между состоянием «необходимая шина присутствует» и «шины нет». Рабочее пространство стало критически необходимым для доступа к информации.
Третий эксперимент выявил неожиданную уязвимость архитектуры GWT. Логично предположить, что если информация передается всем модулям, система должна быть более устойчивой — больше «глаз», больше шансов заметить ошибку. Однако на практике все оказалось наоборот. Когда исследователь вводил шум непосредственно во внутренние представления агента, архитектура GWT работала как усилитель: она транслировала всем модулям как полезный сигнал, так и шум. Шум на уровне 4% от амплитуды сигнала снижал точность с 100% до 75%. Агенты с добавленным модулем самомониторинга могли справляться с 50% шума без значительных потерь, так как этот модуль функционировал как фильтр, сжимая состояние системы и отсекая шум до того, как тот попадал в «общий чат». Передача без фильтра оказалась уязвимостью, а не преимуществом.
Тот же эксперимент показал негативный результат для метрик IIT. Пхуа измерял индекс пертурбационной сложности (PCI), который в нейронауке используется для диагностики сознания у пациентов в коме. Логика заключена в том, что если «возмутить» систему, сознательный мозг отреагирует разнообразно, а бессознательный — стереотипно. Ожидалось, что агент с глобальным рабочим пространством, где все связано, продемонстрирует высокую сложность отклика. На практике всё вышло наоборот: рабочее пространство функционировало как узкое горлышко — все сигналы проходили через одну шину с четырьмя слотами, что делало отклики более однородными и предсказуемыми, снижая измеряемую сложность. Вывод: нейробиологические метрики сознания нельзя бездумно транслировать на ИИ — архитектура искусственных систем может оказывать обратный эффект.
Главный вывод исследования: три теории сознания дополняют друг друга, а не конкурируют. GWT отвечает за трансляцию информации между модулями, HOT контролирует качество этой трансляции. Ни один из механизмов по отдельности не обеспечивает устойчивого поведения. Для разработчиков ИИ это важный ориентир: система без метакогнитивной калибровки не может надежно сообщать о собственном уровне неуверенности, что критично для безопасности беспилотников, медицинских ИИ и автономных систем, где цена ошибки высока.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я делюсь взглядами на ИИ с творческой стороны.