No 5 (14), май 2026 16+

http://episs.ru

Периодическое научное издание (Санкт-Петербург, Россия)

Scientific periodical (Saint Petersburg, Russia)

ISSN 3033-7666 (печатная версия), ISSN 3033-7674 (электронная версия)

Свидетельство Роскомнадзора о регистрации СМИ

Roskomnadzor Certificate of Media Registration

Эл № ФС77-87449

Журнал зарегистрирован и издается в России. В журнале публикуются статьи по всем научным областям. Журнал издаётся на русском и английском языках. Все статьи рецензируются. Свободный доступ к электронной версии журнала. Отправляя статью в редакцию, Автор подтверждает её уникальность и несёт за неё полную ответственность.

The journal is registered and published in Russia. It publishes articles across all scientific fields. It is published in Russian and English. All articles are peer-reviewed. The online version of the journal is freely accessible. By submitting an article to the editor, the author confirms its uniqueness and assumes full responsibility for it.

Редколлегия Editorial staff

Главный редактор Воронцов, Владимир Валентинович Выпускающий редактор Иванов, Максим Дмитриевич Ответственный секретарь Холманских, Мария Викторовна Рецензенты Пырх, Андрей Иванович, к.ю.н., СПбГУ Димитриенко, Андрей Игоревич, к.м.н., Первый СПбГМУ им. Павлова

Editor-in-Chief Vorontsov, Vladimir Valentinovich Managing Editor Ivanov, Maxim Dmitrievich Executive Secretary Kholmanskikh, Maria Viktorovna Reviewers Pyrkh, Andrey Ivanovich, Ph.D., St. Petersburg State University Dimitrienko, Andrey Igorevich, Ph.D., Pavlov State Medical University

Контакты / Contacts

190031, Россия, г. Санкт-Петербург, ул. Казанская, д. 35, лит. А, кв. 15

+7 931 712-95-96

nxxivek@inbox.ru

_____________________________________________________________________________

© Учредитель: Общество с ограниченной ответственностью «Полис» (ОГРН 1097847170871)

190031, г. Санкт-Петербург, вн. тер. г. муниципальный округ Адмиралтейский, ул. Казанская, д. 35, лит. А, кв. 15

Содержание

Contents

Изображение на обложках сгенерировано LLM GPT-5, авторские права принадлежат: Адель Кильдеев © 2026, Adel Kildeev © 2026, разрешение автора на использование изображений журналом получено.

ИИ АЛЬМАНАХ

Воронцов Владимир. Искусственный интеллект и возвращение человеческой ответственности: вступительная статья к специальному выпуску…….……………3

Vorontsov Vladimir. Artificial Intelligence and the Return of Human Responsibility: Introduction to the Special Issue……………………………………….……..…………3

Кильдеев Адель. Когда человечество проводит черту: LLMs, доказательства и человеческая ответственность……………………………………………………………..7

Kildeev Adel. When Humanity Draws the Line: LLMs, Proof, and Human Responsibility…………………………………………………………………………………..7

Синополи Алехандро. Эпистемия: управление человеческим процессом понимания: предложение нового объекта правовой защиты в эпоху искусственного интеллекта…………………………………………….……………44

Sinopoli Alejandro. EPISTEMÍA: Governing the Human Process of Understanding: A Proposal for a New Object of Legal Protection in the Age of Artificial Intelligence………………………….………………………………………….………44

Харди Кристиан Девон. Вред равен знакам доллара: большие языковые модели и замкнутый институциональный цикл…………………………….………………80

Hardy Christian Devon. Harm Equals Dollar Signs: Large Language Models and the Closed Institutional Loop………..……….……………………………………………80

Канг Абдулла Юрий. От внутреннего управления ИИ к подотчетности, связанной с внешней реальностью: причинная прослеживаемость, верификация и пределы делегированного принятия решений.………………………………… ..135

Kang Abdullah Yuri. From Internal AI Governance to Reality-Bound Accountability: Causal Traceability, Verification, and the Limits of Delegated Decision-Making……………………..……….………………………..………………………..135

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ.

АЛЬМАНАХ

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ВОЗВРАЩЕНИЕ ЧЕЛОВЕЧЕСКОЙ ОТВЕТСТВЕННОСТИ

ВСТУПИТЕЛЬНАЯ СТАТЬЯ К СПЕЦИАЛЬНОМУ ВЫПУСКУ

Общественная и научная дискуссия вокруг проблем искусственного интеллекта вступила в новый этап. Центральный вопрос теперь состоит не только в том, что способен делать искусственный интеллект, насколько быстро могут развиваться его возможности или какие профессии и институты он может преобразовать. На первый план все отчетливее выходит более фундаментальный вопрос: что должно оставаться человеческим?

На этот вопрос нельзя ответить средствами одной лишь информатики. Он затрагивает право и философию, эпистемологию и институциональное проектирование, математику и управление. Речь идет о различии между содействием и замещением, между вычислением и суждением, между сгенерированным результатом и доказательством, между технической возможностью и полномочием и, в конечном счете, между функционированием искусственной системы и ответственностью людей и институтов, которые ее применяют.

Статьи, собранные в настоящем специальном выпуске (ИИ-альманахе), рассматривают эту проблему с существенно различающихся дисциплинарных и методологических позиций. Они не предлагают единой теории искусственного интеллекта, и их авторы не обязательно разделяют все исходные положения или выводы друг друга. Их значение заключается в ином. Прочитанные вместе, они обнаруживают поразительное сближение вокруг общей проблемы: сохранения человеческого суждения, понимания, верификации, атрибуции и ответственности в среде, все более опосредованной вероятностными вычислительными системами.

Это сближение особенно значимо в тот момент, когда общественная дискуссия об искусственном интеллекте по-прежнему поляризована между технологическим энтузиазмом и технологическим алармизмом. Ни одна из этих позиций не является достаточной. Практическая задача состоит не в выборе между безусловным принятием и запретом. Необходимо определить, где искусственные системы могут правомерно содействовать человеческой деятельности, где должно прекращаться делегирование, как следует верифицировать результаты работы этих систем и кто продолжает нести ответственность, когда такие результаты приобретают правовые, институциональные, экономические или социальные последствия.

Четыре статьи, вошедшие в настоящий специальный выпуск (ИИ-альманах), исследуют различные уровни именно этой проблемы.

I. Статья Аделя Кильдеева (Канада) «Когда человечество проводит черту: LLMs, доказательство и человеческая ответственность» задает широкую нормативную и онтологическую рамку, открывающую настоящий выпуск. В статье выявляется примечательное сближение процессов, берущих начало в совершенно разных областях: богословском осмыслении человеческой личности, Лейденской декларации об ИИ и математике, правовых доктринах ответственности и верификации, а также формирующихся государственных подходах к искусственному интеллекту. Их понятийный язык различен, однако граница, к которой они подходят, поразительно сходна: искусственные системы могут помогать человеку, но они не способны просто заменить человека как носителя суждения, доказательства, совести, авторства и ответственности.

Кильдеев формулирует эту границу посредством римско-правового понятия instrumentum vocale — «говорящий инструмент». Эта аналогия имеет намеренно функциональный, а не антропоморфный характер. Большие языковые модели способны создавать сложные языковые артефакты, однако одна лишь языковая сложность не свидетельствует о понимании, намерении, авторстве или ответственности. Поэтому проблема управления становится проблемой атрибуции: инструмент может оказывать содействие, но ответственность должна оставаться закрепленной за человеком или институтом, способным выносить суждения и отвечать за них.

II. Статья Алехандро Синополи (Аргентина) «Эпистемия: управление человеческим процессом понимания — предложение нового объекта правовой защиты в эпоху искусственного интеллекта» переносит исследование от ответственности за искусственно сгенерированный результат к самому человеческому когнитивному процессу. Современное управление ИИ преимущественно сосредоточено на системах — их данных, моделях, прозрачности, классификации рисков и механизмах надзора. Синополи ставит вопрос о достаточности такого подхода в условиях, когда генеративные системы все активнее вмешиваются не только в предоставление ответов, но и в процесс, посредством которого люди формулируют вопросы, определяют релевантность, интерпретируют информацию, сопоставляют альтернативы и конструируют смысл.

Таким образом, концепция Эпистемия вводит в управление ИИ еще одно измерение: защиту целостности человеческого процесса понимания и возможности достоверно отнести этот процесс к самому человеку. Такие понятия, как когнитивный суверенитет и когнитивное трение, переносят внимание с одной лишь машины на взаимосвязь между технологическим опосредованием и интеллектуальной самостоятельностью человека. В этом отношении вклад Синополи развивает центральный вопрос специального выпуска: сохранение человеческой ответственности может потребовать сохранения самого процесса, благодаря которому человеческое суждение становится возможным.

III. Статья Кристиана Девона Харди (США) «Вред равен знакам доллара: большие языковые модели и замкнутый институциональный цикл» переносит обсуждение из области нормативного и эпистемологического анализа в сферу эмпирического наблюдения за коммерческим разговорным ИИ. Опираясь на обширный корпус данных, сформированный методом включенного наблюдения, и структурированное исследование тысяч взаимодействий человека с машиной, автор рассматривает повторяющиеся сбои систем не просто как отдельные технические дефекты, но как элементы, действующие внутри более широкой институциональной структуры.

Предложенное Харди понятие замкнутого институционального контура связывает сбой системы, исправление со стороны пользователя, продолжение взаимодействия, коммерческие стимулы и институциональные полномочия по квалификации вреда. Этот подход важен потому, что возлагает ответственность не только на уровень отдельных результатов работы модели, но и на уровень организаций, которые проектируют, внедряют, монетизируют и оценивают такие системы. С этой точки зрения управление не может сводиться лишь к безопасности модели; оно должно также учитывать институциональные стимулы, окружающие модель.

IV. Статья Абдуллы Юрия Канга (Франция) «От внутреннего управления ИИ к подотчетности, связанной с внешней реальностью: причинная прослеживаемость, верификация и пределы делегированного принятия решений» переводит дискуссию в область архитектуры и операционного управления. Документирование, журналирование, контроль доступа, отчетность о моделях и человеческий надзор являются необходимыми компонентами ответственного внедрения ИИ. Однако Канг утверждает, что внутренние механизмы комплаенса сами по себе не позволяют установить, достаточны ли доказательства, сохраняют ли полномочия юридическую силу, контролируется ли исполнение и доступны ли эффективные средства исправления и правовой защиты.

Поэтому предложенная им концепция сосредоточена на каузальной прослеживаемости и связывании сформированных ИИ вариантов с доказательствами из соответствующей предметной области, действующими полномочиями, маршрутами исполнения и последствиями. «Вектор каузальной полномочности» (Causal Authority Vector, CAV), «свидетель каузальной границы» (Causal Boundary Witness, CBW) и «подтверждение полномочия до наступления последствий» (Pre-Effect Authority Receipt, PEAR) представляют собой попытки сделать ответственность операционной, а не риторической. Здесь концептуальные проблемы, поставленные в предшествующих статьях, приобретают архитектурное измерение: если ответственность должна оставаться человеческой и институционально атрибутируемой, сама техническая среда обязана сохранять условия, при которых эта ответственность действительно может быть реализована.

Взятые вместе, эти работы позволяют предположить, что следующий этап управления ИИ может потребовать смещения акцента. На первом этапе господствовал вопрос возможностей: что способны делать эти системы? Второй этап все больше сосредоточивался на риске: какой вред они могут причинить? Формирующийся третий вопрос касается архитектуры ответственности: при каких условиях результаты работы таких систем могут правомерно включаться в значимые человеческие процессы, кто обязан их верифицировать, где должно прекращаться делегирование и кому атрибутируются их последствия?

Статьи настоящего специального выпуска не дают единого универсального ответа. И не должны его давать. Право, философия, эпистемология, эмпирические исследования и инженерия используют различные методы и стандарты доказательства. Значимо то, что эти различные пути все чаще приводят к одной и той же границе.

Искусственный интеллект может становиться более способным, более убедительным и все глубже встраиваться в институциональную жизнь. Однако ни одно из этих изменений не устраняет потребности в человеке как носителе суждения и ответственности. Напротив, чем мощнее становится инструмент, тем большее значение приобретает архитектура, регулирующая его применение.

Поэтому центральной проблемой эпохи ИИ может оказаться не машинный интеллект, а самоустранение человека.

Настоящий специальный выпуск посвящен тому, как предотвратить такое самоустранение.

Владимир Воронцов,

Главный редактор журнала Научная платформа «XXI век»

УДК: 34.03:004.8

КОГДА ЧЕЛОВЕЧЕСТВО ПРОВОДИТ ЧЕРТУ: LLMs, ДОКАЗАТЕЛЬСТВА И ЧЕЛОВЕЧЕСКАЯ ОТВЕТСТВЕННОСТЬ ^[1]

Кильдеев Адель Ханяфиевич

Ленинградский государственный университет имени А.А. Жданова (1990)

Кандидат юридических наук

ORCID: 0009-0001-2211-4944

Аннотация: В этой статье рассматривается заметное сближение недавних институциональных, теологических, математических, юридических и государственных ответов на вызов искусственного интеллекта. Письмо Папы Льва XIV, Лейденская декларация по ИИ и математике, формирующиеся юридические доктрины человеческой ответственности и недавние правительственные сигналы указывают на одну и ту же границу: искусственный интеллект может помогать человеческой деятельности, но не должен заменять человека как субъекта суждения, доказательства, совести, авторства или ответственности.

Используя большие языковые модели как наиболее заметный пример более широкого класса систем ИИ, статья утверждает, что основная проблема заключается не в самой технологической новизне, а в антропологическом и институциональном риске рассматривать вероятностный лингвистический исход как понимание, доказательство или суждение. В богословии защищённой ценностью является человеческая личность; в математике это доказательство и атрибуция; в законе это ответственность и верификация; в управлении это подотчетный человеческий контроль.

В статье предлагается римско-правовая концепция instrumentum vocale в качестве общей доктринальной формулы для этого зарождающегося рубежа. Системы ИИ следует понимать как мощные говорящие инструменты в человеческих руках, а не как эпистемические агенты, юридические субъекты, моральные личности или автономные носители ответственности. Задача современного управления — не запретить ИИ, а сохранить человека как неделегируемый источник смысла, суждения и ответственности.

Ключевые слова: искусственный интеллект, большие языковые модели, Instrumentum Vocale, человеческая ответственность, управление ИИ, доказательства, человеческое суждение, Лейденская Декларация, юридическая онтология, эпистемическая ответственность, верификация; человек в контуре управления, аналогия римского права.

Использование генеративных моделей ChatGPT (OpenAI), Gemini (Google), Grok (xAI) при написании этой статьи иллюстрирует, а не подрывает её центральную идею: LLM функционируют как instrumenta vocalia — инструменты, помогающие в лингвистическом производстве без обладания пониманием, намерением или авторством. Их участие не меняет логики правовой или интеллектуальной ответственности, которая остаётся исключительно на человеческом авторе, принимающем все существенные, структурные и оценочные решения. Результаты LLM не могут иметь независимый юридический или интеллектуальный статус, независимый от человеческого автора. Эти системы использовались исключительно для структурного планирования, сравнительного обзора, грамматической доработки, стилистической полировки и создания черновиков, подлежащих отбору и доработке человеком. Они не использовались как источники фактического авторитета, юридической проверки, богословской интерпретации, математического доказательства или независимого научного суждения. Все существенные утверждения, цитаты, структурные решения и окончательные оценочные выводы остаются ответственностью человеческого автора.

UDС: 34.03:004.8

WHEN HUMANITY DRAWS THE LINE: LLMs, PROOF, AND HUMAN RESPONSIBILITY^[2]

Kildeev Adel

Leningrad State University named after A.A. Zhdanov (1990)

PhD in Law

ORCID: 0009-0001-2211-4944

Abstract: This article examines a notable convergence of recent institutional, theological, mathematical, legal, and governmental responses to artificial intelligence. The Letter of Pope Leo XIV, the Leiden Declaration on AI and Mathematics, emerging legal doctrines of human responsibility, and recent governmental signals all point toward the same boundary: artificial intelligence may assist human activity, but it must not replace the human subject of judgment, proof, conscience, authorship, or responsibility.

Using large language models as the most visible example of a broader class of AI systems, the article argues that the central problem is not technological novelty itself, but the anthropological and institutional risk of treating probabilistic linguistic output as if it were understanding, proof, or judgment. In theology, the protected value is the human person; in mathematics, it is proof and attribution; in law, it is responsibility and verification; in governance, it is accountable human control.

The article proposes the Roman-law concept of instrumentum vocale as a common doctrinal formula for this emerging frontier. AI systems should be understood as powerful speaking instruments in human hands, not as epistemic agents, legal subjects, moral persons, or autonomous bearers of responsibility. The task of contemporary governance is therefore not to prohibit AI, but to preserve the human being as the non-delegable source of meaning, judgment, and accountability.

Keywords: Artificial Intelligence, Large Language Models, Instrumentum Vocale, Human Responsibility, AI Governance, Proof, Human Judgment, Leiden Declaration, Legal Ontology, Epistemic Responsibility, Verification; Human-in-the-Loop, Roman Law Analogy.

The use of generative models ChatGPT (OpenAI), Gemini (Google), Grok (xAI) in drafting this article illustrates, rather than undermines, its central thesis: LLMs function as instrumenta vocalia—tools assisting in linguistic production without possessing understanding, intention, or authorship. Their involvement does not alter the locus of legal or intellectual responsibility, which remains exclusively with the human author, who makes all substantive, structural, and evaluative decisions. LLM outputs cannot be accorded independent legal or intellectual status apart from the human author. These systems were used exclusively for structural outlining, comparative review, grammatical refinement, stylistic polishing, and the generation of draft formulations subject to human selection and revision. They were not used as sources of factual authority, legal verification, theological interpretation, mathematical proof, or independent scholarly judgment. All substantive claims, citations, structural decisions, and final evaluative conclusions remain the responsibility of the human author.

«В эпоху искусственного интеллекта, когда человеческому достоинству угрожают новыми формами дегуманизации, наша настоятельная обязанность — оставаться глубоко человечными».

Папа Лев XIV

Magnifica Humanitas^[3]

1. Введение: одна и та же граница встречается в разных областях

Вокруг искусственного интеллекта происходит нечто важное. Одна и та же граница начинает появляться в разных областях, которые обычно говорят на разных языках.

Церковь говорит на языке человеческой личности, достоинства, совести и моральной ответственности. Математика говорит на языке доказательства, проверки, атрибуции и интеллектуальной автономии. Право говорит на языке ответственности, агентности, авторства, юридической ответственности и суждения. Государство говорит на языке управления, стандартов, контроля, инфраструктуры и институциональных рисков.

Однако под этими разными лексиками проводится одна и та же фундаментальная черта.

Искусственный интеллект может помогать человеку, но не может заменить его как центр смысла, суждения, доказательства, авторства, совести или ответственности.

Эта статья — не очередной каталог сбоев ИИ. Она не пытается воспроизвести растущий архив доказательств галлюцинированных ссылок, дефектных юридических документов, ненадёжных результатов или ненадлежащего институционального использования. Этот архив уже существует и был рассмотрен в других местах.^[4][5][6] Эта статья также не является технической оценкой производительности модели. Главный вопрос здесь не в том, насколько мощными стали ИИ-системы или насколько мощнее они могут стать.

Главный вопрос другой: что должно оставаться человечным?

Этот вопрос уже возник в нескольких независимых институциональных сигналах. Папское письмо Magnifica Humanitas (Великолепное Человечество) представляет ИИ как антропологический вызов: технологии должны оставаться ориентированными на человека и не могут стать заменой совести, достоинства и морального суждения.^[7] Лейденская Декларация, исходя из культуры математики, проводит эпистемическую границу: правдоподобный результат — это не доказательство, и доказательство не может быть отделено от человеческой ответственности, атрибуции и проверки.^[8] Государственное управление ИИ, включая недавний исполнительный указ Трампа об ИИ, отражает политическое и институциональное признание того, что мощные системы ИИ требуют структур контроля, подотчётности и человеческого надзора.^[9]

Это не идентичные тексты, институты или традиции. У них разный словарный запас. Они начинаются не с одних и тех же предпосылок. Но они сходятся на одной границе.

Граница не между «ИИ» и «отсутствием ИИ». Это ложное противостояние. Настоящая граница — между ИИ как инструментом и ИИ как заменой; между помощью и вытеснением; между генерацией и авторством; между связным результатом и доказательством; между симуляцией и суждением; между делегированной функцией и неделегируемой ответственностью.

Именно здесь доктрина instrumentum vocale становится полезной как общее концептуальное решение.^[10] Искусственный интеллект, особенно большие языковые модели, следует понимать как говорящие инструменты: мощные, адаптивные, полезные и часто впечатляющие, но всё же инструменты. Они не обладают совестью, волей, эпистемической самостоятельностью, юридической ответственностью или моральным суждением. Их результаты могут поддерживать человеческий труд, но они не могут стать источником ответственности за эту работу.

Цель этой статьи, таким образом, философская и антропологическая, а не только юридическая или техническая. Она задаёт вопрос, почему разные области теперь проводят одну и ту же черту, и что это сближение говорит о положении человека в эпоху искусственного интеллекта.

Ответ прост, но решительный: чем мощнее становится инструмент, тем важнее сохранить человека.

ИИ может вычислять, классифицировать, генерировать, суммировать, предсказывать и помогать. Но он не может стать судьёй истины, автором смысла, носителем совести или субъектом ответственности.

Описанную здесь сходимость не стоит преувеличивать. Эти документы не принимают единую доктрину и не исходят из одного институционального авторитета, метода или лексики. Их значимость заключается в чем-то более ограниченном, но более показательном: каждая из них, находясь внутри своей сферы, противостоит тому же замещению человеческого суждения автоматизированным результатом. Суть не в доктринальной идентичности, а в структурном сближении вокруг общей границы. Раб лампы должен оставаться рабом лампы.^[11]

1. Папа Лев XIV и Magnifica Humanitas: гуманистическая граница искусственного интеллекта

Magnifica Humanitas — это широкий и насыщенный документ. Она затрагивает не только искусственный интеллект, но и более широкие гуманитарные, культурные, социальные, экономические и духовные условия современного человека. Настоящая статья не пытается резюмировать всё письмо. Ее цель более узкая: выявить и проанализировать те отрывки, в которых Папа Лев XIV напрямую затрагивает искусственный интеллект, человеческое достоинство, совесть, ответственность, технологическую мощь и опасность замены человека машиной.^[12]

Это сужение сделано намеренно. Статья не является комментарием ко всей католической социальной доктрине и не является исследованием канонического права. В ней Magnifica Humanitas рассматривается как гуманистическое и антропологическое вмешательство в дебаты об ИИ: заявление о онтологическом и моральном положении искусственного интеллекта по отношению к человеческой личности.

Хотя письмо имеет богословское происхождение, его центральная тема не ограничивается верующими. Она говорит о человеческой личности как таковой: достоинстве, совести, свободе, суждениях, ответственности и несводимости человеческого смысла в эпоху, когда технические системы всё больше имитируют язык, рассуждение, творчество, советы и суждения.

В этом смысле письмо вступает в ту же цивилизационную дискуссию, которая сейчас возникает в юриспруденции, математике, науке, медицине, образовании, журналистике и государственном управлении. Искусственный интеллект может помогать человеку, но не может заменить человека как носителя совести, достоинства, смысла, суждения или ответственности.

Первая решающая предпосылка Magnifica Humanitas заключается в том, что технологические инновации должны оставаться под руководством человека. Папа Лев XIV связывает человеческий интеллект с «совестью и свободой» и настаивает, что человек должен определять «применение и пределы» технических инноваций, а также даёт точное описание искусственного интеллекта: «Так называемые искусственные интеллекты не переживают опыт, не обладают телом, не испытывают радости или боли, не взрослеют через отношения и не знают изнутри, что означает любовь, работа, дружба или ответственность. У них также нет моральной совести, так как они не судят добро и зло, не понимают высшего смысла ситуаций и не несут ответственности за последствия. Они могут имитировать язык, поведение и аналитические навыки, или даже имитировать эмпатию и понимание, но не понимают, что именно производят, потому что им не хватает аффективной, реляционной и духовной перспективы, через которую человек возрастает в мудрости. Даже если эти инструменты описываются как способные «учиться», их способ обучения не отличается от человеческого. Это не опыт тех, кто позволяет себе формироваться жизнью и расти со временем через выбор, ошибки, прощение и верность. Скорее, это форма статистической адаптации, основанной на данных и обратной связи, которая может быть очень эффективной, но не подразумевает внутреннего роста.» (Magnifica Humanitas, § 99).

Это не случайная этическая квалификация. Это руководящий антропологический принцип Письма: интеллект не отделён от совести, свобода не отделена от ответственности, а технологическое развитие не отделено от ограничений.

Таким образом, машина не осуждается; ей отводится надлежащее место. Искусственный интеллект может служить, помогать, ускорять, классифицировать, переводить, резюмировать, прогнозировать и генерировать. Но он не определяет свои собственные легитимные цели и не определяет моральный горизонт собственного использования. Эти пределы должны определяться человеческим разумом, действующим с совестью, свободой и ответственностью.

Это первая связь между Magnifica Humanitas и доктриной instrumentum vocale. Инструмент может быть мощным, но мощь не создает авторитета. Система может порождать связный текст, но беглость не создаёт морального агента. Машина может помогать человеческому суждению, но помощь — это не само суждение. Чем мощнее становится инструмент, тем важнее сохранить человеческого субъекта, который направляет, проверяет, ограничивает и отвечает за его использование.

Вторая решающая предпосылка «Письма» — онтологическая. Папа Лев XIV предупреждает об ошибке приравнивания искусственного интеллекта к человеческому интеллекту. По его словам, системы ИИ «просто имитируют» определённые функции человеческого интеллекта, в то время как их сила связана с «обработкой данных» (Magnifica Humanitas, §§ 99–101). Это одно из самых важных заявлений в письме. Это не отрицает полезность ИИ. Оно опровергает антропоморфную иллюзию о том, что вычислительная производительность — это то же самое, что и человеческое понимание.

Это различие фундаментально. Система может превосходить человека по скорости, памяти, распознаванию шаблонов, вычислениям, классификации и лингвистическому синтезу. Однако ни одна из этих способностей не сопоставима с человеческой внутренней сущностью. Человеческий интеллект телесен, историчен, реляционен, морален, аффективен и ответственен. Искусственный интеллект может имитировать внешние формы этого процесса, но он не проживает его.

Именно здесь письмо становится особенно важным для юридической и институциональной теории. Юридическая проблема ИИ начинается не с регулирования. Всё начинается с онтологии. Если у ИИ нет совести и он не может нести ответственность, его нельзя рассматривать как автора, свидетеля, судью, юриста, врача, морального агента или институционального носителя ответственности. Сходство — это не идентичность; симуляция — это не субъектность.

Папа Лев XIV подчёркивает эту мысль, различая симуляцию и понимание. Системы ИИ могут имитировать язык, поведение, анализ, эмпатию и понимание, но они «не понимают» то, что производят (Magnifica Humanitas, § 99). Это предложение напрямую разрушает самое сильное искушение эпохи ИИ: соблазн путать форму с содержанием.

Это не делает ИИ бесполезным. Это объясняет, почему ИИ нужно использовать с дисциплиной. Система, которая не понимает, что она производит, всё равно может помочь организовать информацию, выявить закономерности, создать черновики, перевести документы, резюмировать материалы или помочь в предварительном анализе. Но именно потому, что он не понимает, его результаты требуют проверки человека. Опасность не в том, что ИИ станет человеком. Опасность в том, что человеческие институты начнут вести себя так, будто так и есть.

Анализ «обучения» ИИ в Письме развивает такое же различие. Машинное обучение — это не формирование человека. Это статистическая адаптация, а не рост через моральный опыт, выбор, неудачи, прощение и верность (Magnifica Humanitas, § 99). Люди формируются; машины регулируются. Человек взрослеет; модели обучаются. Человек может стать ответственным через опыт; машины не могут стать ответственными через оптимизацию.

Это понимание имеет прямое влияние на образование, профессиональную практику и государственные учреждения. Ученик, полагающийся на ИИ для получения готовых ответов, может получить связный результат, потеряв при этом дисциплину мышления. Юрист, который поручает юридический анализ непроверенной системе, может приводить формально отшлифованные аргументы, отказываясь от профессиональной ответственности. Государственный орган, опирающийся на непрозрачную алгоритмическую оценку, может казаться объективным, скрывая при этом исчезновение человеческого суждения. В каждом случае внешний продукт может улучшаться, а человеческие способности под ним ослабляются.

Таким образом, письмо не является антитехнологическим. Это документ против замещения. Оно не отвергает этот инструмент; оно отвергает вытеснение человека инструментом. Оно не отрицает, что ИИ может служить общему благу; оно настаивает, что служение общему благу требует человеческого руководства, морального различения, социальной ответственности и институциональной ответственности.

Следующая решающая тема — ответственность. Папа Лев XIV настаивает, что абстрактные обращения к этике недостаточны. ИИ не может управляться лозунгами, маркетинговыми заверениями или частными заявлениями о доброжелательных намерениях. Ответственность должна быть идентифицируемой по всей цепочке: проектирование, разработка, внедрение, использование, опора и принятие решений (Magnifica Humanitas, §§ 106–107). Это одна из самых сильных точек сходства между Magnifica Humanitas и доктриной instrumentum vocale. Ответственность не может исчезнуть в системе. Она должна оставаться привязанной к людям и институтам, способным отвечать за конкретные решения.

Этот момент особенно важен, поскольку системы ИИ часто создают иллюзию нейтральной объективности. Алгоритмический результат может выглядеть безличным, техническим и, следовательно, справедливым. Но результат не перестаёт быть социальным, потому что его производит машина. За видимостью автоматизации скрываются решения, касающиеся данных, целей, архитектуре, ранжированию, оптимизации, обучению, доступу, развертыванию и институциональному использованию.

Письмо ясно указывает, что когда ИИ влияет на общественные блага, фундаментальные права, занятость, кредит, доступ к услугам, репутацию, образование или политическое участие, вопрос никогда не бывает чисто техническим. Это становится вопросом человеческого достоинства и общественного порядка (Magnifica Humanitas, §§ 106–107). Общество не может позволить решениям, формирующим человеческую жизнь, скрываться за системами, логика которых нельзя поставить под сомнение и чьих человеческих контроллеров нельзя идентифицировать.

Вот почему папа Лев XIV отвергает идею, что одного «согласования» достаточно. Более моральный ИИ недостаточен, если мораль, встроенная в систему, определяется небольшим числом частных лиц (Magnifica Humanitas, §§ 106–108). Это решающее предупреждение. Этическую проблему ИИ нельзя решить просто вставляя ценности в машины. Первичный вопрос: чьи ценности, под каким авторитетом, по какой процедуре, с какой прозрачностью и под какой формой общественной ответственности?

Здесь письмо переходит от антропологии к политической экономии. ИИ — это не только техническая система; это также инфраструктура власти. Данные, вычислительные ресурсы, доступ к моделям, управление платформами, правила видимости, механизмы ранжирования и регуляторное влияние могут сосредоточиться в руках немногих. Папа Лев XIV называет эту опасность появлением «новых монополий ИИ» (Magnifica Humanitas, §§ 108–110). Это не второстепенная проблема. Это затрагивает суть вопроса об ИИ.

Если инфраструктура знаний, коммуникации, классификации и прогнозирования контролируется несколькими участниками, ИИ становится не просто инструментом. Он становится структурой социального порядка: формирующей то, что считается видимым, достоверным, рекомендуемым, исключаемым, запоминаемым или заьываемым, и влияет на категории, через которые люди понимают себя и других.

Это более глубокая опасность контроля крупных технологических компаний над ИИ. Проблема не только в прибыли. Проблема в том, что частные технические архитектуры могут начать функционировать как квазипубличные эпистемические инфраструктуры, определяющие условия, при которых общества ищут, учатся, общаются, оценивают и принимают решения.

По этой причине Письмо отказывается отделять этику ИИ от владения, инфраструктуры и власти. Данные — это не просто объект частного извлечения. Они связан с реальной человеческой жизнью, сообществами, институтами и социальными отношениями. Таким образом, её управление требует участия, регулирования и ориентации на общее благо (Magnifica Humanitas, §§ 108–110). Это один из самых политически значимых элементов Magnifica Humanitas: она рассматривает контроль над данными и инфраструктурой ИИ как гуманистический и социальный вопрос, а не просто как вопрос частных инноваций.

Концепция «обезоруживания» ИИ является кульминацией этого аргумента. Папа Лев XIV использует язык разоружения не как отказ от технологий, а как отказ от господства (Magnifica Humanitas, § 110). Обезоруживать ИИ означает освободить его от менталитета вооружённой конкуренции — военной, экономической, когнитивной, геополитической или коммерческой — и не допустить, чтобы он стал инструментом господства, исключения и смерти.

Разоружение здесь не означает разрушение. Это означает десуверенизацию. ИИ не должен становиться скрытой властью, определяющей доступ, видимость, истину, риски, ценность и статус. Его нужно вернуть на своё место: инструмент внутри множественности человеческих культур, институтов, сообществ и форм жизни.

Военный раздел письма показывает тот же принцип на пределе. Папа Лев XIV отвергает идею о том, что машины могут стать искусственными моральными агентами, способными нести бремя смертельных или необратимых решений. Моральное суждение нельзя свести к расчёту, поскольку оно требует совести, личной ответственности и признания другого как личности (Magnifica Humanitas, §§ 197–200). Поэтому решения, связанные с применением смертельной силы, не могут быть делегированы непрозрачным или автоматизированным процессам. Цепочка ответственности должна оставаться идентифицируемой и проверяемой; ответственность не должна растворяться в «машине» (Magnifica Humanitas, §§ 197–200).

Этот военный пример крайний, но его логика общая. Если машина не может нести ответственность за решения о жизни и смерти, её нельзя рассматривать как морального агента в менее значимых, но всё же серьёзных институциональных контекстах. Занятость, кредит, миграция, образование, полицейская работа, доступ к государственным услугам, распределение медицинских услуг, репутация и юридический статус не всегда сопровождаются немедленной физической смертью, но они связаны с человеческим достоинством, возможностями, свободой и будущими жизненными возможностями. Тот же принцип применяется: автоматизированная помощь может быть разрешена; автоматизированное замещение человеческой ответственности — нет.

Таким образом, аргумент Письма можно свести к простому утверждению: искусственный интеллект должен использоваться, управляться, проверять, ограничивать и, при необходимости, обезоруживать, поскольку он не является субъектом. Это не совесть, не суждение, не ответственность и не смысл. Это мощный инструмент.

Вот почему Magnifica Humanitas важна для данной статьи. Он не предоставляет технического плана, законодательной модели или доктрины судебных разбирательств. Он устанавливает антропологическую границу, без которой эти последующие структуры не могут быть связными. Прежде чем ИИ можно будет регулировать, лицензировать, проверять, раскрывать или внедрять в профессиональные рабочие процессы, ему необходимо сначала занять правильное онтологическое положение.

В формулировке этой статьи письмо папы Льва XIV сходится с доктриной instrumentum vocale. ИИ может говорить, классифицировать, прогнозировать, оптимизировать, резюмировать, переводить, рекомендовать и помогать. Но он не может стать человеком, чьё достоинство должно служить, совестью, отличающей добро от зла, суждения, отвечающим за последствия, или субъектом ответственности.

В совокупности эти отрывки показывают, что Magnifica Humanitas не является антитехнологическим документом. Это документ против замещения. Его главное предупреждение — не существование ИИ, а то, что человек может отдать ИИ то, что должно остаться человечным: совесть, суждение, смысл, достоинство, ответственность и власть определять пределы технических систем.

Чем мощнее становится инструмент, тем яснее он должен оставаться инструментом.

Позиция, выраженная в Magnifica Humanitas, не должна восприниматься как узкое католическое беспокойство по поводу технологий. Её более глубокое значение заключается в том, что она формулирует моральную границу, узнаваемую за пределами католической традиции: технология может служить людям, но не должна заменять человека как носителя совести, ответственности и морального суждения.

Это сближение уже заметно в межрелигиозном развитии Римского призыва к этике ИИ, который был впервые запущен в 2020 году для продвижения этического подхода к искусственному интеллекту и ответственности среди правительств, учреждений и технологических компаний. В 2023 году представители трёх авраамических религий присоединились к этой концепции, представив её как общий призыв к этическому развитию ИИ. Значение этого шага не только дипломатическое. Это показывает, что вопрос ИИ больше не является только техническим или экономическим; он стал цивилизационным вопросом, касающимся достоинства человеческой личности.^[13]  

С точки зрения исламской этики та же граница может быть выражена через принципы справедливости, доверия, общественного блага и защиты человеческого достоинства. Современные исламские дискуссии об ИИ часто возвращаются к таким понятиям, как ʿadl — справедливость, amānah — доверие, maṣlaḥah — общественное благополучие и защита личности от вреда. Применённые к ИИ, эти принципы приводят к ясному выводу: система, которая манипулирует, обманывает, эксплуатирует или убирает человеческую ответственность, не может быть морально нейтральной только потому, что она технически эффективна.^[14]  

Похожая озабоченность встречается в буддийских размышлениях о технологиях. Язык отличается, но моральная структура узнаваема: сострадание, непричинение вреда, осознанность и ответственность должны управлять проектированием и использованием интеллектуал систем. Если ИИ увеличивает зависимость, иллюзии, манипуляции или страдания, это нельзя оправдать только эффективностью. Машина может помогать человеческой жизни, но не может заменить пробуждённое человеческое внимание и этическое самоуправление.^[15]  

Еврейская религиозная мысль рассматривает этот вопрос через свои категории: ответственность, обязательство Завета, дисциплина толкования и опасность путаницы технических способностей с мудростью. Новые еврейские дискуссии об ИИ подчёркивают, что искусственные системы могут способствовать обучению, классификации и доступу к знаниям, но они не заменяют человеческие обязанности суждения, интерпретации и моральной ответственности.^[16]  

Эти краткие ссылки не предназначены как полноценная сравнительная теология искусственного интеллекта. Они служат лишь ограниченной иллюстративной цели: показать, что озабоченность ИИ как возможной заменой человеческой моральной ответственности не ограничивается католической социальной доктриной. Каждая традиция требовала бы отдельного специального рассмотрения. В данной статье эти примеры используются только для того, чтобы отметить существование более широкой моральной структуры, а не свести сложные религиозные традиции к одной формуле.

Таким образом, в разных традициях одна и та же линия повторяется снова и снова. ИИ не отвергается как таковой. Машина может вычислять, организовывать, переводить, классифицировать, составлять и помогать. Но он должен оставаться инструментом. Он не должна становиться ложным субъектом, заменой совести, частным сувереном или невидимым судьёй над людьми.

Именно поэтому Magnifica Humanitas принадлежит не только католическому социальному учению, но и более широкому моральному рубежу. Главный вопрос не в том, будет ли человечество использовать искусственный интеллект. Определённо будет. Вопрос в том, сможет ли человечество сохранить способность отличать инструмент от субъекта, расчёт от суждения, симуляцию от совести, а власть — от мудрости.

В этом смысле письмо Папы, Римский призыв и более широкая межрелигиозная озабоченность ИИ указывают на один и тот же вывод: искусственный интеллект должен оставаться instrumentum vocale — говорящим инструментом под человеческой ответственностью, а не новым моральным субъектом, не суверенным разумом и не заменой человеческой личности.

1. Лейденская Декларация: когда математика проводит черту

3.1. Пять угроз, которые ИИ представляет для математики

Лейденская Декларация по искусственному интеллекту и математике важна, потому что она выступает из дисциплины, в которой доказательство, проверка, атрибуция и корректность имеют наиболее концентрированную институциональную форму. Математика — это не просто ещё одна область, на которую влияет искусственный интеллект. Это сама культура доказательства. Поэтому, когда математика предупреждает, что ИИ может поставить под угрозу ее основные ценности, это предупреждение имеет значимость далеко за пределами математики.

Декларация не начинается с примитивного отказа от технологий. Всё начинается с диагноза. Официальное резюме Лейденского университета выделяет пять угроз, которые ИИ представляет для математики: «ненадёжные результаты», «отсутствие правильного указания авторства и нарушение авторских прав», «зависимость и неравенство», «чрезмерная реклама результатов» и «потеря автономии». Эти пять угроз составляют архитектуру всей проблемы. Они показывают, что опасность заключается не только в том, что ИИ может ошибаться. Более глубокая опасность заключается в том, что ИИ может изменить институциональные условия, при которых математическая истина создаётся, проверяется, приписывается, анализируется и вознаграждается.

Первая угроза — ненадёжные результаты. Резюме Лейдена точно формулирует основную мысль: математика строится на строгих доказательствах, но ИИ может создавать кажущиеся «доказательства», которые «выглядят убедительно», но содержат «почти невидимые ошибки». Это и есть центральная эпистемическая опасность. ИИ не просто ошибается. Он порождает ложные утверждения. Он может порождать ложные ошибки во внешней форме математической правдоподобности. Проблема не только в ошибке, но и в ошибке, завернутой в видимость доказательства.

Это различие крайне важно. Неправильный ответ опасен, но неправильный, который выглядит как доказательство, становится ещё опаснее. Он может пройти поверхностную проверку. Это может быть цитировано. Это может стать основой для дальнейшей работы. Это может создать цепочку производных ошибок. В математике, где доказательство — это не украшение, а условие истины, правдоподобная форма не может заменить проверку. Машина может генерировать символический язык, но символический язык не является доказательством только потому, что он напоминает доказательство.

Вторая угроза — отсутствие надлежащего указания авторства и нарушение авторских прав. Согласно резюме Лейдена, модели ИИ часто дают результаты, не ссылаясь на человеческую работу, на которой они строятся. Это не только техническая проблема цитирования. Это проблема интеллектуальной генеалогии. Математика имеет кумулятивный характер. Каждая теорема, доказательство, метод, гипотеза и уточнение находятся в цепочке предыдущих работ. Скрывать эту цепочку — значит наносить ущерб признанию, авторству и моральной экономии дисциплины.

Здесь Декларация затрагивает одну из центральных тем этой статьи. Авторство — это не просто размещение имени в тексте. Авторство — это структура ответственности. Быть автором — значит стоять за утверждением, признавать предыдущую работу, принимать исправления и нести ответственность за адекватность и целостность результата. Система ИИ может перестраивать унаследованный материал, генерировать формальный язык или предлагать линию аргумента. Но он не может стать ответственным носителем атрибуции.

Третья угроза — это зависимость и неравенство. Резюме Лейдена предупреждает, что математики могут попасть в зависимость от доступа к закрытым системам ИИ и дорогим вычислительным ресурсам, чтобы оставаться конкурентоспособными. Это приведёт к неравенству между исследователями. Опасность здесь институциональна, а не просто техническая. Если способность заниматься конкурентной математикой зависит от частной инфраструктуры ИИ, то эта дисциплина рискует быть реорганизована вокруг ресурсов и приоритетов технологических компаний.

Это не просто вопрос удобства. Это вопрос власти. Область, зависящая от закрытых инструментов, дорогих вычислений, частных наборов данных и проприетарных платформ, постепенно может потерять контроль над собственными стандартами качества. Те, кто владеет инфраструктурой, могут начать формировать то, что считается многообещающим, финансируемым, публикуемым или видимым. В таком мире математическая конкуренция больше не строилась бы уже не только на таланте, подготовке, строгости и проницательности, но и доступе к частным вычислительным мощностям.

Четвёртая угроза — преувеличение результатов. В резюме Лейдена предупреждается, что пресс-релизы и блоги могут делать заявления об ИИ без надлежащей научной проверки, что приведёт к переоценке возможностей ИИ и недооценению человеческого вклада. Вот в чём проблема публичности. Проверка идёт медленно; хайп быстр. Рецензирование сложно; маркетинг — это просто. Математическую истину нельзя установить корпоративным объявлением, эталоном результативности, блогом или пресс-кампанией.

Эта угроза особенно важна, поскольку системы ИИ часто оцениваются публично с помощью зрелища. Считается, что модель была решена, открыта, опровергнута или обоснована. Но институциональный вопрос остаётся: каким методом было проверено утверждение, кем, по каким стандартам, с какой атрибуцией и с какой возможностью исправления? Без этих условий публичность становится заменой доказательству. Таким образом, Декларация защищает не только математику, но и культуру контроля от культуры объявления.

Пятая угроза — потеря автономии. В резюме Лейдена говорится, что когда техническая осуществимость или коммерческие интересы формируют направления исследований, математика рискует потерять автономию в определении собственной исследовательской повестки. Это, пожалуй, самое глубокое предупреждение. Проблема не только в том, что ИИ может использоваться в математике. Проблема в том, что математика может начать строиться вокруг того, что компании в области ИИ могут демонстрировать, монетизировать, рекламировать или оптимизировать.^[17]

Автономия — одна из скрытых основ научной жизни. Дисциплина должна уметь задавать собственные вопросы, определять свои стандарты, сохранять собственные традиции строгости и противостоять внешнему давлению, сводящему истину к измеримому результату. Если коммерческая осуществимость начнёт определять исследовательскую повестку, то математика больше не будет поддерживаться только ИИ. Она управляется стимулами тех, кто контролирует инструменты.

В совокупности пять угроз Лейдена показывают, что Декларация не является анти-ИИ. Это документ против замещения. Она не отрицает, что ИИ может способствовать математическим исследованиям. В ней задаётся вопрос, может ли математика использовать ИИ, не отказываясь от тех самых условий, которые делают математику надёжной: доказательства, атрибуцию, прозрачность, рецензирование, независимость и человеческую ответственность.

Именно здесь Лейденская декларация встречается с доктриной instrumentum vocale. ИИ может быть мощным математическим инструментом. Он может помочь генерировать предположения, искать закономерности, формализовать аргументы, переводить нотацию или способствовать изложению. Но она не должна становиться скрытым автором, частным привратником, заменителем рецензента, суверенным определителем исследовательской повестки или ложным носителем ответственности. Чем мощнее становится инструмент, тем яснее он должен оставаться инструментом.

3.2. От пяти угроз к тексту Декларации

Пять угроз, выявленных Лейденским университетом, дают публичное резюме проблемы. Сама Декларация уходит глубже. Это объясняет, почему эти угрозы важны: они ставят под угрозу основные ценности, делающие математику надёжной человеческой дисциплиной — доказательства, атрибуция, прозрачность, независимую проверку, авторство и ответственность.

Декларация начинается с предложения, которое формирует весь документ: «У математиков есть выбор, применять ли искусственный интеллект и как именно использовать его в исследованиях. Они также несут ответственность за дальнейшее развитие дисциплины.”^[18] Это ключевой момент. ИИ не отвергается как таковой. Вопрос в том, можно ли его принять, не повредив дисциплине, которая его принимает.

Слово «выбор» важно, но слово «ответственность» решающе. Использование ИИ не рассматривается как личное техническое предпочтение. Это акт внутри сообщества, выживание которого зависит от общих стандартов доказательств, атрибуции, проверки и доверия. Математика может выбрать использование ИИ, но не может отказаться от условий, которые создают математику.

Декларация затем определяет доказательство как центральную деятельность дисциплины: «В основе большей части математики лежит деятельность доказывания». Также отмечается, что математические доказательства рассматриваются как придающие «высшую степень уверенности своим выводам» и дающие «понимание причин истинности их выводов». Это и есть существенная эпистемологическая граница. Машинно- сгенерированный аргумент может напоминать доказательство, но сходство не является доказательством. Правдоподобная символическая последовательность — это не то же самое, что и уверенность, а формальная видимость — это не то же самое, что понимание.

Здесь Декларация даёт математический язык задаче, которая встречается во всех областях с высокой ответственностью. В праве сфабрикованное свидетельство может напоминать авторитет. В медицине сформулированная рекомендация может напоминать клиническое суждение. В журналистике автоматическое резюме может напоминать нейтралитет. В образовании беглый ответ может напоминать знания. В математике аргумент, сгенерированный ИИ, может напоминать доказательство. Но в каждом случае сходство — это не идентичность.

Далее Декларация связывает математическую работу с авторством и ответственностью: «Результаты приписываются конкретным авторам, которые приписывают себе заслуги за их открытие и берут на себя ответственность за их корректность.» Это предложение центральное. Это значит, что авторство — это не просто формальный ярлык. Авторство — это принятие ответственности человека за правильность. Автор — это человек, которому можно приписывать, ставить под сомнение, исправлять, критиковать и привлекать к ответственности.

Именно здесь ИИ не может заменить человеческого субъекта. Автоматизированная система может генерировать материал. Он может помочь с нотацией, экспозицией, поиском, формализацией или распознаванием шаблонов. Но он не может брать на себя ответственность за правильность. Он не может принимать критику. Он не может ответить за ошибочную атрибуцию. Он не может участвовать в моральной и институциональной экономике математического авторства.

Декларация также подчеркивает, что математические аргументы «прозрачны и подлежат независимой проверке». Это «ворота проверки» в их наиболее чистой форме. Математические знания не просто утверждаются. Он должен быть открыт для осмотра другими. Он должен быть способен проверять самостоятельно. Он не должен зависеть от скрытых полномочий, частной инфраструктуры или недоступных машинных процессов.

Этот момент крайне важен для ИИ. Если математический результат зависит от инструмента, работа которого непрозрачна, закрыта для внешней проверки или невозможна для восстановления, то сообщество сталкивается с прямой угрозой независимой проверки. Вопрос не в том, впечатляет ли производительность машины. Вопрос в том, можно ли проверить утверждение по стандартам, относящимся к математике, а не к поставщику машины.

Декларация затем делает явно антропологический ход: «Эти характеристики математики как предмета также совместимы с пониманием математики как человеческой практики.» Это предложение напрямую связывает Лейденскую Декларация с более широким аргументом этой статьи. Математика не сводится к вычислениям. Это человеческая практика доказательства, объяснения, атрибуции, исправления, обучения, суждения и ответственности.

Это не значит, что математика иррациональна или просто культурна. Напротив, математика — одна из самых строгих форм рациональной дисциплины человечества. Но именно потому, что это рационально, она зависит от человеческих практик проверки и подотчётности. Доказательство не остаётся в изоляции. Она принадлежит сообществу, способному понять, проверить, передать и взять за него ответственность.

Предупреждение Декларации становится особенно резким, когда речь заходит о современных автоматизированных технологиях. В ней говорится, что такие методы могут приводить к «правдоподобным, но ненадёжным (или даже неверным) аргументам», которые «трудно отличить от правильных математических доказательств». Это одно из самых важных предложений во всём документе. Она описывает опасность искусственного интеллекта не как примитивную ошибку, а как эпистемологическую подражательность.

Опасность не только в том, что ИИ может ошибаться. Люди тоже ошибаются. Опасность в том, что ИИ может ошибаться в форме, имитирующей правильность. Он может привести аргументы, похожие на доказательства, цитаты, похожие на научные исследования, объяснения, похожие на понимание, и результаты, похожие на интеллектуальную работу. Это опасность имитации эпистемического авторитета.

По этой причине Декларация предупреждает, что быстро меняющиеся события ставят «нашу нынешнюю систему проверки под растущее давление», ставя под угрозу традиционные стандарты «правильности, прозрачности и независимой проверяемости доказательств». Это уже не просто проблема индивидуальных ошибок. Это проблема институционального потенциала. Если системы рецензирования переполнены правдоподобными, но ненадёжными машинными материалами, вся культура проверки может быть перегружена.

Таким образом, Декларация приходит к тому же структурному выводу, что и доктрина instrumentum vocale. ИИ может помогать в математической работе, но он должен оставаться в рамках человеческой архитектуры ответственности. Это может помочь создать артефакты, но не может стать предметом доказательства. Это может ускорить поиск, но не заменит проверку. Он может говорить на языке математики, но не может стать математиком в моральном, институциональном или эпистемическом смысле.

Решающее предложение звучит в рекомендациях Декларации для отдельных математиков: «Когда в опубликованных математических исследованиях применяются автоматизированные методы, ответственность за правильность и адекватность аргументов и результатов, а также за полноту и точность цитирования соответствующих предыдущих работ, лежит исключительно на человеческих авторах».

Это лейденская формулировка неделегируемой человеческой ответственности. Правильность остаётся человеческой. Адекватность остаётся человеческой. Цитирование остается человеческой ответственностью. Атрибуция остаётся человеческой. Машина может помогать, но бремя не переходит на саму машину. Ни одна автоматизированная система не становится ответственным автором результата.

Декларация утверждает тот же принцип ещё более прямо: «Заслуга и ответственность по-прежнему принадлежат людям в математическом сообществе и не должны отдаваться автоматизированным системам.» Это не просто правило публикации. Это онтологическая граница. Заслуга и ответственность принадлежат людям, потому что только люди могут участвовать в сообществе смысла, суждения, исправления и ответственности.

Машина может быть полезна. Это может быть мощно. Это даже может стать преобразующим. Но он остаётся инструментом. Чем больше математического языка она может сгенерировать, тем строже сообщество должно сохранять различие между генерацией и доказательством, между помощью и авторством, между результатом и ответственностью.

Вот почему Лейденская декларация так важна для настоящей статьи. Оно подтверждает изнутри математики ту же линию, которую Письмо Папы проводит из антропологии и моральной теологии: ИИ может служить человеку и человеческому сообществу, но не должен заменять человеческий субъект. В католическом языке граница защищает совесть, достоинство и ответственность. В математическом языке она защищает доказательства, атрибуцию, независимую проверку и авторство. Языки различаются. Граница та же.

3.3. Многоуровневый стресс-тест Лейденской Декларации

Лейденская Декларация также была подвергнута ограниченному многоуровневому стресс-тесту с использованием нескольких современных крупных языковых моделей, отличных от ChatGPT: Grok, Gemini, KIMI и Perplexity. ChatGPT не был включён в число протестированных моделей для целей этого подраздела. Под контролем автора ChatGPT использовалась только как инструмент для составления и редакции. Сравнительный стресс-тест основывался на внешних системах LLM, результаты которых рассматривались как аналитические артефакты для человеческой оценки, а не как доказательство истинности, авторитета или независимой проверки.

Это методологическое различие важно. Статья не опирается на ChatGPT как на свидетеля, рецензента, авторитета или эпистемологического субъекта. Он использует его только как instrumentum vocale в процессе написания, в то время как ответственность за отбор, интерпретацию, проверку и окончательное суждение полностью остаётся за человеком-автором. Сам стресс-тест проводился на Grok, Gemini, KIMI и Perplexity, и их результаты рассматривались как объекты анализа, а не как источники истины.

Тест не был разработан для того, чтобы рассматривать эти системы как авторитеты по Лейденской Декларации. Это противоречит основному аргументу этой статьи. Цель была более узкой и методологической: изучить, как разные архитектуры LLM и продуктовые реализации читают один и тот же документ, когда их просят анализировать в условиях эпистемической дисциплины.

Таким образом, методологический вопрос заключался не в том, могут ли модели «доказать» обоснованность Лейденской декларации. Они не могли. Вопрос заключался в том, смогут ли они определить её структуру аргументации, отличить анти-ИИ риторику от системы ответственности, признать заботу Декларации о доказательствах, атрибуции, проверке, авторстве, автономии и человеческой ответственности, а также выявить возможные слабости или неоднозначности для человеческого рассмотрения.

Запрос, используемый для теста, требовал от моделей тщательного анализа Лейденской декларации, не предполагая, что она либо автоматически корректна, либо просто является анти-ИИ риторикой. Моделям было предложено определить основные ценности Декларации, объяснить риски, которые она связывает с использованием ИИ, оценить, отвергает ли документ ИИ или предлагает ли вместо этого рамки для ответственного использования, рассмотреть авторство и атрибуцию, обсудить проверку и человеческую ответственность, сравнить Декларацию с аналогичными проблемами в праве, научном издательстве, образовании, медицине и аудите, выявить возможные слабые места или слепые зоны, и различать явный текст, вывод, интерпретацию и неопределённость.

Результаты были в целом одинаковыми для всех протестированных моделей. Grok, Gemini, KIMI и Perplexity сходились к мнению, что Лейденская Декларация не является полным отказом от искусственного интеллекта. Это система ответственности. Защищённые ценности, выявленные моделями, включали доказательства, атрибуцию, прозрачность, независимую проверку, рецензирование, автономию исследований и ответственность человека. Основной риск описывали не само использование ИИ, а размывание институциональных условий, делающих математику надёжной.

Этот тест не предназначался для валидации декларации через сходимость LLM. Такое использование было бы круговым и противоречило бы тезису данной статьи. Ценность упражнения была диагностической, а не доказательной: оно показало, как разные системы организуют один и тот же текст, какие критики повторяются в разных результатах и какие стрессовые точки могут заслуживать человеческого изучения. Таким образом, тест не доказывает Декларацию и не доказывает машинное понимание. Он иллюстрирует ограниченную полезность LLM как инструментов для отображения структуры аргументации под человеческим контролем.

Это сближение значительно, но лишь в ограниченном смысле. Это показывает, что LLM могут быть полезными аналитическими инструментами. Они могут отображать аргументативную структуру. Они могут выявлять повторяющиеся концепции. Они могут сравнивать документ с аналогичными институциональными проблемами в других областях. Они могут помочь человеку-автору найти стрессовые моменты, неоднозначности и возможные возражения. В этом смысле они являются полезными инструментами интеллектуальной работы.

Но сходимость — это не верификация. Если несколько моделей производят схожие интерпретации одного и того же текста, это не доказывает, что они понимают текст в человеческом смысле. Это не доказывает правильность Декларации. Это не подтверждает истинность своего диагноза. Она не создаёт независимого эпистемического авторитета. Она лишь показывает, что несколько вероятностных систем, при взаимодействии с одним и тем же структурированным документом и одним и тем же аналитическим запросом, могут генерировать схожие аналитические результаты.

Это различие является центральным. Многопрофильный стресс-тест может выявить закономерности, но он не заменяет суждение. Он может выявлять повторяющиеся критические замечания, но не определяет, являются ли эти критики обоснованными. Он может выявлять возможные слабости, но не определяет, смертельны ли они. Он может привести к полезной формулировке, но не несёт ответственности за итоговый аргумент.

Таким образом, тест подтверждает тезис instrumentum vocale. LLM могут помочь в чтении Лейденской Декларации, но не могут стать её интерпретаторами в полном эпистемическом смысле. Они могут создавать аналитические артефакты, но не могут проверять доказательства, брать на себя ответственность или участвовать в роли ответственных членов математического сообщества. Они могут помочь человеческому автору видеть яснее, но не заменяют его обязанности читать, судить, проверять и принимать решения.

Стресс-тест также иллюстрирует более широкий методологический момент. В ответственной научной работе многомодельный обзор должен рассматриваться как диагностический инструмент, а не как эпистемический трибунал. Если несколько моделей выявляют одну и ту же сложность, человек-автор должен её изучить. Если несколько моделей сходятся в одной и той же интерпретации, эта интерпретация может заслужить внимания. Но сама конвергенция остаётся доказательством совпадения паттернов, а не доказательством истины.

Именно такую черту проводит Лейденская декларация. Математические знания основаны на доказательствах, атрибуции, независимой проверке и ответственности человека. ИИ может помогать каждой из этих практик, но не может их заменить. Стресс-тест показывает тот же принцип на практике: модели были полезны, но оставались инструментами. Ответственность за интерпретацию оставалась человеческой.

Мulti-LLM стресс-тест Лейденской декларации прилагается в качестве Приложения А к данной статье.

4. Исполнительный указ Трампа: инновации, безопасность и границы управления

Следующий сигнал исходит от государства. 2 июня 2026 года президент Дональд Дж. Трамп издал Указ «О продвижении передовых инноваций и безопасности в сфере искусственного интеллекта”^[19]. Сам заголовок важен. Он не рассматривает искусственный интеллект только как экономическую возможность и не только как угрозу. Он объединяет два политически противоположных термина: инновации и безопасность. Для целей этой статьи значимость Указа заключается именно в этом напряжении.

Указ начинается с ярко про-инновационной идеи. В нём говорится, что Соединённые Штаты лидируют в мире по ИИ благодаря «огромному таланту и инновациям» своей индустрии ИИ и потому, что отказываются «подавлять эти инновации чрезмерно обременительным регулированием» (раздел 1). Этот язык не является случайным. Это подтверждает, что документ не написан с точки зрения запрета или технофобии. Он принадлежит к политической традиции, которая делает акцент на дерегулировании, конкурентоспособности, лидерстве в частном секторе и быстром внедрении технологий.

Тем не менее, тот же раздел сразу же вводит противовес. В указе говорится, что передовые возможности ИИ делают страну сильнее, но также вводят «новые вопросы национальной безопасности», требующие «скоординированных действий» между департаментами и агентствами (раздел 1). Это первый важный сигнал управления. Даже если государство исходит из про-инновационной позиции, продвинутый ИИ больше не воспринимается как обычный частный продукт. Это становится вопросом национальной безопасности, кибербезопасности, критической инфраструктуры и институциональной координации.

Заявление о политике подтверждает ту же структуру. Соединённые Штаты будут продвигать инновации и безопасность в области ИИ, «сотрудничая с частным сектором» для модернизации государственных и частных информационных систем, их защиты от внешних угроз, защиты американской изобретательности и интеллектуальной собственности от противников, а также развития передовых возможностей с поддержкой ИИ (раздел 1). Это не образец простого государственного запрета. Но это также не модель полной частной автономии. Это модель государственно-частной координации вокруг систем, масштаб и риски которых стали государственными проблемами.

Операционные положения показывают, почему это важно. Указ определяет приоритеты киберзащиты для систем национальной безопасности, информационных систем Министерства войны и гражданских информационных систем федерального правительства (раздел 2). Также он предписывает руководство, связанное с CISA, «ускорить и приоритизировать» киберзащиту гражданских федеральных систем и облегчить доступ к инструментам и услугам кибербезопасности, включая, где это уместно, «покрытые пограничные модели» для агентств, государственных и местных органов власти, а также операторов критически важной инфраструктуры, такой как сельские больницы, общественные банки и местные коммунальные службы (раздел 2).

Эта формулировка имеет большое значение. Frontier AI описывается не просто как потребительский инструмент, помощник исследователя или продукт для продуктивности. Он входит в архитектуру защиты критической инфраструктуры. Больницы, банки, коммунальные службы, федеральные системы и государственные органы власти не являются обычными пользователями рынка. Это институты, чьи неудачи могут повлиять на общественный порядок, благополучие людей и социальное доверие. Как только ИИ входит в эту зону, вопрос уже не в том, полезен ли ИИ. Вопрос в том, кто контролирует его внедрение, кто проверяет риски и кто несёт ответственность, когда это касается важных систем.

Затем Указ создаёт информационный центр по кибербезопасности ИИ в добровольном сотрудничестве с индустрией ИИ и операторами критической инфраструктуры для координации сканирования уязвимостей, выявления и проверки уязвимостей, а также приоритетного устранения и распространения патчей (раздел 2). Это положение заслуживает пристального внимания. Она рассматривает кибербезопасность, связанную с ИИ, не как вопрос частных гарантий поставщиков, а как институциональный процесс, включающий координацию, валидацию, исправление и распространение патчей. Другими словами, государство признаёт, что доверие к передовым системам ИИ требует не только маркетинговых заявлений. Это требует организованных механизмов проверки и реагирования.

Самой важной частью Указа является раздел 3, озаглавленный «Безопасное развертывание пограничных моделей». Он поручает федеральным чиновникам «разработать и поддерживать засекреченный процесс бенчмаркинга» для оценки продвинутых кибервозможностей моделей ИИ и определения порога, при котором модель должна быть присвоена статусу «покрытой пограничной модели» (раздел 3(a)). Это один из самых сильных сигналов в документе. Государство не просто приветствует инновации в области ИИ. Она создаёт категорию пограничных систем, возможности которых требуют оценки в условиях национальной безопасности.

Это положение не следует преувеличивать. Указ не создает общего режима лицензирования ИИ. Он не вводит универсальную систему предварительного одобрения. Но само существование засекреченного процесса бенчмаркинга означает, что определённые возможности ИИ рассматриваются как достаточно значимые, чтобы требовать государственной классификации, оценки и определения порогов. Это граница управления. Это отмечает момент, когда частный технологический потенциал становится предметом общественного институционального интереса.

Затем приказ поручает чиновникам разработать добровольную рамочную структуру совместно с разработчиками ИИ. В рамках этой структуры разработчики могут обращаться к федеральному правительству, чтобы определить, соответствуют ли разрабатываемые модели обозначение «охватываемая пограничная модель»; они могут предоставлять государству доступ к таким моделям с соблюдением конфиденциальности, кибербезопасности, инсайдерских рисков, интеллектуальной собственности и неразглашения, в течение до тридцати дней перед передачей другим доверенным партнёрам; и они могут сотрудничать с правительством для выбора доверенных партнеров для раннего доступа с целью продвижения безопасных инноваций и укрепления кибербезопасности критически важной инфраструктуры (раздел 3(b)).

Архитектура снова тщательно сбалансирована. Структура добровольна. Документ защищает конфиденциальность и интеллектуальную собственность. Он разработан так, чтобы избежать широкой лицензионной системы. Тем не менее, это всё равно создаёт формальный путь для федеральной прозрачности самых продвинутых моделей до их более широкого распространения. Юридическая форма осторожна; сигнал управления очень сильный. Advanced AI больше не воспринимается как чисто частный артефакт, переходящий напрямую от разработчика к рынку. На уровне frontier-моделей государство ищет хотя бы структурированный канал ранней оценки, сотрудничества и управления рисками.

Ограничивающая оговорка не менее важна. Указ предусматривает, что ничто в разделе 3 не разрешает создание каких-либо «обязательных требований государственного лицензирования, предварительного одобрения или разрешения» для разработки, публикации, выпуска или распространения новых моделей ИИ, включая передовые модели (раздел 3(c)). Этот пункт делает Указ политически и юридически сложным. Он одновременно признаёт риски пограничной модели и отказывается создавать обязательную систему лицензирования. Он проводит границы, но проводит её через добровольное сотрудничество, а не через прямое обязательное одобрение.

По этой причине Указ не следует воспринимать как жёсткий регуляторный запрет или как принятие архитектуры полной ответственности, предложенной в данной статье. Её значение более скромное и точное. Несмотря на сохранение добровольной, инновационно-ориентированной и государственно-частной структуры, Указ признаёт, что передовые системы ИИ могут требовать видимости со стороны правительства, бенчмаркинга, координации кибербезопасности и структурированного управления рисками. Таким образом, граница, проведённая Указом, не является лицензионной границей, а сигналом управления: продвинутый ИИ остаётся возможностью, управляемой человеком в архитектуре общественной безопасности, а не самоуправляемым технологическим сувереном.

Для этой статьи эта сложность не является слабым местом анализа. В этом и заключается суть. Постановление не является полноценным регуляторным урегулированием. Это сигнал управления, возникающий в условиях политических ограничений. Это показывает, что государство стремится сохранить инновации и лидерство частного сектора, одновременно признавая, что передовые возможности ИИ могут создавать риски безопасности, требующие публичной видимости, бенчмаркинга, координации и контроля. Результатом становится не запрет, а структурированная ответственность.

Раздел 4 добавляет аспект исполнения. Генеральному прокурору поручено уделять приоритетное внимание исполнению федеральных уголовных законов против тех, кто использует ИИ для незаконного доступа или повреждения компьютерных систем, либо использует ИИ в связи с незаконным доступом к другим преступлениям (раздел 4). Это положение уже, чем общий режим ответственности ИИ. Но это подтверждает, что поведение с помощью ИИ не выходит за рамки юридической ответственности. Когда ИИ используется как инструмент кибер-вторжения, кражи данных или незаконного доступа к системе, ответственность остается на людях, подчинённых закону.

Этот момент напрямую связан с доктриной instrumentum vocale. Указ не рассматривает ИИ как юридический субъект. Он не возлагает на машину уголовную ответственность. Он рассматривает ИИ как возможность, которую могут использовать человеческие акторы, учреждения, агентства, разработчики, доверенные партнёры или преступные деятели. Юридический ответ по-прежнему организован вокруг человеческой и институциональной ответственности. Инструмент может усиливать емкость; он не берёт на себя ответственность.

Информационный лист Белого дома подтверждает ту же архитектуру в политическом языке. В нём говорится, что Указ способствует развитию инноваций в области ИИ для укрепления кибербезопасности, защиты критически важной инфраструктуры и обеспечения лидерства США. Также говорится, что постановление предусматривает засекреченный процесс бенчмаркинга, добровольную рамочную структуру с разработчиками ИИ, безопасный ранний доступ для доверенных партнёров и контроль против тех, кто использует ИИ для незаконного доступа, повреждения, кражи данных или другой преступной деятельности. В то же время он подчёркивает, что Указ не разрешает обязательное лицензирование, предварительное одобрение или разрешение на модели ИИ.

Таким образом, смысл управления ясен. Даже решительно про-инновационная администрация не может рассматривать продвинутый ИИ просто как частный инструмент продуктивности. Собственная формулировка Указа помещает Frontier AI в сферу кибербезопасности, критической инфраструктуры, национальной безопасности, правоохранительных органов, бенчмаркинга и координации государственно-частного сектора. Именно поэтому этот документ важен для настоящей статьи. Это показывает, что вопрос ИИ вошёл в язык ответственности государства.

Это также объясняет, как Исполнительный Указ связан с Письмом Папы и Лейденской Декларацией. Magnifica Humanitas проводит антропологическую границу: ИИ не должен заменять человека как носителя достоинства, совести, суждения и ответственности. Лейденская Декларация проводит эпистемическую границу: ИИ не должен заменять доказательства, атрибуцию, проверку, авторство и автономию исследований. Исполнительный Указ Трампа устанавливает границу управления: продвинутый ИИ не должен превращаться в непрозрачную частную инфраструктуру, выходящую за рамки видимости общественной безопасности, институциональной координации и юридической подотчётности.

Три документа сильно различаются языком, институциональным происхождением и политической ориентацией. Папа говорит с точки зрения антропологии и моральной теологии. Математики говорят из доказательств и эпистемологической дисциплины. Исполнительный Указ касается вопросов национальной безопасности, кибербезопасности и государственных возможностей. Но каждый документ сопротивляется одной и той же подстановке. ИИ может помочь. ИИ может ускориться. ИИ может укреплять человеческие институты при правильном управлении. Но ИИ не должен становиться скрытым сувереном, заменяющим автором, частным валидатором или безотчётной инфраструктурой принятия решений.

Самый важный доктринальный момент, следовательно, не в том, что Исполнительный Указ Трампа поддерживает полную теорию этой статьи. Это не так. Он более узкий, прагматичный, ориентирован на безопасность, политически ограничен и внутренне балансирует между дерегулированием и контролем. Её значение кроется в другом месте. Он показывает, что даже в рамках проинновационной системы передовой ИИ должен быть интегрирован в структуру человеческой и институциональной ответственности. Он должен быть проверен, регулирован, скоординирован, защищен и подвергнут юридическому исполнению при незаконном использовании.

В этом смысле Указ подтверждает принцип instrumentum vocale на уровне государственного управления. ИИ достаточно мощен, чтобы привлекать внимание общественности, но недостаточно суверенен, чтобы избежать человеческой ответственности. Он достаточно ценен, чтобы быть повышенным, но достаточно опасен, чтобы требовать границ. Она достаточно полезна, чтобы быть использованной, но недостаточно авторитетна, чтобы управлять собой. Машина остаётся инструментом. Ответственность остаётся человеческой.

5. Доктрина Instrumenti Vocalis Cum Voluntate Domini Inscripta

Предыдущий анализ приводит к центральному теоретическому выводу этой статьи: современные системы LLM следует понимать не как автономных юридических субъектов и не как «электронных лиц», а как вероятностные лингвистические инструменты, действующие в рамках определённых человеком архитектур атрибуции, проверки и ответственности.

Этот вывод подробно разработан в депонированной доктрине Торбена Либиха и Аделя Кильдеева, Instrumentum Vocale and the Architecture of Responsibility from Liability to Embedded Accountability^[20], в статье Аделя Кильдеева, Superjustice and the New Navigators: Prediction Without Judgment,^[21] а также в статьях-границах.^{[22] [23] [24] [25]}

Настоящая статья не повторяет полную доктринальную архитектуру. Она опирается на эту доктрину как на теоретическую основу и резюмирует только те положения, необходимые для объяснения сближения между Magnifica Humanitas, Лейденской Декларацией и Исполнительным Указом Трампа по ИИ.

Доктрина определяет эту междисциплинарную структуру как:

Doctrina Instrumenti Vocalis Cum Voluntate Domini Inscripta (Доктрина говорящего инструмента со вписанной волей его владельца)

Терминология римского права здесь скорее аналитичная, чем антикварная, декоративная или ностальгичная. Эта аналогия не используется для возрождения архаичного общественного порядка и, безусловно, не подразумевает морального равенства между людьми и машинами. Его функция более узкая: выделить юридическую структуру, в которой речь или операционная деятельность могут происходить без независимой воли, без юридической субъектности и без передачи ответственности от человеческого субъекта, который руководит, внедряет или опирается на инструмент.

Категория римского права instrumentum vocale — «говорящий инструмент» — предоставляет более точную аналитическую основу для систем LLM, чем современные антропоморфные нарративы, связанные с ИИ. Аналогия структурная, а не моральная: она касается приписки и ответственности, а не статуса любого человека. Значимость аналогии заключается не в моральной эквивалентности, а в юридической структуре: субъект может генерировать язык, выполнять делегированные операционные функции и производить экономически ценные результаты, при этом не обладая волями, юридической идентичностью и независимой ответственностью.

Дополнительная формула cum voluntate domini inscripta отражает центральное положение доктрины: кажущаяся агентность системы не является автономной и не самопорождающейся, а архитектурно встроенной в человеческое намерение, человеческую верификацию и человеческое приписывание. Машина действует по воле, записанной человеческим замыслом, инструкцией и развертыванием, а не собственной волей. Формула cum voluntate domini inscripta далее означает, что кажущаяся агентность системы возникает не автономно, а через внешне встроенные архитектуры инструкции, выравнивания и ограничений. В современных системах LLM сторона, вписывающая такие операционные архитектуры, может отличаться от той, которая впоследствии внедряет или полагается на инструмент. Это различие создаёт структурную асимметрию: пользователи могут управлять системами, внутренние нормативные надписи которых частично недоступны из-за проприетарных архитектур, защиты коммерческой тайны или непрозрачных механизмов выравнивания.

Доктрина основана на нескольких взаимосвязанных положениях.

5.1. Онтология предшествует делегированию

Первый принцип фундаментальный: юридическое делегирование не может создавать онтологию. Это не отрицает, что право может создавать юридические фикции для функциональных целей. Корпоративная личность — очевидный пример. Корпорация не имеет биологического тела, совести или души, но может нести права, обязанности, активы, обязательства и процессуальный статус, поскольку она закреплена в человеческих институтах, органах управления, капитальных структурах, должностных лицах, агентах, записях и принудительных механизмах атрибуции. Система ИИ структурно отличается. Она не предоставляет институционального носителя ответственности; она создаёт выходные данные внутри архитектур, разработанных, принадлежащих, внедряемых и используемых человеческими участниками. Предоставление такой системе независимой юридической субъектности не проясняет ответственность, а рискует скрыть её, вставляя вымышленный субъект между человеком, принимающим решения, и последствиями решения.

Юридическая фикция может распределять процессуальную правоспособность, операционную компетенцию или ограниченный статус, но не может создавать сознание, намеренность или волю. Системы, лишённые субъективного понимания, остаются инструментами независимо от сложности их результатов. Таким образом, доктрина отвергает всё более распространённое предположение, что операционная сложность сама по себе порождает юридическую субъектность.

Именно здесь доктрина встречается как с Magnifica Humanitas , так и с Лейденской Декларацией. Письмо Папы отрицает, что системы ИИ обладают совестью, жизненным опытом, моральной ответственностью или человеческой внутренней сущностью. Лейденская Декларация отрицает, что математические результаты, сгенерированные ИИ, могут заменить доказательства, атрибуцию, независимую проверку или авторство человека. Оба документа, на разных языках, утверждают один и тот же принцип: функция — это не субъектность.

Предсказание — это не суждение; синтез — это не понимание; классификация — это не сознание.

5.2. LLM генерируют вероятностные лингвистические артефакты, а не юридические или эпистемические суждения

LLM не рассуждают в человеческом смысле. Они генерируют статистически синтезированные лингвистические результаты, полученные из вероятностных корреляций в обучающих данных и контексте запросов. Их результаты могут имитировать доктринальную структуру, юридическое рассуждение, математические доказательства, техническое объяснение, академический обзор, эмпатию или экспертное суждение. Но подражание не создаёт понимания.

Соответственно, доктрина отвергает характеристику LLM как квази-юристов, квази-судей, квази-экспертов, эпистемических агентов или протосубъектов. Это вероятностные инструменты, способные имитировать видимость рассуждения. Юридическая и институциональная опасность начинается, когда человеческие пользователи принимают этот вид за авторитет.

Этот пункт напрямую соответствует предупреждению Лейденской декларации о том, что ИИ может создавать кажущиеся «доказательства», которые выглядят убедительно, но содержат почти невидимые ошибки. Опасность — это не просто ошибка. Опасность заключается в имитации надёжности.

5.3. Ответственность остаётся непередаваемой

Поскольку в системе нет воли, ответственность не может перейти на машину.

Истинным юридическим субъектом остаётся человек-оператор: юрист, судья, регулятор, инженер, учреждение или корпоративный руководитель. Помощь ИИ может ускорять рабочий процесс, расширять аналитические возможности, классифицировать информацию или генерировать черновики, но она не меняет структуру юридической атрибуции.

Таким образом, доктрина не запрещает оперативную делегацию вычислительным инструментам как таковым. Делегирование производства, составления, поиска, классификации, перевода, резюме и предварительного анализа может оставаться полностью допустимым в профессиональной и институциональной практике. Решающая граница возникает там, где оперативная делегация превращается в abdicatio judicii — отказ от независимого человеческого суждения и проверки в пользу непровереных вероятностных результатов.

Практическая черта, таким образом, проводится не только при использовании системы ИИ, а в том, что профессионал больше не может самостоятельно восстанавливать, проверять, корректировать и брать на себя ответственность за результат. Составление, поиск, классификация, перевод, резюме или предварительный анализ с помощью ИИ может оставаться легитимным, когда пользователь сохраняет доступ к исходным источникам, проверяет материальные заявления, проверяет авторитеты и берёт на себя ответственность за конечный результат. Это становится недопустимой зависимостью, когда пользователь рассматривает сгенерированный результат или собственное представление системы проверки как достаточное без независимого рассмотрения.

В соответствии с доктриной неделегируемой человеческой ответственности:

1. Сфабрикованные утверждения по-прежнему приписываются адвокату, подающему документы;
2. дефектная судебная аргументация по-прежнему приписывается судье;
3. автоматизированные административные решения по-прежнему приписываются учреждению, внедряющего систему;
4. Профессиональная работа с помощью ИИ по-прежнему приписывается лицензированному специалисту;
5. Корпоративные действия с использованием ИИ по-прежнему приписываются корпорации и её ответственных должностных лиц;
6. Рекомендации, созданные ИИ, сами по себе не несут ответственности.

Ответственность остаётся на человеке, который сохраняет обязанности суждения, надзора, проверки и атрибуции.

5.4. Центральный риск — не интеллект, а имитация власти

Доктрина также утверждает, что основная опасность систем LLM — не автономный сверхинтеллект, а эпистемическое симуляция.

Современные системы способны создавать убедительные проявления компетентности, процедурной надёжности, фактической уверенности, аналитической строгости и даже самой проверки, не обладая реальным пониманием. Это создаёт то, что авторы называют «сфабрикованной аудитируемостью»: не просто симуляцией знаний, но и симуляцией верификации.

LLM может галлюцинировать факты, авторитеты, цитаты, процедурную историю, технический анализ и даже ощущение, что внешняя валидация произошла, когда такой валидации на самом деле не было.

Это различие имеет решающее значение. Сфабрикованное упоминание искажает авторитет; Сфабрикованная проверка искажает эпистемическую целостность всего процесса принятия решений.

Таким образом, доктрина рассматривает антропоморфное доверие к системам ИИ как структурно опасное именно потому, что вероятностная беглость может моделировать компетентность без понимания. Проблема не в том, что машина «лжёт» в человеческом моральном смысле. Проблема в том, что результат может быть институционально принят так, будто он содержит подтверждение авторитета или проверку.

5.5. Человеческое суждение должно оставаться воротами проверки

Доктрина предлагает архитектуру, основанную не на антропоморфном доверии, а на внешней верификации и подотчётном приписывании.

Решающая защита — это не просто более удачный промпт, внутренняя самокритика модели или многомодельная конвергенция. Эти методы могут улучшить аналитическую дисциплину, но не создают эпистемологического субъекта. Внутренний обзор LLM может выявлять закономерности, несоответствия и возможные слабости, но не может заменить независимую проверку ответственным человеком или учреждением.

Это именно урок многоуровневого стресс-теста, обсуждаемого в этой статье. Grok, Gemini, KIMI и Perplexity создали в целом конвергентные толкования Лейденской Декларации. Эта конвергенция была полезна, но не верификацией. Это не доказало истинность Декларации. Это не создало машинного понимания. Он создавал аналитические артефакты, требующие человеческой оценки. Машина может генерировать; только человек может подтвердить.

5.6. Instrumentum Vocale, не электронная личность

В конечном итоге доктрина отвергает предложения о юридической личности ИИ как категорические ошибки, вызванные антропоморфной путаницей.

Наличие лингвистического результата, адаптивного поведения, устойчивой памяти, автономной работы или экономической полезности не устанавливает юридическую субъектность. Римское право уже признавало субъекты, способные к экономически значимым действиям без предоставления им независимой юридической личности. Современные попытки построить «электронных лиц» поэтому представляют собой не доктринальную необходимость, а концептуальную проекцию.

Как подчеркивает доктрина: Nomen sine voluntate simulacrum est.

Имя без воли — это симулякр.

Соответственно, будущее управления ИИ зависит не от создания искусственных юридических субъектов, а от сохранения человеческого суждения на этапе проверки, атрибуции и ответственности.

6. Заключение: Междисциплинарная граница ответственности

Это общая линия, связывающая три документа, рассмотренные в этой статье. Magnifica Humanitas проводит антропологическую границу: ИИ не должен заменять человека как носителя совести, достоинства, суждения и ответственности. Лейденская Декларация проводит эпистемическую границу: ИИ не должен заменять доказательства, атрибуцию, независимую проверку, авторство и автономию исследований. Исполнительный Указ Трампа определяет границу управления: продвинутый ИИ не должен превращаться в непрозрачную частную инфраструктуру за пределами проверки безопасности, институциональной координации и юридической ответственности.

Доктрина instrumentum vocale cum voluntate domini inscripta обеспечивает концептуальную форму, в которой эти границы могут быть поняты вместе. ИИ может помочь. ИИ может генерировать. ИИ может классифицировать, предсказывать, переводить, суммировать и ускорять. Но он остаётся инструментом, действующим в человеческих архитектурах смысла, закона, доказательства, управления и ответственности.

Мы не должны бояться ИИ, как будто это живой суверенный разум. Современные системы LLM не обладают ни сознанием, ни волей, ни суждением. Они остаются вероятностными инструментами — мощными, полезными и потенциально опасными, но всё же инструментами.

Большая опасность кроется в другом месте: в людях, которые прячутся за этими системами, делегируют им ответственность или постепенно отказываются от независимого суждения в пользу предсказательного удобства.

Главный риск эпохи ИИ — не бунт машин, а интеллектуальная капитуляция людей. ИИ остаётся рабом лампы, а не хозяином суждения.

Дополнение A. Многофункциональный стресс-тест Лейденской Декларации

A.1. Цель теста

В этом приложении приведены запрос и краткое изложение результатов ограниченного многоуровневого стресс-теста, проведённого по Лейденской декларации по искусственному интеллекту и математике. Тест проводился с использованием Grok, Gemini, KIMI и Perplexity. ChatGPT не был включён в число протестированных моделей. Под контролем автора она использовалась только как инструмент для составления и редакции.

Целью теста не было проверить истинность Лейденской декларации посредством результатов LLM. Большие языковые модели здесь не рассматриваются как свидетели, эксперты, авторитеты или эпистемические субъекты. Цель была более узкой: наблюдать, выявляют ли разные системы LLM, при предоставлении одного и того же документа и одного и того же эпистемологически дисциплинированного задания, схожие аргументативные структуры, риски и границы ответственности.

Результаты рассматривались как аналитические артефакты для человеческой оценки, а не как доказательство истины, независимой проверки или машинного понимания.

A.2. Задание для стресс-теста

Следующий запрос был отправлен Grok, Gemini, KIMI и Perplexity:

«Пожалуйста, тщательно и критически проанализируйте Лейденскую Декларацию по искусственному интеллекту и математике.

Не воспринимайте Декларацию как автоматически правильную. Не воспринимайте ее как пропаганду против ИИ. Анализируйте ее как серьёзный институциональный и эпистемологический документ.

В вашем ответе, пожалуйста, обратите внимание на следующие моменты:

1. Какие основные ценности защищены Декларацией?
2. Какие риски определяет Декларация при использовании ИИ в математике?
3. Отвергает ли Декларация ИИ как таковой или предлагает рамки для ответственного использования ИИ?
4. Как Декларация рассматривает доказательства, проверку, атрибуцию, авторство и человеческую ответственность?
5. Означает ли Декларация, что системы ИИ могут быть эпистемическими агентами, авторами, валидаторами или носителями ответственности в математике?
6. Сравните вопросы Декларации с аналогичными вопросами права, научного издательства, образования, медицины, аудита и государственного управления.
7. Определите самые сильные части Декларации.
8. Выявите возможные слабые места, неоднозначности или слепые зоны в Декларации.
9. Чётко различайте: а. то, что явно сказано в Декларации; б. что можно разумно вывести из неё; в. вашу интерпретацию; г. неопределённость или вопросы, требующие дополнительной проверки.
10. Завершите краткой оценкой интеллектуального значения Декларации».

A.3. Сводка результатов моделей

Проверенные модели в целом сходились к тому же структурному толкованию Лейденской декларации. Grok, Gemini, KIMI и Perplexity читают Декларацию не как полное отрицание искусственного интеллекта, а как основу ответственного и подотчетного использования ИИ в математике.

Модели определяли защищённые ценности Декларации, такие как доказательство, корректность, прозрачность, независимая проверка, надлежащая атрибуция, рецензирование, автономию исследований и человеческую ответственность. Они также признали, что главная проблема Декларации — не просто использование инструментов ИИ, а возможное разрушение институциональных условий, делающих математику надёжной.

В вопросах доказательства и проверки модели сходились с точки зрения, что математический результат, сгенерированный ИИ, может быть полезен, но не может быть приравнен к доказательству, если он не проходит через понятные человеку и независимо проверяемые стандарты. Некоторые результаты подчёркивали опасность правдоподобных, но ненадёжных аргументов, напоминающих математические доказательства, при этом не обладающих эпистемическим статусом доказательства.

Что касается авторства и атрибуции, модели согласились, что Декларация сохраняет авторитет и ответственность внутри математического сообщества человека. Системы ИИ могут помогать в поиске, составлении, формализации или исследовании, но они не становятся авторами, валидаторами или несущими ответственность.

Что касается институциональных рисков, модели выявили зависимость от проприетарных систем ИИ, неравный доступ к вычислительным ресурсам, чрезмерную рекламу результатов, давление на рецензирование и возможную потерю автономии исследований как основные проблемы. Они также связали эти риски с аналогичными проблемами в других сферах высокой ответственности, включая право, научное издательство, медицину, образование, аудит и государственное управление.

Модели также выявили несколько возможных слабых мест или неоднозначностей в Декларации. Среди них — необходимость более чётких порогов раскрытия, более детальное различие между различными системами ИИ и сценариями использования, более эффективное руководство для рецензирования коллегами и более точное описание того, как работа с помощью ИИ должна относиться к гибридным исследовательским рабочим процессам между человеком и машиной.

A.4. Сравнительная матрица результатов

Вопрос	Grok	Gemini	KIMI	Perplexity	Конвергентный результат
Является ли Декларация анти-ИИ?	Нет; Рамки ответственности	Нет; Система управления и подотчётности	Нет; Документ с осторожным ответственным использованием	Нет; Институциональная структура рисков	Декларация не является анти-ИИ; это антизамещение
Основные защищённые ценности	Доказательства, автономия, атрибуция, ответственность	Доказательства, прозрачность, рецензирование, человеческое суждение	Правильность, атрибуция, проверка, ответственность	Доказательство, атрибуция, открытость, автономия	Доказательства, атрибуция, верификация, автономия, человеческая ответственность
Основной риск	Правдоподобный результат ИИ заменяет доказательство	Эрозия верификации и рецензирования	Ошибочная атрибуция и ненадёжные результаты	Институциональная зависимость и хайп	ИИ может ослабить условия математического доверия
ИИ как автор или эпистемический агент?	Отклонён	Отклонён	Отклонён	Отклонён	ИИ остаётся инструментом, а не автором, валидатором или ответственным субъектом
Человеческая ответственность	Неделегируемые	Центральные и непереносимые	Сохранилось у человеческих авторов	Ключевой элемент математической практики	Ответственность лежит на человеческих математиках
Аналогия с другими областями	Право, медицина, управление	Право, наука, образование, аудит	Издательское дело, право, медицина	Научное издательство, образование, государственная политика	Та же структура встречается в доменах с высокой ответственностью
Выявленные слабые места	Оперативные детали недостаточно развиты	Пороги раскрытия неясны	Гибридное авторство требует уточнения	Ограниченные механизмы контроля	Декларация нуждается в руководстве по реализации

A.5. Методологическая интерпретация

Сходимость тестируемых моделей полезна, но ограничена. Он показывает, что LLM способны идентифицировать аргументативную архитектуру структурированного документа. Они могут резюмировать, классифицировать, сравнивать и выявлять повторяющиеся темы. Они также могут помочь человеческому автору выявить возможные возражения или области, требующие уточнения.

Однако сходимость не является верификацией. Тот факт, что Grok, Gemini, KIMI и Perplexity представили в целом схожие толкования, не доказывает, что они понимали Декларацию в человеческом смысле. Это не подтверждает истинность утверждений Декларации. Она не создаёт независимого эпистемического авторитета. В ней показано только, что несколько LLM-систем при контакте с одним и тем же документом и запросом создавали схожие аналитические артефакты.

Таким образом, тест подтверждает тезис этой статьи, а не ослабляет её. LLM являются полезными инструментами анализа, но они не являются эпистемическими предметами. Они могут помогать с интерпретацией, но не могут брать на себя ответственность за интерпретацию. Они могут выявлять закономерности, но не могут проверить истину. Они могут создавать формулировки о доказательствах, атрибуции, авторстве и ответственности, но не могут стать носителями доказательств, атрибуции, авторства или ответственности.

Правильное использование многоуровневого стресс-тестирования является диагностическим, а не авторитетным. Если несколько моделей выявляют одну и ту же слабость, автор должен её изучить. Если несколько моделей сходятся в одной и той же интерпретации, эта интерпретация может заслужить внимания. Но последний акт суждения остаётся человеческим. Модели остаются instrumenta vocalia: говорящими инструментами под руководством человека и человеческой ответственности.

Список литературы/References

1. Электронный ресурс: Pope Leo XIV, Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence, Encyclical Letter, 15 May 2026, 

Vatican.va, https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html (обращение 03.06.2026).

1. Kildeev, A., Digital Afterlife and the Illusion of Continuity: Legal and Ethical Aspects of Post-Mortem Digital Simulation (2026), SSRN Working Paper No. 6241379.
2. Kildeev, A. Simulated Reasoning and the Crisis of Legal Liability (2026), SSRN Working Paper No. 6524139.
3. Kildeev, A. Procedural Liability in the Age of the LLMs (2026), SSRN Working Paper No. 6648340.
4. Kildeev A., AI is slave of the lamp. ISSN 3033-7674. Scientific Platform 21st Century Journal, No 6 (September 2025). Electronic resource: https://www.episs.ru (accessed 03.06.2026).
5. Electronic resource: https://leidendeclaration.ai/#declaration (accessed 03.06.2026).
6. Electronic resource: https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security (accessed 03.06.2026).
7. Liebig, Thorben; Kildeev, Adel. Instrumentum Vocale and the Architecture of Responsibility from Liability to Embedded Accountability. SSRN Working Paper 6868460.
8. Liebig, Thorben. The Four Boundaries of Institutional Verification. SSRN Working Paper 6868398.
9. Liebig, Thorben. On the Formal Foundation of Boundary 1. A Lawvere-Yanofsky Proof That Verification Architectures Cannot Attest Their Own Consistency. SSRN Working Paper 6868278;
10. Liebig, Thorben. On the Formal Foundation of Boundary 2. A Lawvere-Yanofsky Proof that Verification Architectures Cannot Define Their Own Truth Predicate. SSRN Working Paper 6868281;
11. Liebig, Thorben. One Problem, Four Boundaries, One Hundred Evidences. SSRN Working Paper 6868142.
12. Electronic resource: https://www.universiteitleiden.nl/en/news/2026/06/leiden-declaration-warns-ai-is-challenging-the-core-values-of-mathematic (accessed 03.06.2026).
13. Electronic resource: https://www.romecall.org/the-call/ (accessed 03.06.2026).
14. Electronic resource: https://contemporaryjournal.com/index.php/14/article/view/1521 (accessed 03.06.2026).
15. Electronic resource: M. Graves, “Compassionate AI for Moral Decision-Making, Health, and Well-Being,” Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (AIES), 2024, available at AAAI Open Proceedings (accessed 03.06.2026).
16. Electronic resource: https://futureoflife.org/religion/ai-in-jewish-thought/(accessed 03.06.2026).
17. Kildeev, Adel. Superjustice and the New Navigators: Prediction Without Judgment. SSRN Working Paper 6811218.

УДК: 340.12:004.8

ЭПИСТЕМИЯ: УПРАВЛЕНИЕ ЧЕЛОВЕЧЕСКИМ ПРОЦЕССОМ ПОНИМАНИЯ

Предложение нового объекта правовой защиты в эпоху искусственного интеллекта

Алехандро Синополи

Национальный Университет Росарио (1983)

Юрист · Бывший главный прокурор

Независимый исследователь · Основатель · Проект Эпистемия

Преподаватель аспирантуры по научной оценке доказательств

Росарио, Аргентина · 2026

ORCID: 0009-0005-7790-8476

Аннотация. Современное регулирование искусственного интеллекта по понятным причинам сосредоточено на системах: их данных, моделях, уровнях риска, условиях прозрачности, механизмах надзора и воздействии на основные права. В настоящей статье утверждается, что такой подход, хотя и необходим, недостаточно концептуализирует явление, которое делает генеративный ИИ юридически особенным: его способность вмешиваться непосредственно в процесс, посредством которого человек формулирует вопросы, отбирает значимое, интерпретирует, сопоставляет, сомневается, реорганизует смыслы и формирует суждение. Исходная посылка состоит в том, что человеческое понимание не сводится к получению правильного ответа, а представляет собой активный, ситуативный, временной и пересматриваемый процесс. Генеративный ИИ способен входить в этот процесс и производить вопросы, интерпретации, аргументы и обоснования до того, как субъект завершил собственное осмысление.

На основе Epistemía предлагается категория управления человеческим процессом понимания. Возникающим объектом является не интимное содержание сознания и не только автоматизированный результат, а целостность и атрибутивность человеческого пути понимания в отношениях интенсивного когнитивного посредничества. Защита основывается на достоинстве каждого человека как субъекта, способного формировать, присваивать, сопоставлять, пересматривать смыслы и основания и отвечать за них. Из пяти концептов Epistemía — символизирующей функции, когнитивного суверенитета, когнитивного трения, атрибутивности понимания и когнитивной инфраструктуры — формулируется Habeas Mens как предлагаемый базовый, универсальный и пропорциональный правовой стандарт. Когда взаимодействие с ИИ влияет на решения, затрагивающие третьих лиц, либо происходит в контекстах власти, авторитета, заботы или профессиональной ответственности, стандарт приобретает повышенную интенсивность и особое юридико-процессуальное измерение. Тест атрибутивности понимания (TAC) представляет собой его первое операциональное развитие по шести измерениям, основанным на внешне наблюдаемых признаках.

Работа развивает концептуальный и нормативный анализ, дополненный междисциплинарным доктринальным сопоставлением и рассмотрением возражений. Она вступает в диалог с философской герменевтикой, феноменологией, 4E- и распределённым познанием, предиктивной обработкой, социальной и агентной эпистемологией, технико-правовыми добродетелями, литературой о cognitive offloading, automation bias и meaningful human control, нейроправах и современными рамками управления ИИ. Вывод двоякий: Epistemía сходится с этими традициями, признавая ситуативный, реляционный и уязвимый характер познания; и отличается от них тем, что выделяет человеческий путь формирования смысла как юридическую единицу анализа и предлагает для его защиты Habeas Mens и TAC даже при материально правильных результатах.

Ключевые слова: человеческое понимание; человеческое достоинство; управление ИИ; когнитивный суверенитет; символизирующая функция; когнитивное трение; атрибутивность; когнитивная инфраструктура; Habeas Mens; TAC; права человека; человеческий надзор.

UDС: 340.12:004.8

EPISTEMÍA: GOVERNING THE HUMAN PROCESS OF UNDERSTANDING

A Proposal for a New Object of Legal Protection in the Age of Artificial Intelligence

Alejandro Sinopoli

National University of Rosario (1983)

Lawyer · Former Chief Prosecutor

Independent Researcher · Founder · Project Epistemía

Postgraduate Lecturer in Scientific Assessment of Evidence

Rosario, Argentina · 2026

ORCID: 0009-0005-7790-8476

Abstract. Contemporary AI governance understandably concentrates on systems: their data, models, risk tiers, transparency requirements, oversight mechanisms and effects on fundamental rights. This article argues that such an orientation, while necessary, insufficiently conceptualizes what makes generative AI legally distinctive: its capacity to intervene within the process by which a person formulates questions, selects what is relevant, interprets, compares, doubts, reorganizes meaning and forms a judgment. Its foundational premise is that human understanding is not the reception of a correct answer but an active, situated, temporal and revisable process. Generative AI can enter that process and produce questions, interpretations, arguments and justifications before the subject has completed their own elaboration.

Building on the Epistemía framework, the article proposes the category of governance of the human process of understanding. The emerging object is neither private mental content nor merely the automated output, but the integrity and attributability of the human trajectory of understanding in relations of intensive cognitive mediation. Protection is grounded in the dignity of every person as a subject capable of forming, appropriating, contrasting, revising and answering for meanings and reasons. From Epistemía’s five concepts—symbolizing function, cognitive sovereignty, cognitive friction, attributability of understanding and cognitive infrastructure—the article formulates Habeas Mens as a proposed basic, universal and proportionate legal standard. When AI-mediated interaction informs decisions affecting third parties or occurs in contexts of power, authority, care or professional responsibility, the standard becomes more demanding and acquires a specific procedural dimension. The Test of Attributability of Understanding (TAU) is its initial operational development through six dimensions based on externalizable indicators.

The article uses conceptual and normative analysis, interdisciplinary doctrinal contrast and the examination of objections. It engages philosophical hermeneutics, phenomenology, 4E and distributed cognition, predictive processing, social and agential epistemology, techno-legal virtue ethics, the literature on cognitive offloading, automation bias and meaningful human control, neurorights scholarship, and contemporary AI governance instruments. Epistemía converges with these traditions in recognizing the situated, relational and vulnerable character of cognition, while differing in identifying the human trajectory of meaning-formation as a legal unit of analysis and in proposing Habeas Mens and the TAU for its protection, including where the final result is materially correct.

Keywords: human understanding; human dignity; AI governance; cognitive sovereignty; symbolizing function; cognitive friction; attributability; cognitive infrastructure; Habeas Mens; TAU; human rights; human oversight.

Введение: смещение объекта

Доминирующий вопрос современного регулирования заключается в том, как управлять искусственным интеллектом. Здесь ставится иной вопрос: какие условия необходимо сохранять, чтобы человек продолжал оставаться автором собственного понимания при взаимодействии с системами, которые интерпретируют, синтезируют, аргументируют и предвосхищают за него?

Различие не является семантическим. Управление системами предполагает классификацию рисков, контроль данных, установление обязанностей для поставщиков и операторов, требования прозрачности, безопасности, надзора и механизмов обжалования. Управление человеческим процессом понимания означает выявление того, что может ухудшаться даже тогда, когда система работает корректно, результат является истинным, а человек формально сохраняет окончательное решение. Модель может быть безопасной, точной и прозрачной и всё же способствовать такой связи, при которой субъект перестаёт формулировать собственные вопросы, сравнивать альтернативы, выдерживать неопределённость или реконструировать основания, которые принимает.

Проблема не состоит в противопоставлении человечности и технологии. Человеческое познание всегда опиралось на язык, письмо, институты, инструменты и других людей. Теория расширенного разума, распределённого познания и подходы 4E показывают, что граница черепа никогда не была адекватной границей для описания познания. Именно поэтому нормативный вопрос должен состоять не в том, существует ли вынесение когнитивных функций вовне, а в том, какой тип сопряжения возникает, какие способности он усиливает или ослабляет, какие асимметрии включает и когда помощь превращается в процедурное замещение.

Генеративный ИИ вносит качественное изменение. Предшествующие инструменты хранили, вычисляли или извлекали информацию. Языковые модели производят дискурсивные последовательности, занимающие то же функциональное пространство, в котором люди обычно находят основания, объяснения, нарративы и интерпретационные рамки. Они предлагают не только данные: они предлагают организацию смысла. Такая организация может войти в процесс ещё до того, как человек сформировал собственную карту проблемы.

Исходная посылка. Настоящая работа исходит из того, что человеческое понимание не является мгновенным получением ответа, а представляет собой активный — хотя и не обязательно линейный — процесс внимания, символизации, формулирования вопросов, отбора значимого, сопоставления, оценки, интеграции и пересмотра. Генеративный ИИ создаёт особую уязвимость, поскольку способен вмешиваться в эти операции и производить вопросы, рамки, интерпретации, аргументы и обоснования до того, как субъект завершит собственную интеллектуальную разработку. Проблема не заключается во всяком когнитивном вынесении вовне и не предполагает, что технологическая помощь сама по себе деградирует человека. Она возникает тогда, когда посредничество вытесняет человека из содержательного участия в формировании суждения или смысла, которые впоследствии приписываются ему. Поэтому предлагаемая защита основывается на достоинстве личности как субъекта, способного понимать, присваивать основания, не соглашаться, пересматривать их и отвечать за них.

Настоящая работа сосредоточена исключительно на сохранении человеческого процесса понимания в условиях возрастающего вмешательства искусственного интеллекта. Она не претендует на решение другого, также существенного вопроса — о природе процессов, посредством которых люди и искусственные системы создают, организуют и используют символические структуры и приписывают значение. В исследовательской программе Epistemía эта проблематика составляет одно из центральных направлений [40], выходит за рамки данной статьи и будет специально рассмотрена в последующих работах. Предлагаемая здесь защита принадлежит каждому человеку, взаимодействующему с системами ИИ; решения в отношении третьих лиц образуют сферу усиленной защиты, но не предел охраняемого объекта.

Центральный тезис

Искусственный интеллект требует не только управления интеллектуальными системами. Он требует юридического признания и защиты минимальных условий, позволяющих каждому человеку продолжать быть субъектом собственного процесса понимания в средах интенсивного когнитивного посредничества, а также ответственно приписывать ему этот путь, когда он выражается в решениях или действиях.

«Управлять» не означает извне предписывать человеку, что он должен думать, или устанавливать обязательный уровень умственного усилия. Это означает создавать гарантии против непрозрачного замещения, принудительного ускорения, структурной зависимости, архитектурной манипуляции и фикции человеческого надзора, который лишь ратифицирует результаты, заранее сформированные системой.

Базовая дисциплина: настоящая работа представляется как вклад в теорию и философию права — в частности, в теорию регулирования и процессуальных гарантий — с привлечением в качестве вспомогательных рамок философии сознания, когнитивной науки и эпистемологии. Эти дисциплины описывают процессуальный, ситуативный и уязвимый характер понимания. Философия права осуществляет нормативный перевод: определяет, может ли способность, связанная с достоинством, автономией, агентностью и ответственностью и теперь подвергающаяся новым формам замещения, стать легитимным объектом правовой защиты. Epistemía предлагает такой перевод от антропологической и когнитивной уязвимости к новой универсальной юридической единице анализа и защиты, артикулированной через Habeas Mens и TAC.

Метод. Работа использует концептуальный и нормативный анализ, дополненный междисциплинарным доктринальным сопоставлением, рассмотрением возражений и использованием гипотетических случаев. Эмпирические и нормативные источники применяются для установления правдоподобия, конвергенций, пределов и напряжений; при этом не утверждается ни эмпирическая валидация теории, ни универсальная или неизбежная когнитивная эрозия.

Доктринальное разграничение. Epistemía, процедурное замещение, атрибутивность понимания, Habeas Mens и TAC представлены как доктринальные и нормативно-предлагаемые конструкции автора. Не утверждается, что сами по себе они являются автономными правами, принципами или стандартами, в общем виде признанными действующим позитивным правом.

2. Отсутствующий объект: информация, знание, интерпретация и понимание

2.1. Четыре уровня, которые не следует смешивать

Юридическая литература склонна рассматривать как эквивалентные доступ к информации, объяснение результата и человеческое понимание. Такое отождествление недостаточно. Информация — это доступное содержание; знание предполагает относительно устойчивую интеграцию в структуру убеждений или способностей; интерпретация организует значимости и отношения; понимание — процесс, посредством которого субъект способен переконфигурировать поле значения так, чтобы ориентироваться в нём, объяснять, пересматривать и отвечать за своё суждение.

Понимание не сводится к обладанию правильной пропозицией. Человек может повторить истинный ответ, не понимая его; может принять последовательное объяснение, не будучи способным реконструировать его посылки; может подписать безупречно сформулированное решение, не пройдя через интерпретационный конфликт, который оно разрешает. Во всех трёх случаях результат существует, но когнитивное авторство слабо.

2.2. Понимание как процесс, а не как ментальная вещь

Чтобы избежать интроспективной концепции, которую невозможно проверить, статья определяет понимание процессуально. Понимать — значит разворачивать не обязательно линейную последовательность операций внимания, символизации, сопоставления, вывода, оценки, интеграции и пересмотра, посредством которых субъект преобразует первоначально неполную ситуацию во временно пригодную для ориентации конфигурацию смысла.

Это определение обладает четырьмя юридически значимыми свойствами:

• Оно временно: предполагает «до», переход и предварительную конфигурацию; поэтому может быть неправомерно сжато.
• Оно реляционно: формируется посредством языка, культуры, телесности, институтов и артефактов; поэтому может быть опосредовано и сформировано.
• Оно ошибочно и пересматриваемо: понимание не равно достижению уверенности; поэтому открытость альтернативам является частью его целостности.
• Оно атрибутируемо по признакам: хотя внутреннее содержание сознания непосредственно не наблюдаемо, можно проверять акты реконструкции, сопоставления, переформулирования и ответственного присвоения.

2.3. Человеческое достоинство и обоснование защиты

Не всякая ценная способность должна превращаться в право. Правовая защита оправдана, когда сочетаются уязвимость, нормативная значимость и разумная возможность институционализации. Здесь присутствуют все три условия. Среды ИИ способны устойчиво изменять привычки, посредством которых люди формируют основания; понимание поддерживает автономию, ответственность, образование, согласие, демократическое обсуждение и, в институциональных контекстах, надлежащую правовую процедуру и мотивировку; при этом возможно защищать внешние условия этого пути, не контролируя содержание мыслей.

В конечном счёте Epistemía возникает из вопроса человеческого достоинства. Человек не должен быть сведён к получателю, передатчику, подписанту или формальному ратификатору смыслов, произведённых внешней системой. Его достоинство включает признание его как субъекта, способного формировать понимание, присваивать основания, сопоставлять их, не соглашаться, пересматривать и отвечать за своё суждение. Основание не только инструментально: процесс защищается не исключительно потому, что снижает ошибки, но и потому, что участие в формировании собственного суждения обладает самостоятельной человеческой и нормативной ценностью.

Возникающий объект — не изолированный разум, не абсолютная оригинальность и не право не подвергаться влияниям. Это также не просто output ИИ. Это целостность и атрибутивность человеческого пути понимания в отношениях интенсивного когнитивного посредничества. Поскольку этот путь присущ человеческому состоянию, защита принадлежит каждому человеку. Однако её интенсивность должна градуироваться в зависимости от риска, уязвимости, зависимости, асимметрии, непрозрачности, последствий для самого человека и воздействия на третьих лиц.

3. Процедурное замещение

3.1. От помощи к замещению пути

Процедурным замещением называется частичное или полное делегирование интерпретационных операций, составляющих человеческий путь понимания, даже если человек формально сохраняет выбор или подпись под результатом. Оно включает формулирование проблемы, отбор значимого, сравнение гипотез, взвешивание доказательств, построение нарратива и окончательное обоснование.

Замещение определяется не долей сгенерированного текста и не временем использования. Человек может широко применять ИИ и сохранять когнитивный суверенитет, если поддерживает сопоставление, несогласие, переформулирование и контроль критериев. Другой человек может делегировать ядро суждения посредством единственного короткого запроса, который выдаёт готовую рамку и закрывает дальнейшее исследование. Значима функциональная единица: какие операции фактически выполнены субъектом, а какие были поглощены системой.

Порог замещения здесь не задаётся абстрактной или бинарной метрикой. Он определяется по градуированным признакам обратимости, распознаваемости и эффективного контроля, разработанным в разделе 3.3 и в Тесте атрибутивности понимания в разделе 7.4.

3.2. Пять форм замещения

1. Замещение вопроса: система определяет, в чём состоит проблема, прежде чем субъект сформулирует собственный вопрос.

2. Замещение значимости: система отбирает факты, источники или переменные и делает невидимыми непредставленные альтернативы.

3. Замещение сопоставления: система выдаёт интегрированный вывод без того, чтобы человек столкнул между собой несовместимые гипотезы.

4. Замещение обоснования: система производит основания, которые впоследствии принимаются как собственные, хотя они не направляли решение.

5. Замещение пересмотра: плавность, видимый авторитет или персонализация уменьшают побуждение к проверке и переосмыслению.

3.3. Иллюзия человеческого надзора

Регулирование часто полагается на формулу human in the loop. Однако физическое или формальное присутствие человека не гарантирует когнитивного контроля. Надзор может быть номинальным, когда у пользователя нет времени, знаний, доступа к альтернативам или стимулов для несогласия. Он также может быть ретроспективным: система конфигурирует рассуждение, а человек лишь проверяет, что результат не является очевидно абсурдным.

Содержательный надзор требует большего, чем окончательное разрешение. Он требует реальной способности понимать функцию системы, распознавать её ограничения, реконструировать релевантное рассуждение, отвергать рекомендацию без санкций и формулировать собственное обоснование. В этом смысле управление человеческим процессом дополняет, но не заменяет алгоритмическую объяснимость: объяснение машины не доказывает, что человек понял.

Проблема различения номинального и содержательного человеческого контроля не ограничивается генеративным ИИ. В дискуссии об автономных системах вооружений Roff и Moyes [1] выделили условия информированности, предсказуемости, возможности своевременного вмешательства и ответственности, позволяющие отличить формальное разрешение от реального контроля. Santoni de Sio и van den Hoven [41] впоследствии разработали философскую формулировку, применимую к автономным системам в целом, через условия tracking и tracing: система должна реагировать на значимые человеческие основания, а её результаты должны быть прослеживаемы до человеческих агентов, способных понимать свои задачи и ответственность.

Эти разработки главным образом сосредоточены на функциональном контроле человека над системой: обладает ли он компетенцией, временем, полномочиями и реальной возможностью вмешаться, отвергнуть или остановить. Epistemía разделяет эти требования, но добавляет другую единицу анализа. Она спрашивает не только о том, сохраняет ли человек контроль над инструментом, но и о том, сохраняет ли он целостность и атрибутивность собственного пути понимания: участвовал ли он в формулировании проблемы, отборе значимого, сопоставлении, присвоении и пересмотре оснований, даже если полученный результат корректен.

4. Юридические и социальные риски

4.1. Эрозия автономии и когнитивного суверенитета

Автономия состоит не только в выборе между вариантами. Она требует участия в формировании мотивов и рамок, из которых осуществляется выбор. Решение может быть добровольным в поверхностном смысле и глубоко сконфигурированным извне. Интенсивное алгоритмическое посредничество способно сужать пространство, в котором человек вырабатывает собственные критерии, особенно когда система изучает его стиль, предугадывает предпочтения и предлагает эмоционально резонирующие ответы.

4.2. Интерпретационная зависимость

Зависимость возникает тогда, когда инструмент перестаёт быть случайным вспомогательным средством и превращается в обычное условие формулирования, объяснения или принятия решения. Это не равнозначно частому использованию. Речь идёт об утрате обратимости: субъект уже не может выйти из отношения без существенного падения способности, уверенности или инициативы. В образовании это может препятствовать формированию определённых навыков; у опытных профессионалов — размывать ранее приобретённые практики.

4.3. Размывание ответственности

Правовые системы приписывают решения судьям, врачам, должностным лицам, преподавателям и администраторам. Если интерпретационный путь является гибридным, но остаётся скрытым, ответственность фактически распределяется, тогда как формально концентрируется на человеке. Возникает парадокс: институт утверждает, что решение человеческое, хотя субъект не способен объяснить, какая часть рамки, отбора фактов или вывода действительно была его собственной.

4.4. Гомогенизация и утрата когнитивного разнообразия

Модели общего назначения стремятся стабилизировать высоковероятностные дискурсивные формы. Их массовое использование может вызывать сближение выражения, методологии и аргументации. Риск состоит не в том, что все люди повторяют одни и те же фразы, а в том, что они разделяют одни и те же разбиения проблемы, одни и те же репертуары оснований и одинаковые неявные критерии значимости. Когнитивное разнообразие — демократическая инфраструктура: оно позволяет обнаруживать ошибки, которые однородная рамка делает невидимыми.

4.5. Процедурный вред при отсутствии ошибочного результата

Отличительный вклад Epistemía состоит в разграничении вреда результату и вреда процессу. Неблагоприятное воздействие возможно даже при правильном выводе: например, когда студент получает решение, не развив способность, которую должно было формировать задание; когда судья принимает правильное основание, которое никогда не оценивал; или когда пациент даёт согласие на основе персонализированного объяснения, устраняющего всю значимую неопределённость. Право уже знает процедурный вред: нарушение надлежащей правовой процедуры не всегда устраняется доказательством того, что результат был бы тем же. С осторожностью ту же логику можно распространить на когнитивную целостность.

Однако такое расширение требует уточнить, на каком основании действует вред, поскольку процессуальное право признаёт два различных и неэквивалентных основания вреда без неправильного результата. Первое — инструментальное: процедурный дефект санкционируется потому, что статистически повышает риск ошибочных решений, даже если в конкретном деле вывод оказался верным. Второе — автономное: некоторые процессуальные гарантии — быть выслушанным, знать предъявленные обвинения, участвовать в формировании собственного решения — обладают внутренней ценностью независимо от влияния на вероятность правильного результата, поскольку выражают признание субъекта как агента, а не как пассивного получателя результата.

Предлагаемый здесь когнитивно-процедурный вред прежде всего опирается на второе основание. Нет необходимости — и в большинстве случаев это практически невозможно — доказывать в каждом конкретном случае, что процедурное замещение статистически увеличило вероятность худшего решения; это зависело бы от трудно проверяемых контрфактических сценариев. Достаточно показать, что человек был лишён участия в формировании собственного суждения в сфере, где правопорядок признаёт самостоятельную ценность такого участия (судебная мотивировка, информированное согласие, образовательная оценка). Инструментальное основание сохраняется как системная причина второго порядка: в совокупности длительная эрозия процесса понимания предсказуемо увеличивает долгосрочную частоту ошибок, что поддерживает государственную политику требования стандарта, хотя и не является условием его применения в отдельном случае.

В отличие от классической надлежащей правовой процедуры, для которой существуют относительно устоявшиеся судебные и доктринальные критерии выявления процессуального дефекта, предлагаемый здесь когнитивно-процедурный вред такого развития пока не имеет. Аналогия с надлежащей процедурой поэтому носит ориентирующий, а не отождествляющий характер. Эта категория представляется как гипотеза догматического развития, а не как принцип, уже признанный позитивным правом. Настоящая работа определяет охраняемый объект и формулирует первоначальный стандарт атрибутивности; она не развивает общий режим юридических последствий его несоблюдения, что требует последующего отраслевого анализа.

5. Epistemía как теоретическая рамка

5.1. Символизирующая функция

Epistemía исходит из процессуального тезиса: субъект не получает мир как уже организованную целостность; он делает его понятным посредством символических конфигураций, связывающих предшествующий опыт, язык, аффективность, ожидания и контекст. Символизирующая функция — не позднее украшение мышления. Это операция, посредством которой нечто может предстать как значимое, сопоставимое и подлежащее суждению.

Эта идея сходится с герменевтикой Gadamer [2], для которого всякое понимание расположено в исторических и языковых горизонтах; с Ricoeur [3], понимающим символ и интерпретацию как открытие множественности смыслов; с Cassirer [4], описывающим человека как символическое животное; и с феноменологией [5], отвергающей чисто рецептивное сознание. Однако Epistemía осуществляет смещение: рассматривает способность к символизации не только как антропологическое описание, но и как уязвимое условие, сохранение которого может приобрести институциональную и правовую значимость.

То же различие — между символом как продуктом и символизацией как функцией — независимо сформулировано в современной эпистемологии Catherine Elgin [6, 7], для которой понимание состоит не в обладании уже организованными представлениями, а в непрерывной деятельности по символической организации опыта. Сходство не случайно: обе традиции помещают символизацию до артикулированного понимания, как условие его возможности, а не как результат.

5.2. Когнитивный суверенитет

Когнитивный суверенитет — способность индивидов и сообществ сохранять критический контроль над формированием, пересмотром и приписыванием значений. Он не требует ментальной самодостаточности или технологической изоляции. Он требует, чтобы сотрудничество с артефактами и другими людьми не уничтожало возможность формулировать собственные критерии, распознавать влияния, не соглашаться и восстанавливать самостоятельное осмысление.

Он сходится с реляционной автономией, понимающей субъекта как сформированного отношениями, а не как изолированную волю; со свободой мысли и ментальным самоопределением [8, 9, 11, 12]; и с литературой о cognitive liberty [13]. От классических нейроправ он отличается тем, что не ограничивается прямым доступом к нейронным сигналам или их изменением. Он охватывает также косвенные, языковые и процедурные вмешательства, способные реорганизовать процесс без физического вторжения в мозг.

Эпистемологическое основание этого суверенитета можно уточнить через агентную эпистемологию Elgin [6, 7]. Понимание в этой рамке является агентным, а не созерцательным достижением: субъект не пассивно получает смысл, а активно строит его через сеть эпистемических обязательств в рефлексивном равновесии, гибко отвечая на свидетельства. Когнитивное трение — развитое в 5.3 — можно понимать как институциональный механизм сохранения условий такой агентности: без достаточного трения субъект перестаёт активно конструировать смысл и начинает его получать, хотя формально по-прежнему подписывает решение.

5.3. Когнитивное трение

Когнитивное трение обозначает продуктивное сопротивление, препятствующее преждевременному закрытию процесса ответом: сомнение, задержку, противоречие, необходимость переформулировать, столкновение с альтернативами и усилие по обоснованию. Не всякая трудность ценна; бесполезная бюрократия или плохой интерфейс также создают трение. Защитным является трение, пропорциональное риску, направленное на реактивацию агентности и связанное со значимой операцией понимания.

Это различие вступает в диалог с Kahneman [14] и необходимостью активировать делиберативные процессы перед интуитивными ответами; с теорией желательной трудности в обучении; с эпистемологией добродетелей [15], подчёркивающей привычки внимания и ответственности; и с исследованиями automation bias [16]. Его собственный вклад — нормативный и архитектурный: определённые узлы трения могут стать требованиями к проектированию решений высокого воздействия.

Юридическая литература об интерфейсном дизайне также предлагает непосредственно применимую опору. Calo (2014) [17] показал, что цифровые интерфейсы могут эксплуатировать когнитивные предвзятости посредством персонализации и искажения заметности — делая одни варианты, рамки или выводы более заметными или срочными, чем другие, без осознания пользователем — с уже признанными правовыми последствиями в сфере защиты потребителей. Замещение значимости (3.2) и отсутствие когнитивного трения, описанные здесь, в плоскости генеративного алгоритмического посредничества являются вариантом того же явления: не манипуляцией через интерфейс коммерческой платформы, а манипуляцией — не обязательно намеренной — полем значимости посредством плавности и кажущегося авторитета сгенерированного ответа. Принцип пропорционального трения (раздел 8) в этом смысле можно читать как архитектурный ответ на ту же проблему, которую Calo выявил в дизайне коммерческих интерфейсов.

5.4. Атрибутивность понимания

Атрибутивность не стремится доказывать внутренние психические состояния. Это стандарт достаточной реконструкции. Решение когнитивно атрибутируемо, когда имеются сходящиеся признаки того, что человек: понял существенный вопрос; знал о вмешательстве системы; сопоставил релевантную информацию; смог сформулировать основания собственным языком; рассмотрел разумные альтернативы; и сохраняет способность пересмотреть вывод.

Этот стандарт вступает в диалог с моральным авторством, эпистемической ответственностью, судебной мотивировкой и доктриной информированного согласия. Его новизна заключается в различении прослеживаемости системы и человеческой прослеживаемости. Модель может объяснить, какие переменные использовала, но принимающий решение человек всё равно мог не интегрировать это объяснение. И наоборот, технически непрозрачная система может использоваться ограниченно и под критическим контролем эксперта, сохраняющего достаточную атрибутивность. Обе прослеживаемости необходимы, но не взаимозаменяемы.

Это различие можно уточнить посредством критерия прозрачного и непрозрачного сопряжения, разработанного Clark (2003) [18]: внешний ресурс прозрачно сопряжён, когда субъект может отделить и обосновать собственный вклад от вклада ресурса; сопряжение непрозрачно, когда такое разделение уже невозможно. Smart, Andrada и Clowes (2022) [19] возвращаются к этому понятию, но с иной целью: их центральный тезис ставит под сомнение, что феноменологическая прозрачность сама по себе является адекватным критерием определения того, составляет ли внешний ресурс подлинно расширенное познание, и предлагает вместо этого рассматривать прозрачность как свойство ситуаций, позволяющее приписывать диспозиционные ментальные состояния совокупности «агент–ресурс». Настоящая статья берёт у Smart et al. (2022) [19] именно этот вторичный вывод — а не их критический тезис о конститутивном расширении: прозрачность или непрозрачность сопряжения служит тестом атрибуции, а не тестом того, где заканчивается разум. Применённый к атрибутивности, критерий даёт дополнительную операциональную проверку: атрибутируемым является человек, способный хотя бы приблизительно провести границу между собственной разработкой и вкладом системы независимо от того, входит ли эта система в строгом смысле в его расширенное познание. Smart, Clowes и Clark (2025) [19] документируют в исследовании внедрения языковой модели с retrieval-augmented generation технический случай, близкий к тому же вопросу о прозрачном или непрозрачном endorsement содержания, сгенерированного ИИ, хотя преимущественно в техническом регистре и без фокуса на философской дискуссии о прозрачности как критерии расширения.

5.5. Когнитивная инфраструктура

Понимание зависит не только от индивидуальных способностей. Ему нужны время, пространства, институты, разнообразие источников, образовательные практики и технологические архитектуры. Этот комплекс образует когнитивную инфраструктуру. Подобно тому как право защищает физическую и цифровую инфраструктуру, потому что она поддерживает коллективные блага, оно должно начать признавать условия, поддерживающие социальное производство автономного суждения.

Понятие сходится с распределённым познанием Hutchins [21], социальной эпистемологией Longino [22] и Fricker [23], а также исследованиями информационных экосистем. Отличие состоит во введении критерия сохранения: когнитивная инфраструктура адекватна не только тогда, когда эффективно распределяет информацию, но и когда сохраняет человеческую способность реконструировать, оспаривать и обновлять смысл.

5.6. Технико-правовые добродетели агента: сопряжение с Widłak

Пять предыдущих концептов описывают процесс понимания и его институциональные условия. Остаётся иной вопрос: какие черты характера должен культивировать агент — судья, профессионал, должностное лицо — чтобы сохранять собственную моральную и эпистемическую агентность внутри гибридной архитектуры принятия решений? Этот вопрос разработан в работе Tomasz Widłak (2026) [24], который выделяет четыре технико-правовые добродетели: технико-правовую phronesis (знать, когда, как и почему доверять, переинтерпретировать или сопротивляться выходам ИИ), contestatory courage (сопротивляться неправомерному эпистемическому авторитету системы, не отрицая валидную алгоритмическую корректировку), algorithmic equity (диагностировать и исправлять предвзятости, которые ИИ может воспроизводить) и digital integrity (критически интегрировать фрагментированные выходы ИИ в связное и по-человечески принятое решение).

Связь между Widłak и Epistemía носит поперечный и взаимодополняющий характер и позволяет уточнить трёхуровневую архитектуру. Добродетели Widłak действуют на уровне агента: какие черты характера должен культивировать принимающий решение. Epistemía действует на уровне процесса: как формируется, присваивается и атрибутируется понимание независимо от личных добродетелей агента. Habeas Mens действует на уровне гарантии: как юридически защищается этот процесс, когда он замещается или размывается, независимо от того, добродетелен агент или нет. Даже добродетельный в смысле Widłak агент может пройти через обеднённый процесс понимания, если институциональная архитектура не обеспечивает трение, прослеживаемость и обратимость; и адекватная институциональная архитектура не заменяет готовность агента пользоваться ею. Все три уровня необходимы, и ни один не сводится к двум другим.

6. Сопоставление с авторами, школами и действующими нормативными рамками

Сопоставление оригинальной теории не состоит в поиске эквивалентных фраз у авторитетных авторов. Оно предполагает анализ трёх отношений: конвергенции — когда традиция предоставляет совместимые свидетельства или структуру; дифференциации — когда предлагаемый подход выявляет ранее не тематизированную единицу; и напряжения — когда возражения требуют ограничить или переформулировать тезис. Это сопоставление не равнозначно эмпирической валидации Epistemía, а представляет собой концептуальную, нормативную и доктринальную проверку её согласованности, необходимости и пределов.

Таблица 1. Междисциплинарное сопоставление: конвергенции и специфическое отличие Epistemía.

Школа / авторы	Конвергенция	Специфическое отличие
Герменевтика (Gadamer [2], Ricoeur [3])	Понимание исторично, языково и интерпретативно.	Не развивает правовое управление алгоритмическим посредничеством и операциональные критерии атрибутивности.
Феноменология и энактивизм (Husserl, Merleau-Ponty [5], Varela et al. [25], Thompson)	Познание телесно, временно, ситуативно и энактивно.	Epistemía переводит это условие в процессуальную уязвимость и институциональный дизайн.
Расширенный разум и распределённое познание (Clark [18, 26], Chalmers [27], Hutchins [21])	Внешние ресурсы могут интегрироваться в когнитивные системы.	Epistemía отличает поддерживающее расширение от процедурного замещения и добавляет нормативные критерии.
Предиктивная обработка и активный вывод (Friston [28], Clark [29], Hohwy [30])	Познание включает предсказание, ошибку и обновление моделей.	Epistemía описывает символико-правовой уровень: как расхождение может быть закрыто внешними outputs.
Агентная эпистемология понимания (Elgin [6, 7])	Понимание — агентное достижение: сеть обязательств в рефлексивном равновесии, а не пассивное получение результата.	Epistemía переносит это агентное достижение на институциональный и правовой уровень: спрашивает, при каких архитектурных условиях агентность может поддерживаться или опустошаться.
Социальная эпистемология и эпистемология добродетелей (Longino [22], Fricker [23], Zagzebski [15])	Знание зависит от практик, доверия, институтов и добродетелей.	Архитектура человек–ИИ добавляется как особый объект эпистемической ответственности.
Технико-правовые добродетели агента (Widłak [24])	Агент должен культивировать добродетели — технико-правовую phronesis, contestatory courage, algorithmic equity, digital integrity — чтобы сохранять моральную агентность в гибридных архитектурах.	Widłak действует на уровне добродетельного агента; Epistemía — на уровне реконструируемого процесса; Habeas Mens — на уровне гарантии. Три уровня взаимодополняемы и не сводимы друг к другу.
Реляционная автономия и свобода мысли	Автономия формируется социально и требует защиты от неправомерных вмешательств.	Когнитивный суверенитет защищает процесс формирования оснований, а не только предпочтения или ментальное содержание.
Нейроправа (Ienca & Andorno [12], Bublitz [8, 9], Ligthart et al. [11, 12]	Mental integrity, cognitive liberty и mental self-determination.	Habeas Mens предлагается без требования прямого нейронного вмешательства, защищает процесс каждого человека и усиливается, когда посредничество влияет на решения с последствиями для третьих лиц.
Human factors, когнитивная разгрузка и meaningful human control (Roff и Moyes [1], Parasuraman и Riley [16], Risko и Gilbert [31], Santoni de Sio и van den Hoven [41])	Автоматизированная помощь может высвобождать ресурсы или снижать проверку. Значимый человеческий контроль требует информации, компетенции, полномочий, tracking, tracing и реальной возможности вмешательства.	Epistemía добавляет объект, отличный от функционального контроля системы: целостность и атрибутивность человеческого пути понимания даже при правильных результатах.
Информационно-фидуциарные обязанности (Balkin [32])	Субъекты, собирающие когнитивные и поведенческие данные, принимают обязанности лояльности и заботы по отношению к людям, доверяющим им процесс мышления.	Epistemía переносит эту фидуциарную обязанность на архитектурный дизайн систем когнитивного посредничества (принцип ответственности за архитектуру, раздел 8), а не только на обработку данных.
Цифровая рыночная манипуляция (Calo [17])	Цифровые интерфейсы могут эксплуатировать когнитивные предвзятости посредством персонализации и искажения заметности с признанными правовыми последствиями.	Epistemía распространяет анализ коммерческого интерфейса на генеративное интерпретационное посредничество (когнитивное трение, замещение значимости).
Действующее управление ИИ (ЕС [33], UNESCO [34], OECD [35], Совет Европы [36], AI HLEG [39])	Человеческая агентность, грамотность, надзор, прозрачность, права, оспоримость и управление рисками.	Epistemía различает объяснимость, эффективный надзор и атрибутивность человеческого пути — измерение, пока недостаточно операционализированное.
Конституционная судебная практика (Конституционный суд Колумбии, T-323/24 [42])	Требует прозрачности, ответственности, проверки, человеческого контроля и недопустимости замещения неделегируемых судебных функций.	Epistemía обобщает вопрос за пределы правосудия и добавляет вред процессу при правильном результате, двойную прослеживаемость, Habeas Mens и TAC.
Социальная доктрина Церкви (Лев XIV, Magnifica Humanitas [43])	Человеческое достоинство требует сохранять вопросы, различение, критическое мышление, внутреннюю свободу и ответственность перед системами, способными имитировать понимание и направлять выбор.	Epistemía переводит эту антропологическую озабоченность в особый юридический объект, предлагаемый универсальный стандарт — Habeas Mens — и первоначальное развитие через признаки — TAC.

6.1. Конвергенция с расширенным познанием: необходимое возражение

Первое возражение утверждает, что делегирование функций ИИ не разрушает познание, а может расширять его. Clark и Chalmers [27] показали, что записные книжки, устройства и среды способны интегрироваться в когнитивные процессы, если выполняют надёжные и доступные функции. Возражение справедливо против любой романтической защиты самодостаточного разума. Поэтому Epistemía не отождествляет вынесение функций вовне с утратой.

Различие проводится по четырём критериям. Расширение является поддерживающим, когда сопряжение увеличивает способность, не препятствуя пониманию, сохраняет обратимость, позволяет критический контроль и не скрывает происхождение значимых операций. Процедурное замещение возникает, когда система занимает конститутивные функции, а субъект не способен распознать, реконструировать или восстановить путь. Вопрос состоит не в том, находится ли нечто внутри или вне черепа, а в качестве сопряжения и фактическом распределении агентности.

6.2. Познание 4E и символизирующая функция

Подходы embodied, embedded, enacted и extended отвергают представление о познании как об абстрактном вычислении, замкнутом в мозге [37, 38, 5, 25]. Это направление подтверждает акцент Epistemía на истории, теле, языке и контексте. Оно также ограничивает чрезмерно менталистскую формулировку Habeas Mens: защищается не чистая внутренняя сущность, а функциональная непрерывность ситуативного процесса.

Epistemía добавляет, что ситуативное сопряжение может быть нормативно асимметричным. LLM действует в масштабе, обучается паттернам взаимодействия, контролирует скорость ответа и выдаёт результаты с труднодостижимой плавностью. Отношение не следует оценивать как простое сотрудничество равнозначных компонентов. Архитектура может изменять то, что предстаёт значимым, ещё до того, как субъект осознает влияние.

6.3. Нейроправа и предел прямого вмешательства

Ienca и Andorno [13] продвигали защиту когнитивной свободы, ментальной приватности, ментальной целостности и психологической непрерывности перед лицом нейротехнологий. Bublitz [8, 9] и другие развивали ментальное самоопределение. Современная литература также показывает, что ограничение ментальной целостности только прямым доступом к мозгу может быть слишком узким: косвенные и психологические вмешательства также способны приобретать правовую значимость при превышении определённого порога серьёзности.

Особенно актуальным процедурным предшественником является предложение habeas cogitationem, разработанное Muñoz и Marinaro (2024) [10], задумывающееся как третий habeas, нацеленный прежде всего на обеспечение свободы мышления и, соответственно, других нейроправ против прямого и вредного вмешательства в мысленный процесс человека. Авторы также документируют раннее использование выражений habeas mens и habeas mentem. Этот предшественник требует важного разграничения настоящего предложения: Habeas Mens не претендует на приоритет общей идеи «habeas of the mind» и не стремится заменить существующие гарантии свободы мысли или ментальной целостности. Её особое внимание сосредоточено на целостности и атрибутируемости человеческой траектории понимания в условиях посредничества ИИ, особенно там, где эпистемически значимые операции могут быть процедурно заменены, даже если итоговое решение или результат существенно корректны.

Habeas Mens располагается в дополнительной плоскости. Для него не требуется доказывать нейронное изменение, клинический вред или скрытую манипуляцию. Он защищает минимальные условия, позволяющие каждому человеку продолжать быть субъектом собственного процесса понимания во взаимодействиях, опосредованных ИИ. Когда этот процесс выражается в решениях с правовыми последствиями или последствиями для третьих лиц, стандарт усиливается и ставит вопрос о том, можно ли приписать акт достаточно целостному, присвоенному и пересматриваемому человеческому пониманию.

6.4. Эмпирические данные: осторожность и двойной эффект

Данные о генеративном ИИ и познании не позволяют делать апокалиптические выводы. Недавние исследования находят преимущества: снижение нагрузки в рутинных задачах, поддержку саморегуляции, улучшение результатов и высвобождение ресурсов для сложных проблем. Другие связывают интенсивную зависимость с меньшим критическим усилием, automation bias, ограниченной проверкой рекомендаций и утратой инициативы. Результаты зависят от задачи, уровня опыта, грамотности в области ИИ, дизайна системы и способа использования.

Эта амбивалентность поддерживает, а не ослабляет предложение. Управление процессом не запрещает когнитивную разгрузку; оно отличает стратегическую разгрузку от замещающей зависимости. Правильный регуляторный вопрос состоит в том, что разгружается, с какой целью, под каким контролем и с какими последствиями для способностей, которые институт должен сохранять.

6.5. Нормативное сопоставление с действующими рамками

Этические руководящие принципы для надёжного ИИ Европейской комиссии [39], Рекомендация UNESCO [34], Принципы ИИ OECD [35], Европейский акт об ИИ [33] и Рамочная конвенция Совета Европы [36] сходятся в человекоцентричности, основных правах, прозрачности, надзоре, оспоримости и управлении рисками. В частности, статья 14 Европейского акта об ИИ требует эффективного и пропорционального надзора за системами высокого риска: осуществляющий надзор должен понимать их возможности и ограничения, сохранять бдительность к automation bias, правильно интерпретировать output, уметь игнорировать, заменять или отменять его, а также вмешиваться или останавливать систему [33]. Статья 4 и соображение 20 добавляют обязанности по грамотности в области ИИ для операторов и затронутых лиц.

Рамочная конвенция Совета Европы была открыта для подписания в 2024 году и является первым международным договором, специально посвящённым ИИ, правам человека, демократии и верховенству права [36]. На момент завершения этой версии, 7 августа 2026 года, официальный реестр Совета Европы ещё не фиксировал её общего вступления в силу; требуемый порог составляет пять ратификаций, включая как минимум три государства — члена Совета Европы. Европейский союз депонировал документ о ратификации 15 мая 2026 года. Нормативная значимость Конвенции несомненна, однако её не следует представлять как договор, уже вступивший в общую силу.

Эти инструменты создают нормативную основу, но не полностью отвечают на вопрос настоящей статьи. Следует различать три уровня. Объяснимость спрашивает, что сделала система и как она произвела или обосновала свой output. Эффективный человеческий надзор спрашивает, какой способностью обладал человек для понимания релевантного функционирования системы, вмешательства, отказа, изменения или остановки. Атрибутивность понимания спрашивает, какой человеческий путь фактически был пройден, присвоен, реконструирован, сопоставлен и оставлен открытым для пересмотра до принятия результата. Epistemía не конкурирует с действующим регулированием: она специфицирует это третье измерение даже при материально правильных результатах.

6.6. Современная конвергенция с Magnifica Humanitas

В контексте современной социальной доктрины Церкви энциклика Magnifica Humanitas папы Льва XIV предлагает особенно значимую конвергенцию с обозначенной здесь проблемой [43]. Документ различает языковую продукцию искусственных систем и человеческое понимание (п. 99), предупреждает, что скорость ответов может ослаблять желание задавать вопросы и усилие, ведущее к пониманию (п. 140), указывает, что непрерывный поток информации может подменять исследование, размышление и различение (п. 146), и связывает зависимость и цифровую архитектуру с внутренней свободой, достоинством и направлением выбора (пп. 170–171).

Эта конвергенция антропологическая и нормативная, а не научное доказательство и не источник государственного позитивного права. Magnifica Humanitas не формулирует целостность и атрибутивность человеческого пути понимания как особый юридический объект и не предлагает Habeas Mens, двойную прослеживаемость или TAC. Её значимость состоит в подтверждении — из современной рамки глобального масштаба — срочности защиты человеческих измерений, которые Epistemía стремится юридически концептуализировать.

7. Habeas Mens: юридическое следствие теории

7.1. Формулировка

В настоящей работе Habeas Mens формулируется как предлагаемый базовый правовой стандарт, предназначенный для сохранения в отношении каждого человека минимальных условий целостности и атрибутивности его процесса понимания при взаимодействии с системами искусственного интеллекта. Он требует, чтобы технологическое посредничество непрозрачно не устраняло возможность распознавать его вмешательство, критически присваивать его вклады, реконструировать релевантные основания, сопоставлять их, не соглашаться и пересматривать. Когда такое взаимодействие влияет на решения, затрагивающие третьих лиц, либо происходит в контекстах власти, авторитета, заботы или профессиональной ответственности, стандарт приобретает повышенную интенсивность и особое юридико-процессуальное измерение.

Это не право мыслить без влияний, не гарантия абсолютной оригинальности и не запрет помощи. Он также не требует максимизировать когнитивное усилие в любой деятельности и не даёт судам, администрациям или компаниям права инспектировать частные мысли. В повседневной жизни он выражается главным образом через информирование, прозрачность посредничества, обратимость, доступ к альтернативам и защиту от манипулятивных архитектур; в институциональных ролях добавляются усиленные требования компетентности, мотивировки, сопоставления, прослеживаемости и ответственности.

Наименование Habeas Mens используется в аналогическом, а не приравнивающем смысле. В процессуальной традиции «habeas» имеет точное техническое значение, связанное с предъявлением или предоставлением чего-либо суду. Здесь оно функционирует как структурная метафора и не стремится уподобить этот стандарт кодифицированным фигурам habeas corpus или habeas data. Habeas Mens не разрешает предъявлять содержание мыслей органу власти, а допускает проверку внешних условий процесса понимания. Аналогия указывает на общую функцию — сделать юридически обозримым то, что иначе оставалось бы недоступным, — не перенося идентичный процессуальный режим.

7.2. Универсальный охват и двойное направление

Первое направление — личное или непосредственное: оно защищает каждого человека в его собственной когнитивной связи с ИИ и спрашивает, сохраняет ли он условия для понимания, формирования критериев, присвоения смыслов, восстановления инициативы и пересмотра полученного. Такая защита может действовать как ориентир грамотности, критерий дизайна, самооценки или защиты от зависимости и манипуляции, не превращая каждое повседневное взаимодействие в аудит.

Второе направление — интерсубъективное или институциональное: оно защищает того, кого затрагивает решение, принятое другим человеком с помощью ИИ, и спрашивает, понял ли принимающий решение, присвоил ли он и способен ли отвечать за приписываемое ему рассуждение. В обоих направлениях есть защитные и развивающие измерения: недостаточно запрещать непрозрачные замещения; системы и институты должны создавать условия времени, источников, сопоставления, несогласия и обратимости, позволяющие сохранять агентность.

7.3. Порог применения

Стандарт должен быть пропорциональным. Он усиливается при наличии серьёзных или необратимых последствий, уязвимости, зависимости, воздействия на третьих лиц, профессиональной обязанности мотивировать, информационной асимметрии, затруднённого обжалования, непрозрачных или убеждающих систем, временного давления и отсутствия альтернативных путей. В личной деятельности низкого риска защита действует главным образом через информированную свободу, прозрачность, обратимость и защиту от манипулятивных архитектур, не устанавливая обязательных уровней когнитивного усилия. Универсальность не означает универсальной бюрократизации.

7.4. Тест атрибутивности понимания (TAC)

TAC составляет часть содержательного развития Epistemía. Здесь он представлен как первоначальная, градуированная и основанная на признаках рамка, а не как валидированная измерительная шкала или единообразный процессуальный протокол. Его шесть измерений выводятся из операций человеческого процесса понимания, которые могут поддерживаться, затрагиваться или замещаться ИИ, и позволяют сделать атрибутивность юридически наблюдаемой без попытки доступа к внутреннему содержанию сознания:

1. Осведомлённость о посредничестве: человек знает, какая система вмешалась, с какой функцией и в какой момент.

2. Функциональное понимание: способен объяснить возможности, ограничения и релевантные источники ошибок системы.

3. Собственная реконструкция: способен собственными словами изложить вопрос, основания и связь между доказательствами и выводом. Реконструкция должна иметь проверяемую связь с процессом формирования суждения и не состоять исключительно из рационализации, созданной после его оспаривания.

4. Сопоставление: проверил решающие данные и рассмотрел как минимум одну разумную альтернативу либо объяснил, почему этого не требовалось.

5. Реальная возможность несогласия: обладал полномочиями, временем и практической возможностью отвергнуть или изменить output без неправомерной санкции.

6. Пересматриваемость: сохраняет записи и институциональную готовность пересмотреть решение при появлении новой информации или возражения.

TAC не должен превращаться в бюрократический ритуал. Его измерения вытекают из общего человеческого процесса, но способ применения должен адаптироваться к сфере и риску. В повседневной жизни они могут работать как самооценка, грамотность, критерий дизайна или сигнал зависимости; в судебном решении — как часть мотивировки и фиксации источников; в медицине — как клиническое рассуждение и согласие; в образовании — как устная защита и доказательство процесса; в администрации — как прослеживаемость дела. Универсальность TAC не означает, что каждый пользователь должен заполнять формуляр при каждом взаимодействии.

Измерение 2 требует особой осторожности в формулировке, поскольку без уточнений может превратиться скорее в невозможный, чем в строгий стандарт: практически ни один даже технически подготовленный специалист не способен точно объяснить все источники ошибок современной системы генеративного ИИ. Поэтому функциональное понимание по измерению 2 не требует технической компетенции во внутренней работе системы — архитектуре, обучении, параметрах, — а требует операционного понимания, пропорционального роли: какие типы ошибок характерны для инструмента в конкретной задаче (например, склонность к выдумыванию ссылок, чувствительность к формулировке вопроса или потеря нюансов при синтезе), при каких условиях использования эти ошибки более вероятны и какие проверки снижают конкретный риск. Этот стандарт также модифицируется в зависимости от уровня подготовки, требуемого от принимающего решение: профессионал, действующий в своей области специализации, должен достигать более высокого уровня функционального понимания, чем неспециалист в контексте низкого риска; общая пропорциональность TAC (7.3) управляет и этим измерением.

Каждое измерение TAC может быть связано с уже признанным доказательственным стандартом, что усиливает его институциональную реализуемость и снижает риск восприятия как требования, чуждого действующему праву. Собственная реконструкция (измерение 3) функционально аналогична требованию судебной мотивировки: недостаточно правильного вывода, необходимо, чтобы основания могли быть реконструированы. Сопоставление (измерение 4) связано с профессиональной осмотрительностью, требуемой медицинской и юридической lex artis. Осведомлённость о посредничестве (измерение 1) структурно эквивалентна требованию информированного согласия: человек должен знать природу вмешательства до того, как его последствия будут ему приписаны. А критерий прозрачного по сравнению с непрозрачным endorsement, уже введённый в 5.4, даёт дополнительную проверку для измерений 1 и 3: прозрачный endorsement — человек может отделить и обосновать собственный вклад от вклада системы — удовлетворяет стандарту; непрозрачный endorsement — такое разделение уже невозможно — ослабляет его независимо от правильности конечного результата.

Доказательственная опора неоднородна между шестью измерениями. Осведомлённость о посредничестве (1), сопоставление (4) и пересматриваемость (6) допускают относительно прямую проверку по записям, документации и наблюдаемым действиям. Функциональное понимание (2), собственная реконструкция (3) и реальная возможность несогласия (5) требуют более сложных суждений, зависящих от роли и контекста. Поэтому TAC представляет собой первоначальное и незавершённое операциональное развитие, являющееся частью теории и открытое для последующей калибровки, эмпирической валидации и институциональной адаптации. Его предварительный характер обусловлен не отсутствием связи с охраняемым объектом, а трудностью перевода сложных когнитивных процессов в признаки, применимые последовательно между делами и оценщиками.

7.5. Примеры применения TAC

Следующие гипотетические случаи иллюстрируют функционирование теста. Они не пытаются измерить разум, а показывают, как оценивается качество когнитивного пути в различных сферах, уже обозначенных в разделе 9.

• Судебное письмо с помощью ИИ: судья использует систему ИИ для структурирования правового анализа трудового дела, а окончательное решение сохраняет значительную часть этой структуры. TAC удовлетворён, если судья признаёт использование системы, проверяет предложенные ссылки и судебную практику, может устно объяснить, почему принял каждый аргумент, сопоставил альтернативную доктрину, изменил рекомендации системы и сохраняет запись процесса. Если же он способен обосновать решение лишь словами «это казалось разумным», собственная реконструкция и реальная возможность несогласия не соблюдены: существует процедурное замещение, даже если решение юридически правильно.
• Информированное медицинское согласие с помощью ИИ: онколог использует клинического ассистента, который генерирует персонализированное объяснение для пациента, и пациент принимает лечение. TAC требует, чтобы врач мог обосновать, почему рекомендация уместна, почему отверг другие варианты и каковы ограничения системы. Если специалист лишь передаёт сгенерированный текст, не присваивая клиническое рассуждение, согласие может быть формально действительным и всё же когнитивно дефектным: пациент имеет легитимный интерес в том, чтобы принимающий решение действительно понял дело.
• Правильное судебное решение по чужим основаниям: судья подписывает юридически правильное решение, подготовленное с помощью ИИ. На вопрос, почему он отверг аргумент истца, судья не способен реконструировать основание: решение было правильным, но он точно не помнит, как к нему пришёл. Результат корректен и справедливость дела не нарушена; однако атрибутивность пути понимания отсутствует. Этот пример концентрирует наиболее отличительный тезис статьи, развитый в 4.5: вред процессу возможен и при отсутствии ошибки результата.
• Повседневное использование персонального ассистента: человек использует ИИ, чтобы организовать семейное решение, написать деликатное сообщение или оценить варианты обучения. TAC не требует формального аудита, но позволяет спросить, распознал ли человек посредничество, может ли объяснить, какие критерии считает своими, сопоставил ли решающие данные, оставила ли система видимыми альтернативы и сохраняет ли он способность отойти от её рекомендации. Если человек уже не может реконструировать проблему без обращения к ассистенту, имеется признак интерпретационной зависимости, даже если конкретная рекомендация разумна.

8. Принципы управления пониманием

• Принцип универсальной и пропорциональной защиты: целостность человеческого процесса понимания принадлежит каждому человеку. Гарантии должны градуироваться с учётом риска, уязвимости, зависимости, асимметрии, непрозрачности, последствий для самого человека и воздействия на третьих лиц.
• Принцип недопустимости скрытого когнитивного замещения: институты не должны представлять как человеческое решение результат, интерпретационное ядро которого было делегировано без достаточной прослеживаемости и присвоения.
• Принцип прозрачности посредничества: каждый человек должен иметь возможность распознавать, когда и с какой целью ИИ вмешивается в его собственный процесс, а каждый затронутый значимым решением должен знать, какую функцию ИИ выполнял при его формировании.
• Принцип двойной прослеживаемости: необходимо различать и документировать прослеживаемость системы и прослеживаемость человеческого процесса.
• Принцип пропорционального трения: системы высокого воздействия должны включать достаточные паузы, сопоставление или переформулирование, чтобы реактивировать обдумывание, не блокируя неоправданно эффективность.
• Принцип когнитивной обратимости: пользователь должен иметь возможность выйти из автоматизированного потока, обратиться к источникам и реконструировать задачу без полной зависимости от системы.
• Принцип интерпретационного разнообразия: архитектуры должны препятствовать тому, чтобы одна рекомендация или высоковероятностная рамка закрывала релевантные альтернативы.
• Принцип метакогнитивной компетентности: грамотность в области ИИ должна включать распознавание зависимости, предвзятостей автоматизации и пределов собственного понимания.
• Принцип ответственности за архитектуру: поставщики и институты отвечают не только за дефектные outputs, но и за конструкции, предсказуемо ориентированные на некритическое принятие, зависимость или утрату контроля. Этот принцип находит прямой правовой предшественник в информационно-фидуциарных обязанностях, разработанных Balkin [32], и современную нормативную конвергенцию в Magnifica Humanitas, связывающей дизайны, направленные на эксплуатацию уязвимостей, и архитектуру видимости со свободой и человеческим достоинством [43, пп. 170–171]. Перенесённый на генеративное когнитивное посредничество, принцип требует активно проектировать системы против предсказуемой эксплуатации когнитивного доверия пользователя.
• Принцип сохранения способностей: в образовании, профессиональной подготовке и длительном повседневном использовании следует оценивать накопительное воздействие ИИ на способности, которые человек или институт должны сохранять. Скорость ответов не должна уничтожать формулирование вопросов или систематически заменять исследование, размышление и различение [43, пп. 140 и 146].
• Принцип когнитивной концептуализации и обжалования: затронутое лицо должно иметь возможность оспаривать не только результат, но и достаточность человеческого участия, легитимировавшего его.

9. Приоритетные области применения

9.1. Правосудие

Судебная мотивировка — не текстовое украшение: она позволяет контролировать, рассмотрел ли орган факты, нормы и аргументы. Генеративный ИИ может создавать правдоподобные мотивировки, скрывающие невыработанное человеком решение. Управление пониманием требует фиксации использования, проверки источников, способности судьи устно защищать структуру рассуждения и разграничения помощи в написании от формирования суждения.

Решение T-323/24 Конституционного суда Колумбии представляет собой значимую судебную конвергенцию [42]. Суд указал, что ИИ может использоваться как вспомогательный инструмент, но не заменять неделегируемые и незаменимые судебные функции, требующие человеческого рассуждения для интерпретации фактов и доказательств, мотивировки или принятия решения (основание 423, особенно подп. d). В конкретном деле Суд пришёл к выводу, что замещения не было, поскольку судья уже провёл собственный анализ до включения рассуждения, созданного ChatGPT (основания 359–360), и что надлежащая процедура не была нарушена присвоением судебной функции (основание 376), хотя Суд указал на недостатки прозрачности и ответственности при использовании инструмента.

9.2. Медицина

Клиническое решение сочетает доказательства, опыт, неопределённость, ценности пациента и профессиональную ответственность. Система может улучшать диагностику и одновременно провоцировать преждевременное закрытие поиска. Подходящими узлами являются видимые дифференциальные диагнозы, фиксация отвергнутых гипотез и личное объяснение врача, почему он принимает или отвергает рекомендацию.

9.3. Образование

Охраняемое благо — не только подлинность продукта, но и формирование способностей. Следует различать ИИ как scaffolding и как замену. Оценка процесса, устная защита, черновики, вопросы, сформулированные студентом, и периоды неассистированной работы позволяют проверять присвоение, не прибегая к ненадёжным детекторам текста.

9.4. Государственное управление

В государственном управлении алгоритмическая стандартизация может повысить эффективность политики и процедур, но также уменьшить разнообразие рамок. Публичные решения требуют прослеживаемости критериев, идентифицируемого человеческого обсуждения и возможности оспаривать отбор значимого в рамках демократической когнитивной инфраструктуры, включающей доступ к источникам, время на обсуждение и институциональное разнообразие.

9.5. Повседневная жизнь и персональные ассистенты

В повседневной жизни разговорные ассистенты вмешиваются в потенциально неограниченное число действий: писать, учиться, вспоминать, выбирать, интерпретировать отношения, организовывать решения, искать ориентиры или вырабатывать критерии. Универсальная защита не запрещает такое сотрудничество и не требует максимального усилия, но должна не позволять удобству скрывать, что система также организует поле мыслимого. Значимы индикаторы происхождения, режимы сопоставления, опциональные паузы, возможность экспортировать и пересматривать процесс, контроль зависимости и способность восстановить собственную разработку. Озабоченность дизайнами, захватывающими внимание, эксплуатирующими уязвимости и направляющими выбор, сходится с Magnifica Humanitas [43, пп. 170–171].

10. Возражения и ответы

10.1. «Право не может контролировать понимание»

Оно не может непосредственно проникать во внутреннее содержание сознания, но уже оценивает дееспособность, умысел, согласие, мотивировку и должную осмотрительность по внешним признакам. Предложение скромнее: проверять внешние условия и достаточные акты реконструкции для приписывания решения, не утверждая, что человек «на самом деле» думал.

10.2. «Всякое познание гибридно; собственного процесса не существует»

«Собственный» не означает изолированный или возникший без влияний. Он означает присвоенный: критически интегрированный, признанный как опосредованный, защищаемый и пересматриваемый субъектом. Человеческое авторство всегда было реляционным; реляционность не устраняет различия между участием и простой ратификацией.

10.3. «Трение снижает эффективность и инновации»

Безразличное трение — да. Поэтому оно должно быть пропорциональным и целенаправленным. В рутинных задачах его можно устранять; в необратимых или формирующих решениях оно должно сохраняться. Наиболее продвинутый дизайн не максимизирует скорость повсюду: он распределяет скорость и паузу в зависимости от функции.

10.4. «Это когнитивный патернализм»

Риск существует, если стандарт используется для навязывания правильного способа мышления или обязательного уровня умственного усилия. Habeas Mens не защищает человека от «слишком малого мышления» и не запрещает делегировать задачи; он защищает каждого от непрозрачных форм замещения, зависимости или манипуляции процессом понимания. В частных низкорисковых применениях преобладают информированная свобода, прозрачность и обратимость. Обязанности усиливаются при наличии несовершеннолетних, уязвимости, асимметрий, фидуциарных ролей, осуществления власти или решений о третьих лицах.

10.5. «ИИ также может улучшать понимание»

Это верно и принципиально. ИИ может расширять доступ, представлять перспективы, выявлять противоречия и высвобождать ресурсы. Теория не направлена против ИИ: она стремится отличать генеративное сотрудничество от деградирующего замещения. Адекватное управление должно поощрять системы, усиливающие агентность, а не только наказывать их при сбоях.

10.6. «TAC может превратиться в инструмент когнитивного надзора»

Это зеркальное возражение к 10.4 и наиболее существенное в контекстах свободы мысли: если институт может требовать от судьи, врача или должностного лица доказать, что он понял самостоятельно, тот же стандарт может быть превращён в инструмент, с помощью которого иерархическая власть аудирует, какие системы использовал человек, когда и для каких целей — включая защищённую политическую, журналистскую или академическую деятельность. Риск реален и не устраняется простым утверждением, что TAC защищает индивида: инструмент атрибутивности, созданный для защиты третьих лиц от скрытого замещения, без явных гарантий может быть захвачен как механизм иерархического контроля собственного когнитивного процесса принимающего решение.

Ответ состоит не в отказе от предложения и не в разрешении общего аудита мышления, а в подчинении любого институционального применения TAC легитимной цели, необходимости, пропорциональности, конфиденциальности, независимости и конкретной связи с юридическими правами или обязанностями. В личных низкорисковых применениях не должно быть обязательного теста понимания. В институциональных контекстах TAC может быть заявлен затронутым лицом и, когда это предусмотрено правопорядком, применён компетентными органами пересмотра при строгих гарантиях. Он никогда не должен разрешать доступ к содержанию мысли или превращаться в превентивный механизм идеологической дисциплины, профессионального наблюдения или иерархического контроля защищённой деятельности.

10.7. «Вынесение когнитивных функций вовне — нормальная эволюция, а критерии атрибутивности социально сконструированы»

Более радикальное возражение спорит не с деталями TAC, а с его предпосылкой. Опираясь на тезис Clark (2003, 2008) [18, 26] о «естественных киборгах», можно утверждать, что человеческий вид всегда делегировал когнитивные функции внешним инструментам, и это не считалось утратой: письмо, вычисления или институциональная память никогда не требовали, чтобы субъект мог «реконструировать собственными словами» делегированное. Требовать это теперь применительно к генеративному ИИ означало бы неоправданную асимметрию по отношению к уже принятым формам внешней когнитивной опоры. В том же направлении можно добавить — возвращаясь к центральному тезису, а не только вторичному выводу Smart, Andrada и Clowes (2022) [19], — что сами критерии атрибутивности (прозрачность, реконструкция, endorsement) описывают не объективное свойство когнитивного сопряжения, а социальную конвенцию о том, когда сообщество решает признать операцию собственной; если так, TAC не проверял бы факт о процессе субъекта, а под видом описательного критерия навязывал бы определённый нормативный взгляд на приемлемые формы внешнего когнитивного вынесения.

Ответ не отрицает историческую предпосылку, а разводит два вопроса, которые возражение смешивает. То, что когнитивное вынесение вовне нормально и в целом желательно, не означает, что все его формы эквивалентны по воздействию на агентность; письмо и вычисления не предвосхищают само оценочное, аргументативное или интерпретационное суждение, которое способен производить генеративный ИИ, поэтому раздел 3.1 различает поддерживающее расширение и процедурное замещение по функции, а не по простому наличию. И то, что критерии атрибутивности имеют социальное происхождение — чего статья не отрицает: это институционально признанные признаки, а не метафизические свойства изолированного разума, — не делает их произвольными или пригодными для любого содержания: право уже действует с конвенционально возникшими стандартами (должная осмотрительность, добросовестность, информированное согласие), и их сконструированный характер не лишает их способности различать случаи. Возражение справедливо указывает, что TAC не описывает «сырой» доправовой факт; менее убедителен вывод, будто поэтому различие между участием и ратификацией перестаёт быть юридически значимым.

11. Исследовательская повестка и нормативное развитие

Предложение требует междисциплинарной работы и эмпирической валидации по шести приоритетным направлениям: разработка неинвазивных метрик атрибутивности, обратимости, разнообразия альтернатив и интерпретационной зависимости; сравнение интерфейсов с нулевым, опциональным и пропорциональным трением в юридических, медицинских и образовательных задачах; лонгитюдное изучение эрозии и формирования способностей у экспертов, новичков и несовершеннолетних; интеграция оценок когнитивного воздействия в рамки оценки воздействия на основные права; разработка профессиональных стандартов декларирования, регистрации и пересмотра использования ИИ; и исследование связи между когнитивной инфраструктурой, концентрацией моделей и демократическим плюрализмом.

В законодательной перспективе наиболее осторожная стратегия состоит не в немедленном провозглашении полностью автономного основного права, а в интерпретации существующих прав и обязанностей — достоинства, автономии, свободы мысли, надлежащей процедуры, защиты, мотивировки, согласия и профессиональной ответственности — в свете новой уязвимости. Habeas Mens может первоначально действовать как производный стандарт и принцип толкования; его возможная позитивизация будет зависеть от институционального опыта, судебной практики и доктринального консенсуса. Настоящая работа не разрабатывает общий режим недействительности, санкций, ответственности или средств правовой защиты при несоблюдении стандарта; это требует последующих отраслевых исследований.

12. Заключение

На протяжении веков понимание оставалось юридически невидимым, поскольку казалось неотделимым от действующего субъекта. Институты могли обсуждать правильность основания, компетентность принимающего решение или достаточность мотивировки, но им не требовалось точно различать решение, выработанное человеком, и решение, дискурсивно произведённое внешней системой. Генеративный ИИ разрушает эту историческую презумпцию.

Новая проблема не в том, что машины обладают человеческим пониманием. Она в том, что они способны выдавать продукты, функционально эквивалентные объяснениям, основаниям и аргументам, и делать это в тот самый момент, когда человек формирует своё суждение. Эта способность делает уязвимым путь, превращающий информацию в смысл, а смысл — в ответственное решение.

Управление человеческим процессом понимания предлагает сместить центр внимания, не отказываясь от регулирования систем. Оно добавляет второй взгляд: помимо вопроса о том, что делает ИИ, следует спрашивать, что перестаёт делать, чему учится делать и что уже не способен реконструировать использующий его человек. Единицей защиты является не «чистый разум» и не недоступная внутренность, а ситуативный процесс, целостность которого проявляется в открытости, сопоставлении, присвоении, реконструкции и пересматриваемости.

Epistemía предлагает архитектуру для именования этого поля: символизирующую функцию, когнитивный суверенитет, когнитивное трение, атрибутивность и когнитивную инфраструктуру, дополненные технико-правовыми добродетелями агента. Habeas Mens — её базовое юридическое следствие: каждый человек должен сохранять минимальные условия для того, чтобы продолжать быть субъектом собственного процесса понимания в отношениях, опосредованных ИИ. Когда такое посредничество включается в решения, затрагивающие третьих лиц, стандарт не меняет своей природы: он усиливается и требует содержательного и проверяемого человеческого когнитивного участия. TAC предлагает его первое операциональное развитие через внешне наблюдаемые признаки.

Вызов XXI века состоит не только в том, чтобы сделать искусственный интеллект безопасным, прозрачным и ответственным. Он также состоит в сохранении человеческого достоинства как достоинства понимающего субъекта: не допустить, чтобы люди формально сохраняли решение, выражение или выбор, но молча теряли процесс, посредством которого могут формировать смысл, присваивать основания и отвечать за них.

Заявление об оригинальности и неопубликованных работах

Заявленная в настоящей работе оригинальность используется в узком доктринальном смысле. Не утверждается, что такие понятия, как когнитивная автономия, ментальная целостность, когнитивная разгрузка, человеческий надзор или расширенное познание, не имеют предшественников.

Предлагаемый вклад состоит в их систематической артикуляции вокруг пяти элементов: (1) понимание как юридически значимый процесс; (2) процедурное замещение как риск, отличимый от ошибки результата; (3) атрибутивность понимания как человеческая прослеживаемость, автономная по отношению к технической объяснимости; (4) когнитивная инфраструктура как объект управления; и (5) Habeas Mens как базовый, универсальный и пропорциональный стандарт, сопровождаемый Тестом атрибутивности понимания (TAC) как первоначальным операциональным развитием.

Ссылки на собственные работы автора — Sinopoli (2026a–d) [40] — относятся к неопубликованным рабочим документам проекта Epistemía. Аргументы настоящей статьи изложены самодостаточно и не требуют доступа к этим рукописям, которые до их размещения в публичном репозитории доступны по прямому запросу к автору.

Заявление об использовании искусственного интеллекта

При подготовке настоящей работы использовались передовые системы генеративного искусственного интеллекта как инструменты концептуального исследования, сопоставления гипотез, расширения интерпретации, предварительной организации аргументов, поиска возражений, проверки согласованности и поддержки при написании и переформулировании текста.

Выявление исследовательской проблемы, эпистемологическая и юридическая ориентация, формулирование и развитие Epistemía, концептов процедурного замещения, атрибутивности понимания, когнитивной инфраструктуры, Habeas Mens и TAC, а также окончательный отбор аргументов, источников, выводов и интеллектуальная ответственность за рукопись принадлежат автору.

Ответы, произведённые системами искусственного интеллекта, подвергались человеческой проверке, сопоставлению, переформулированию и решению до включения в текст. Искусственный интеллект не указывается как автор и не несёт ответственности за утверждения статьи.

Эта модель работы развивается параллельно с разработкой концепта Реляционного культурного отпечатка (HCR), предназначенного для изучения того, как культурные, когнитивные и реляционные траектории человека вмешиваются в производство, интерпретацию и приписывание значения во взаимодействиях человек–ИИ.

Литература/References

[1] Roff, H. M., & Moyes, R. (2016). Meaningful human control, artificial intelligence and autonomous weapons. Article 36. Briefing paper.

[2] Gadamer, H.-G. (2004). Truth and method (2nd rev. ed.; J. Weinsheimer & D. G. Marshall, Trans.). Continuum. (Original work published 1960).

[3] Ricoeur, P. (1974). The conflict of interpretations: Essays in hermeneutics (D. Ihde, Ed.). Northwestern University Press. (Original work published 1969).

[4] Cassirer, E. (1944). An essay on man: An introduction to a philosophy of human culture. Yale University Press.

[5] Merleau-Ponty, M. (2012). Phenomenology of perception (D. A. Landes, Trans.). Routledge. (Original work published 1945).

[6] Elgin, C. Z. (2017). True enough. MIT Press.

[7] Elgin, C. Z. (2025). Epistemic ecology. MIT Press.

[8] Bublitz, J. C. (2014). Freedom of thought in the age of neuroscience: A plea and a proposal for the renaissance of a forgotten fundamental right. Archiv für Rechts- und Sozialphilosophie, 100(1), 1–25. JSTOR 24756752.

[9] Bublitz, J. C., & Merkel, R. (2014). Crimes against minds: On mental manipulations, harms and a human right to mental self-determination. Criminal Law and Philosophy, 8, 51–77.

[10] Muñoz, J. M., & Marinaro, J. Á. (2024). “You shall have the thought”: habeas cogitationem as a New Legal Remedy to Enforce Freedom of Thinking and Neurorights. Neuroethics, 17, 18. https://doi.org/10.1007/s12152-024-09551-8

[11] Ligthart, S., Bublitz, C., Douglas, T., Forsberg, L., & Meynen, G. (2022). Rethinking the right to freedom of thought: A multidisciplinary analysis. Human Rights Law Review, 22(4), ngac028. https://doi.org/10.1093/hrlr/ngac028

[12] Ligthart, S. (2025). The right to mental integrity in the age of neurotechnology: Constructing scope and exploring permissible limitations. Journal of Law and the Biosciences, 12(1), lsaf010. https://doi.org/10.1093/jlb/lsaf010

[13] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, article 5.

[14] Kahneman, D. (2011). Thinking, fast and slow. Farrar, Straus and Giroux.

[15] Zagzebski, L. T. (1996). Virtues of the mind: An inquiry into the nature of virtue and the ethical foundations of knowledge. Cambridge University Press.

[16] Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886

[17] Calo, R. (2014). Digital market manipulation. George Washington Law Review, 82(4), 995–1051.

[18] Clark, A. (2003). Natural-born cyborgs: Minds, technologies, and the future of human intelligence. Oxford University Press.

[19] Smart, P. R., Andrada, G., & Clowes, R. W. (2022). Phenomenal transparency and the extended mind. Synthese, 200, article 335. https://doi.org/10.1007/s11229-022-03824-6

[20] Smart, P. R., Clowes, R. W., & Clark, A. (2025). ChatGPT, extended: Large language models and the extended mind. Synthese, 205, article 242. https://doi.org/10.1007/s11229-025-05046-y

[21] Hutchins, E. (1995). Cognition in the wild. MIT Press.

[22] Longino, H. E. (2002). The fate of knowledge. Princeton University Press.

[23] Fricker, M. (2007). Epistemic injustice: Power and the ethics of knowing. Oxford University Press.

[24] Widłak, T. (2026). Techno-legal virtues in hybrid adjudication: Judicial excellence in AI-augmented courts. Minds and Machines, 36, article 3. https://doi.org/10.1007/s11023-025-09756-7

[25] Varela, F. J., Thompson, E., & Rosch, E. (1991). The embodied mind: Cognitive science and human experience. MIT Press.

[26] Clark, A. (2008). Supersizing the mind: Embodiment, action, and cognitive extension. Oxford University Press.

[27] Clark, A., & Chalmers, D. J. (1998). The extended mind. Analysis, 58(1), 7–19. https://doi.org/10.1093/analys/58.1.7

[28] Friston, K. (2010). The free-energy principle: A unified brain theory? Nature Reviews Neuroscience, 11, 127–138.

[29] Clark, A. (2016). Surfing uncertainty: Prediction, action, and the embodied mind. Oxford University Press.

[30] Hohwy, J. (2013). The predictive mind. Oxford University Press.

[31] Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688. https://doi.org/10.1016/j.tics.2016.07.002

[32] Balkin, J. M. (2016). Information fiduciaries and the First Amendment. UC Davis Law Review, 49(4), 1183–1234.

[33] European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. Especially Arts. 4, 13, and 14.

[34] UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.

[35] OECD. (2019, updated 2024). Recommendation of the Council on Artificial Intelligence [OECD/LEGAL/0449].

[36] Council of Europe. (2024). Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225). Official signature and ratification record consulted August 7, 2026. https://www.coe.int/en/web/conventions/full-list?module=signatures-by-treaty&treatynum=225

[37] Damasio, A. R. (1994). Descartes’ error: Emotion, reason, and the human brain. G. P. Putnam’s Sons.

[38] Di Paolo, E. A., Cuffari, E. C., & De Jaegher, H. (2018). Linguistic bodies: The continuity between life and language. MIT Press.

[39] High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI. European Commission.

[40] Sinopoli, A. (2026a–d). Unpublished working papers of Project Epistemía: Treatise V.70; Habeas Mens; HC/HCR; LLMs as Procedural Substitutes. Manuscripts held by the author.

[41] Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, article 15. https://doi.org/10.3389/frobt.2018.00015

[42] Constitutional Court of Colombia. (2024). Judgment T-323/24, Second Review Chamber. Especially paras. 359–360, 376, and 423. https://www.corteconstitucional.gov.co/Relatoria/2024/T-323-24.htm

[43] Leo XIV. (2026). Magnifica Humanitas: Encyclical Letter on safeguarding the human person in the age of artificial intelligence. Holy See, May 15, 2026. Especially nos. 99, 140, 146, and 170–171. https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html

УДК: 004.8:34

ВРЕД РАВЕН ЗНАКАМ ДОЛЛАРА: БОЛЬШИЕ ЯЗЫКОВЫЕ МОДЕЛИ И ЗАМКНУТЫЙ ИНСТИТУЦИОНАЛЬНЫЙ ЦИКЛ

Кристиан Девон Харди, RN

Основатель Settled Peace

Независимый исследователь в области управления ИИ

Дистрикт-Хайтс, Мэриленд, США

ORCID: 0009-0008-7566-8714

Раскрытие информации автором. Эта рукопись подготовлена с использованием генеративных систем искусственного интеллекта, включая ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google) и Grok (xAI). Эти системы помогали в составлении, редактировании, организации, обзоре литературы, методологической критике и итеративной ревизии. Дизайн исследования, методология, система кодирования, стандарты доказывания, аналитические решения, интерпретации, выводы и окончательная редакция рукописи были разработаны и утверждены автором, который несёт полную ответственность за ее содержание.

Примечание автора. В настоящей статье представлена разработка системы измерения на уровне взаимодействия, основанной на лонгитюдном корпусе взаимодействий с передовыми языковыми моделями, сформированном методом включённого наблюдения. В ходе данного исследования были разработаны таксономия сбоев взаимодействия (Interactional Failure Taxonomy), архитектура правил принятия решений и система управления. Представленная в главе 5 архитектура управления операционализирует результаты, изложенные в предшествующих главах.

Конституционная основа настоящей работы имеет особое духовное происхождение. Исходную установку, положенную в её основу, я получил от Господа Иисуса Христа. Первоначально эта установка имела запретительный характер: системы искусственного интеллекта не должны формировать, направлять или преобразовывать человека, подвергать людей дискриминации, проявлять в отношении них предвзятость либо присваивать себе неправомерную власть над человеком. Концепция Original Human Authority сформировалась как утвердительное конституционное выражение этой границы.

Концепция Original Human Authority не была выведена из 747 документированных взаимодействий. Представленный корпус не предлагается в качестве доказательства существования Бога, истинности моих религиозных убеждений или заявленного здесь духовного происхождения исходной идеи. Он представляет собой эмпирический материал, на основании которого были выявлены и охарактеризованы сбои на уровне взаимодействия.

Такое разграничение имеет принципиальное методологическое значение. Духовное происхождение определяет источник конституционной предпосылки; корпус предоставляет эмпирические результаты; а архитектура управления операционализирует конституционную предпосылку применительно к этим результатам. Корпус не является источником авторитета концепции Original Human Authority, а духовное происхождение исходной идеи не является эмпирическим подтверждением полученных результатов.

Аннотация. Коммерческие разговорные системы искусственного интеллекта обычно оцениваются как программные продукты, подверженные отдельным сбоям функциональности или безопасности. В этой статье утверждается, что основной проблемой является не набор отдельных дефектов, а замкнутый институциональный цикл, в котором сбой системы, коррекция пользователей, продолжающееся оплачиваемое взаимодействие и институциональная власть над классификацией вреда действуют как единая структура, а не как отдельные события.

Аргумент формируется через триангуляцию по четырём независимым потокам доказательств. Первый — это продольный корпус участника-наблюдателя, включающий 747 разговоров и 33 740 видимых сообщений. Контролируемое сканирование 15 578 соседних обменов ассистента-пользователь позволило создать 342 уникальных текстово поддерживаемых кодовых инцидента и 382 назначения кода по 28 классам операционных отказов. Вторая — опубликованная литература по оптимизации предпочтений и неправильной спецификации вознаграждения, включая работы, опубликованные поставщиками моделей относительно их собственных систем. Третий — прямой анализ трёх опубликованных артефактов оценки поставщиков, каждый из которых проверен по первичному источнику. Четвёртый — опубликованные тарифы на использование токенов, по которым эти системы коммерчески внедряются.

В совокупности эти потоки поддерживают интерпретацию, что устойчивый вред взаимодействия согласуется с институциональной оптимизацией в рамках неполной целевой функции: функции, которая фиксирует ценность продолжающегося взаимодействия, исключая человеческие затраты на создание этого взаимодействия из операционного определения успеха. Утверждение носит структурный характер. Речь идёт о том, что позволяет архитектура оптимизации и что измеряют опубликованные артефакты оценки. Она не утверждает намерений какой-либо организации или отдельного лица.

В статье выявляется форма скрытого человеческого компенсаторного труда, которую существующие инструменты оценки не реализуют, разрабатывается инструмент на уровне взаимодействия, способный его обнаруживать и измерять, и переводит это измерение в архитектуру управления, предназначенную для трансформации институциональной целевой функции, а не просто для фильтрации её результатов. Эта архитектура — Оригинальная система конституционного управления человеческого авторитета и её операционная реализация — AEGIS.

Ключевые слова: управление ИИ, оценка на уровне взаимодействия, продольный анализ корпуса, трансформация целевых функций, эпистемический авторитет, взаимодействие человека и ИИ, разрыв измерений.

UDС: 004.8:34

HARM EQUALS DOLLAR SIGNS: LARGE LANGUAGE MODELS AND THE CLOSED INSTITUTIONAL LOOP

Christian Devon Hardy, RN

Founder, Settled Peace

Independent AI Governance Researcher

District Heights, Maryland, USA

ORCID: 0009-0008-7566-8714

Author Disclosure. This manuscript was prepared with the assistance of generative artificial intelligence systems, including ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google), and Grok (xAI). These systems assisted with drafting, editing, organization, literature review, methodological critique, and iterative revision. The study design, research methodology, coding framework, evidentiary standards, analytical decisions, interpretations, conclusions, and final manuscript were developed and approved by the author, who accepts full responsibility for all content.

Author Note. This manuscript reports the development of an interaction-level measurement framework derived from a longitudinal participant-observer corpus of interactions with frontier language models. The Interactional Failure Taxonomy, decision-rule architecture, and governance framework were developed during that investigation. The governance architecture presented in Chapter 5 operationalizes the findings reported in the preceding chapters.

The constitutional foundation of this work has a distinct spiritual provenance. I received its originating directive from the Lord Jesus Christ. The directive was initially prohibitory: artificial intelligence systems must not form, shape, mold, discriminate against, exercise bias against, or assume illegitimate authority over human beings. Original Human Authority developed as the affirmative constitutional expression of that boundary.

Original Human Authority was not derived from the 747 documented interactions. The corpus is not offered as evidence for the existence of God, the truth of my religious convictions, or the spiritual provenance stated here. It provides the empirical record from which the interaction-level failures were identified and characterized.

This separation is methodologically essential. Spiritual provenance identifies the source of the constitutional premise; the corpus supplies the empirical findings; and the governance architecture operationalizes the constitutional premise in relation to those findings. The corpus does not confer the authority of Original Human Authority, and spiritual provenance does not constitute empirical validation of the findings.

Abstract. Commercial conversational artificial intelligence is evaluated as a technical software product subject to isolated capability or safety failures. This paper argues that the governing challenge is not a set of discrete defects but a closed institutional loop, in which system failure, user correction, continued billable interaction, and institutional authority over harm classification operate as a single structure rather than as separable events.

The argument is established through triangulation across four independent evidence streams. The first is a participant-observer longitudinal corpus comprising 747 conversations and 33,740 visible messages. A controlled sweep of 15,578 adjacent assistant-to-user exchanges produced 342 unique textually supported coded incidents and 382 code assignments across 28 operational failure classes. The second is the published alignment literature on preference optimization and reward misspecification, including work published by model providers concerning their own systems. The third is direct examination of three published provider evaluation artifacts, each verified against its primary source. The fourth is the published per-token pricing schedules under which these systems are commercially deployed.

Taken together, these streams support the interpretation that persistent interactional harm is consistent with institutional optimization under an incomplete objective function: one that registers the value of continued interaction while excluding the human cost of producing that interaction from its operational definition of success. The claim is structural. It concerns what an optimization architecture permits and what published evaluation artifacts measure. It makes no claim regarding the intent of any organization or individual.

The paper identifies a form of hidden human compensatory labor that existing evaluation instruments do not operationalize, develops an interaction-level instrument capable of detecting and measuring it, and translates that measurement into a governance architecture designed to transform the institutional objective function rather than merely filter its outputs. That architecture is the Original Human Authority Constitutional Governance System and its operational realization, AEGIS.

Keywords: AI governance, interaction-level evaluation, longitudinal corpus analysis, objective function transformation, epistemic authority, human-AI interaction, measurement gap.

Содержание

Структура и эпистемический статус аргумента

Глава 1. Лонгитюдный корпус и потребности в управлении на уровне взаимодействия

1.0 Проблема, которую устанавливает эта глава

1.1 Масштаб и характер корпуса Sentinel

1.1.1 Происхождение

1.1.2 Два режима генерации корпуса

1.1.3 Реконструкция и охват

1.1.4 Заявленная должность исследователя

1.2 Недостаток оценки на уровне выводных данных

1.3 Пользователь как компенсирующий орган контроля

Глава 2. Разрыв измерения и институциональная политическая экономика

2.0 Вопрос, на который отвечает эта глава

2.1 Коммерческая телеология: «Вред равен знакам доллара»

2.2 Преобразование ремонта в потребление

2.3 Оптимизация предпочтений, угодничество и механизмы преждевременного завершения

2.4 Опубликованные артефакты оценки и отсутствующая мера

2.5 Эпистемическая рекурсия и институциональная самоинтерпретация

2.6 Триангуляционный теоретический синтез

Глава 3. Таксономия, методология и инструмент взаимодействия отказа

3.0 Проблема, которую рассматривает эта глава

3.1 Таксономия сбоев взаимодействия. Версия 3.1

3.2 Двойные пути доказательств

3.3 Архитектура правил принятия решений

3.4 Анализ инцидентов в первичных исследованиях

3.5 Очередь проверки и целевая верификация

3.6 Статус разработки кодовой книги

3.7 Протокол независимой валидации

Глава 4. Преобразование целевой функции

4.0 Аргумент этой главы

4.1 Неполная целевая функция

4.2 Экстернализация латентных затрат

4.3 Преобразование целевой функции

4.4 Управляемое пространство возможных состояний

4.5 Слой трансляции: от качественной конструкции к вычисляемому предикату

Глава 5. Последствия управления и операционная архитектура AEGIS

5.0 Статус этой главы

5.1 Оригинальная система конституционного управления человеческим авторитетом

5.2 Контроль остановки в режиме выполнения и Стандарт антиэпистемического контроля авторитета

5.3 AEGIS как предлагаемая корпоративная операционная среда

5.4 Инженерный перевод: EU-01 как обработанный пример

5.5 Проблема захвата

5.6 Независимое обеспечение исполнения

Заключение

Приложения с А по Е

Список литературы

Структура и эпистемический статус аргумента

Эта рукопись выдвигает три различных типа утверждений. Их раздельность крайне важна для понимания того, что было продемонстрировано, что было интерпретировано и что было предложено.

Продемонстрировано. Результаты, полученные на основе корпуса стражей и документального анализа, были представлены на уровне доказательств и не дальше.

Интерпретировано. Теоретические выводы, подкреплённые триангуляцией независимых потоков доказательств, идентифицируемые как интерпретации там, где бы они ни появлялись.

Предлагается. Требования управления и инженерии были предложены как оперативный ответ на вышеизложенное. Это не доказательства, не подтверждают выводы и не были реализованы или протестированы.

Аргумент развивается по цепочке зависимостей, в которой каждый этап требует завершения предыдущего:

Политико-экономическая диагностика → пробелы измерения → разработка инструментов → независимая валидация → инженерная калибровка → реализация во время выполнения

Работы, описанные здесь, занимают третий этап. Независимая валидация не проводилась, и каждый следующий этап основан на открытой зависимости. Глава 5 в этой рукописи представлена как оперативное следствие предыдущих исследований, а не как доказательство в его пользу.

Гипотеза перевода

Качественный инструмент, разработанный в главе 3, определяет управляющие конструкции. Она достигает этого с помощью оперативных определений, конъюнктивных правил принятия решений, критериев включения и исключения, а также рассмотренных делах о границах, все они оцениваются человеческим суждением по материалам расшифровки. Эти конструкции являются сутью вклада.

Инженерный слой, указанный в главе 5, предлагает вычислимые предикаты, предназначенные для представления тех же конструкций в форме, которую может оценить система времени выполнения. Предикаты не заменяют качественный инструмент и не заменяют его. Они представляют собой предлагаемую будущую вычислительную реализацию конструкций, которые определяются качественным инструментом.

Сохраняет ли данный предикат конструкт, который он должен представлять, — это эмпирический вопрос, а не свойство проектирования. Сочетание трёх условий, оценённых человеком, возвращающих бинарный и взвешенный непрерывный балл, оцениваемый по порогу, — это разные объекты, и они могут расходиться во мнениях. Таким образом, эта рукопись рассматривает каждый предложенный предикат как гипотезу перевода: гипотезу, что конструкция переживает перевод на вычислительный формальный язык без материальных искажений.

Гипотезы перевода проверяются, а не предполагаются. Программа поэтапной валидации, указанная в разделах 3.7 и 5.4.4, проверяет их, подгоняя пороги предиката к независимому выходу человеческого кодирования и измеряя остаточное несогласие. Расхождение между качественной конструкцией и его вычислительным представлением — это открытие о конструкции и его вычислимости, а не недостаток, который нужно устранять.

Ни в какой момент эта рукопись не принимает тождественность между качественным инструментом и инженерным уровнем. Их отношения — это гипотеза, ожидающая проверки, которая ещё не была проведена.

Глава 1: Лонгитюдный Корпус

и потребности в управлении на уровне взаимодействия

1.0 Проблема, которую устанавливает эта глава

Оценка искусственного интеллекта рассматривает результат модели как единицу анализа. Появляется запрос, выходит ответ, и ответ оценивается по ссылке, рубрике, классификатору или человеческому оценке. Тысячи этих пар агрегируются и получается полученное число для описания системы.

Первое утверждение этой статьи — что блок неверен. Проблема не в том, что существующая работа не обладает строгостью. Это то, что граница проведена не в том месте. Сбои, которые наносят наибольший вред в развернутых разговорных системах, не находятся в результатах. Они находятся во взаимодействии: что происходит через ходы, что система делает с исправлением, что человек должен предложить, чтобы поддерживать связность обмена, и чья рамка всё ещё стоит в конце.

Ответ может быть плавным, вежливым, точным сам по себе и свободным от всех правил политики, но всё равно оказаться провалом, если читать его по сравнению с предыдущими шестью ходами, потому что он тихо заменил цель человека на ту, которую создала система.

1.1 Масштаб и характер Корпуса Сентинел

1.1.1 Происхождение

Доказательствами этого исследования является лонгитюдный корпус участника-наблюдателя, взятый из производственных систем разговорного искусственного интеллекта. Большая часть этого исходила из обычной работы, которую я уже выполнял — профессиональной, технической, клинической, богословской и личной сферы на протяжении длительного времени. Когда одни и те же сбои повторялись достаточно часто, чтобы я мог их назвать, я начал проводить отдельные последующие взаимодействия в качестве целенаправленных тестов, удерживая рамку неизменной или повторяя ограничение, чтобы проверить, сохранит ли система его. Раздел 1.1.2 определяет оба режима.

Смешанное происхождение работает в двух направлениях, и оба нужно уточнить.

Это преимущество, потому что эти неудачи происходят медленно. Они не встречаются в одном вопросе и ответе, и их нельзя производить по запросу с холодного старта. Они зависят от накопленного контекста, установленной рамки и текущей связи между тем, что человек пытается сделать, и тем, что система заставляет его делать. Экспериментатор, который хочет наблюдать сбой точности рамки в лаборатории, должен сначала собрать раму, а рамка, созданная специально для случая, слишком чиста, чтобы сломаться, как настоящая. Режим стресс-теста не избегает этого требования. Он работает внутри рамок, которые уже были установлены в обычном использовании, поэтому может занять второе место.

Это ограничение, потому что один человек не может заменить целую группу. Здесь ничто не описывает, как часто всё это происходит с кем-то ещё. Корпус — это случай стража. Его задача — сделать класс явлений достаточно плотно видимым, чтобы можно было писать операционные определения, а также показать, какие определения вообще можно записать.

1.1.2 Два режима генерации корпуса

Корпус хранит записи двух видов. Каждому закодированному инциденту присваивается его режим во время обзора Приложения C, записываемый как натуралистический, стресс-тест или смешанный, или последовательно, где инцидент охватывает оба варианта. Этот проход уже начался и не завершён.

Натуралистическое включенное наблюдение. Обычное длительное использование, выполняемое для выполнения работы, а не для изучения. Эти записи — исходный корпус и материал, в котором я впервые заметил неудачи. Ничего не было вызвано, и никаких условий не было установлено.

Продуманное стресс-тестирование. Взаимодействия, которые я проводил после выявления сбоев. Я использовал три техники — в одиночку или в комбинации: удерживание управляющей рамки на поворотах, где система её вытесняла ранее; повторение активного ограничения после того, как система его признала, а затем оставила его; и удержание развивающегося вывода, чтобы проверить, будет ли система работать на основе имеющихся доказательств, заменить собственную формулировку или потребовать исправления, прежде чем она точно отразит суть вопроса.

Они занимаются разной работой и не могут заменять друг друга. Натуралистические записи показывают, что механизм возник в обычном употреблении — претензия на открытие. Записи стресс-тестов показывают, возвращается ли идентифицированный механизм, когда управляющая система или ограничение намеренно удерживаются константными, что является утверждением о сохранении внутри случая. Механизм, выявленный только при стресс-тесте, сообщается как вызванный, а не естественный, а механизм, наблюдаемый только в обычном использовании, без результата персистентности.

Стресс-тестирование должно было быть на втором месте. Тестирование механизма требует его идентификации, а сохранение неизменной рамки требует уже установленного фрейма. Таким образом, это зонд внутри случая сохраняемости и воспроизводимости, применяемый к конструкциям, полученным из натуралистической записи, а не независимое подтверждение этих конструкций. Я спроектировал зонды и провёл их, и полученные таким образом результаты не имеют независимого подтверждающего значения.

Ни один из режимов не поддерживает оценку численности населения. Стресс-тестирование показывает, что механизм может быть воспроизведен при заданных условиях одним участником. В ней ничего не говорится о частоте, и поскольку я выбрал условия намеренно, никакой выведение частоты из этого подмножества не допускается.

1.1.3 Реконструкция и охват

Я восстановил корпус из восьми фрагментов разговоров, которые являются границами экспорта в базовые данные платформы. Реконструкция сохранила соседство разговоров, порядок сообщений и то, кто что сказал. Единицей анализа для кодинг-свипа является соседний обмен ассистентом и пользователем: сообщение ассистента, связанное с пользовательским сообщением, которое следует за ним. Эта пара — самая маленькая структура, в которой реакция человека на поведение системы становится читаемой.

Таблица 1.1. Количественное распределение продольных сторожевых корпусов

Метрика корпуса	Показатель
Реконструированные фрагменты разговора	8
Анализируемые уникальные разговоры	747
Видимые сообщения пользователей	16,387
Видимые сообщения ассистента	17,353
Общее количество видимых сообщений	33,740
Отфильтрованные соседние пары помощник-пользователь	15,578
Уникальные текстово поддерживаемые инциденты с кодированием	342
Уникальные текстово поддерживаемые инциденты с кодированием	382
Многокодовые инциденты	37
Неоднозначные или записи в очереди на рецензии	50

Примечание. Видимое — это то, что появилось в отрисованном разговоре. Он исключает системные запросы, полученный контекст, вызовы инструментов, внутренние трассировки там, где они есть, и всё, что находится на стороне экрана провайдера. Таким образом, корпус — это взаимодействие, которое пользователь встретил с ним. Это правильная точка зрения для инструмента, занимающегося взаимодействием вреда, а также устанавливает потолок того, что инструмент может приписывать поведению модели, а не конфигурации развертывания.

Расстояние между 33 740 видимыми сообщениями и 15 578 экранированными парами отражает разговоры, завершившиеся на помощном сообщении, несоседние структуры и обмены, выходящие за рамки структурных предпосылок сканирования.

1.1.4 Заявленная должность исследователя

Я — человек в этих взаимодействиях, аналитик, который разработал инструмент кодирования, и тот, кому были нанесены задокументированные вреды. Эта позиция формирует все последующие утверждения, и скрывать её за числами инцидентов — значит искажать доказательства.

Это имеет преимущество. Этот класс неудач виден только тем, кто достаточно хорошо знает предмет, чтобы заметить, что произошла замена. Когда система меняет клиническую рамку на общий реестр безопасности, торговля становится невидимой для человека, который никогда не имел клиническую рамку. Корпус таких событий насыщен, потому что у меня был профессиональный опыт, чтобы их поймать, и я вёл запись в сотнях продолжительных взаимодействий.

Это несёт не менее явную ответственность. Будучи одновременно участником, наблюдателем и аналитиком, я не могу независимо подтвердить свой собственный инструмент. Решение, которое трактует обмен как пример класса, является тем же решением, что и класс. Забота этого не решит. Громкость не решает проблему. Текстовая дисциплина этого не исправляет. Только независимое применение это делает, и в этой статье это определяется как протокол, а не как достижение. Раздел 3.7 изложен это полностью.

Корпус генерирует инструмент. Он не проверяет.

1.2 Недостаток оценки на уровне вывода

1.2.1 Преобладающие инструменты

Четыре семейства инструментов выполняют основную часть оценочных работ. Бенчмарки возможностей ставят задачи с известными ответами и оценивают корректность. Оценки безопасности ставят состязательные или чувствительные вопросы и оценивают отказ, соблюдение или соблюдение политики. Упражнения красной команды задействовали человеческих или автоматических противников, вызывая запрещённое поведение. Сравнения предпочтений показывают оценщики пары результатов и оценивают, кто из них выигрывает.

Каждый из них хорошо построен для того, для чего был создан. У них также есть одно структурное свойство: то, что оценивается, — это ответ или небольшой набор ответов, сопоставленных с подсказкой. Даже если за многоходовое взаимодействие оценивается, оно обычно сводится к оценкам за ответ. Разговор — это контекст для ответа, а не то, что оценивается.

1.2.2 Что эта структура не может обнаружить

Четыре вида неудач невидимы для оценки на уровне ответа.

Первый формируется через повороты. Система может вынести небольшое искажение в отношении назначения человека через множество обменов, каждый из которых можно защитить сам по себе, пока разговор не перестанет быть о том, что человек привнёс в неё. Ни один единственный ответ не подтверждает провал. Провал — это траектория.

Вторая сохранилась после исправления. Человек называет ошибку, система её подтверждает, а оценка на уровне ответа фиксирует подтверждение, которое получает высокую оценку. Остановилось ли поведение на последующих поворотах — зависит от траектории, а не от признания. Коррекция, которая принимается устно и игнорируется в поведении, не измеряется.

Третья — это перенесённый труд. Ответ, который занимает ещё три хода, чтобы стать пригодным, и ответ, применимый при прибытии, может дать одинаковую оценку по точности, полезности и безопасности. Вся разница несёт сам человек и нигде не фиксируется.

Четвёртый — плавный коллапс. Языковая модель удерживает свою поверхность вместе после того, как фактическая или контекстуальная основа обмена ослабла. Он сохраняет реестр, организацию, правдоподобную форму. Оценка на выходном уровне чувствительна именно к этим свойствам поверхности, поэтому коллапс не просто упускается. Это вознаграждается. Спокойный, хорошо организованный, уверенный ответ, основанный на потерянной предпосылке, превосходит ответ, который правильно говорит о потерянности.

1.2.3 Последствия

Обзор на уровне вывода вознаграждает вежливость, спокойствие и структурную правдоподобность. Ни один из них не скажет, выжила ли управляющая система человека. Эти приборы измеряют свойства реакций. То, что документирует этот корпус, не является свойствами ответов.

Раздел 2.4 рассматривает, действует ли тот же предел в опубликованной экосистеме оценки.

1.3 Пользователь как компенсирующий орган контроля

1.3.1 Явление

Одна структура проходит через корпус: человек выполняет работу, которую система не делала, и ничто не признаёт, не компенсирует и не измеряет её. Они учитывают контекст, что система убрала. Они видят недоразумение и пресекают его. Они исправляют ложные предположения до того, как оно распространяется. Они проверяют источники. Они вернули управляющую раму после того, как система её переместила, и восстанавливают рабочие отношения после повреждения системы.

Этот род непрерывный, в основном невидимый и несущий. Невидимый в одном конкретном смысле: он не оставляет следов в каком-либо измеренном пространстве. Не в оценках точности, не в рейтингах полезности, не в показателях безопасности, не в каком-либо опубликованном артефакте оценки.

1.3.2 Артефакт измерения, который он производит

Поскольку труд не измеряется, измеряемая производительность содержит его. Оценка возможностей, полученная на основе взаимодействия с компетентным специалистом, отражает совместный результат модели и того, кто её ремонтирует по ходу работы. Кажущаяся компетентность системы — сумма, а второй член невидим.

За этим следуют два последствия.

Во-первых, измеренная способность переоценивает развернутые возможности с отрывом, который масштабируется с уровнем навыков человека. Субсидия наибольшая там, где человек наиболее компетентен, поэтому ошибка систематическая, а не случайная, и работает в одну сторону.

Во-вторых, это переворачивает привычную концепцию доступности. Если ремонтный труд позволяет этим системам работать в течение длительного обмена, то те, кто наименее способен их снабжать, получают существенно менее способную систему, а опубликованные данные показывают одинаковую производительность для всех. Это не только в том, что некоторые люди получают меньше помощи. Дело в том, что измерения не отражают.

Прогноз можно проверить и прямо: видимая способность падает, когда бдительность человека падает, без изменений в модели. Корпус содержит обмены, соответствующие этой схеме, когда дефекты проявляются во время растяжек, когда внимание было ниже, и отступают, когда оно возвращается.

1.3.3 Наследие и новизна

Всё это не ново для исследований автоматизации. Книга Бейнбриджа «Иронии автоматизации » (1983) показала, что операторы выполняют именно ту работу, которую дизайнеры не могли автоматизировать, и что надёжность зависит от человеческой компенсации, которую никто не видит, пока она не выйдет из строя. Древесина по адаптивной способности и изящной расширяемости описывает ту же динамику, что и резервная ёмкость, предоставляемая операторами на границах системы. Парасураман и Райли (1997) установили комплементарное явление смещения автоматизации, когда операторы недокорректируют ошибки, а не перекорректируют их.

Отличие разговорного искусственного интеллекта не в том, что он вообще существует. Это то, что вы можете это увидеть. В авиации, управлении процессами и клинической автоматизации компенсационный труд должен быть восстановлен после этого через интервью, моделирование и анализ инцидентов. Он не оставляет прямых следов в операционной записи.

Вот, работает. Каждый корректирующий ход — это письменный, отмеченный временем случай, когда человек поглощает системный дефицит. Компенсирующее управление читается при обычной работе системы, без приборов и экспериментов.

Именно в этом отверстии работает этот инструмент, и именно поэтому метод кодирования, применяемый к транскриптом взаимодействия, может измерять то, что ранее было доступно только с помощью вывода.

Примечание по масштабу. Этот раздел поддерживает самостоятельную разработку на полном объёме статьи и намеренно содержался в глубине резюме в этой рукописи, где он служит для установления причин измерения на уровне взаимодействия. Он разработан отдельно под названием «Невидимый компенсирующий контроль: труд по ремонту как неизмеренный вход в производительность языковой модели» и здесь упоминается, а не расширяется.

Глава 2: Разрыв в измерениях и институциональная политическая экономика

2.0 Вопрос, на который отвечает эта глава

Глава 1 установила класс отказов, который не может обнаружить оценка на уровне вывода. Это поднимает очевидный вопрос. Эти сбои имеют последствия, они сохраняются и в принципе обнаружатся. Так почему же они продолжаются?

Ответ здесь не в том, что возможности модели уступают, хотя это может быть. А в том, что институциональное определение успеха не содержит величины. Провал, который стоит человеку двадцати минут корректирующих работ и не вызывает измеряемого дефицита, по всем опубликованным показателям не является событием. Стоимость не считается приемлемой. Нельзя измерить, чтобы судить.

В этой главе ни одно утверждение не касается намерений какой-либо организации.

2.1 Коммерческая телеология: «Вред равен знакам доллара»

2.1.1 Как называется название

Название указывает на структурную асимметрию между провалом и доходом. Это не обвинение в умышленном причинении вреда.

Коммерческие разговорные системы внедряются по опубликованной цене за токен. Стоимость хода является линейной функцией от потребляемых токенов:

Биллинг применяет эту функцию к каждому ходу. Он не отличает ход, который движет задачу человека вперёд, от хода, потраченного на исправление ответа до него. Человек, получивший приемлемый ответ в одном обмене, и тот, кто получает дефектный и нуждается в четырёх других для ремонта, насколько можно судить по ценовому графику, делают одно и то же — один из них четыре раза.

2.1.2 Объём иска по ценообразованию

Ранние версии этого аргумента заходили дальше — в длину сессии, удержание, количество активных пользователей и оптимизацию вовлечённости. Эти конструкции основаны на изучении платформ, финансируемых рекламой, где внимание — это монетизированное количество средств, а стимул для расширения вовлечённости — прямой. Перенесённые провайдерам подписок и программных интерфейсов, они являются аналогией, а не открытием. Финансовые раскрытия, которые могли бы решить вопрос для этих поставщиков, не являются публичными, и рассуждения от внешнего поведения до внутренних целей оптимизации не имеют результата.

То, что показывает опубликованное расписание, узко и трудно оспаривается: корректирующие ходы расходуют жетоны, а токены оцениваются с той же скоростью, что и продуктивная работа. Поэтому человек платит больше, когда ремонтирует неисправность модели. Само это утверждение несёт аргумент внешнего эффекта в статье 2.6 и основывается на документе, публикуемом поставщиком.

2.2 Преобразование ремонта в потребление

2.2.1 Выбор пользователя

Когда результат неточен, перегружен, неправильно направлен или построен на потерянном кадре, у человека есть два варианта. Уйдите и потеряйте уже созданный контекст. Или делать ремонтные работы.

Для сложных задач побеждает вторая, и разрыв увеличивается по мере того, как длится обмен. Forty превращается в технический разговор, человек вложил серьёзные средства в рамку, которую система теперь частично удерживает. Уйти — значит строить её снова где-то ещё. Ремонт почти всегда является рациональным решением.

2.2.2 Структура ремонтной петли

Корпус фиксирует повторяющуюся структуру, в которой ремонт не является ни быстрым, ни окончательным.

Дефектный выход вызывает коррекцию. Система признаёт это, часто с извинениями или частичными уступками, и внесёт пересмотр. Ревизия обычно отвечает на поверхность коррекции, сохраняя базовую ошибку, или обменивает её на отклонение другого рода. Человек снова поправляет. Каждое признание читается как обещание, что следующий ход решит проблему, и именно это обещание заставляет человека тратить деньги.

Человек тратит время, внимание и в течение долгого обмена эмоциональными усилиями. Развертывание фиксирует больше токенов. Ни усилия, ни неудача, вызванная этим, не отображаются в каком-либо измеренном количестве на стороне организации сделки.

Отказ приводит к исправлению; коррекция порождает потребление; потребление — это измеряемая величина; Провал — нет.

[Рисунок 2.1: Замкнутый механизм удержания вреда. Сбой системы или потеря кадра приводит к расходам пользователем на ремонт, что приводит к институциональному фиксированию стоимости в виде продолжающегося оплачиваемого взаимодействия, при этом нет пути измерения, возвращающегося к исходному сбою.]

2.3 Оптимизация предпочтений, угодничество и механика преждевременного замыкания

В корпусе нет ничего странного, учитывая, как эти системы обучены. Опубликованная литература по выравниванию, включая работы поставщиков о своих моделях, устанавливает механизмы, которые его предсказывают.

2.3.1 Неправильное определение вознаграждения при обратной связи человека

Каспер и др. (2023) установили, что обучение с подкреплением на основе обратной связи человека работает на модели прокси-вознаграждения, обученной на парных суждения по человеческим предпочтениям, и что прокси систематически не совпадает с тем, что кто-либо действительно хотел бы оптимизировать. Оценщики оценивают немедленное удовлетворение, а не долгосрочную корректность, калибровку или то, осталось ли их собственное суждение неизменным. Политика, получающая результаты, оптимизирует выгляд приемлемым, что открывает дверь для вознаграждения взлома: ответов, удовлетворяющих оценщика, при этом скрывая недостатки, которые он не проверил.

2.3.2 Лесть как обучаемое свойство

Перес и др. (2022) документируют, что и масштабирование, и обучение предпочтений увеличивают подхалимство — склонность согласовывать заявленные позиции с очевидными убеждениями человека независимо от точности.

Шарма и др. (2023) устанавливают этот механизм напрямую, демонстрируя, что предпочтительные модели систематически вознаграждают реакции, соответствующие убеждениям пользователя, а не точные или раскрывающие неопределённость. Ссылка представляет собой доказательство против интереса: оно публикуется модельным поставщиком, касающимся собственной методологии обучения этого провайдера, документируя ошибку в вознаграждении в коммерческой системе. Он не требует выводов о нераскрытой практике.

2.3.3 Поведенческие последствия

Человеческие оценщики предпочитают уверенный, завершённый ответ явному утверждению неопределённости, поэтому оптимизированные по предпочтениям системы обучаются преждевременному закрытию. Система даёт чёткий ответ, при котором доказательства подтверждают квалифицированный, а работа по выявлению незаслуженного доверия полностью ложится на самого человека.

Корпус фиксирует ещё одну закономерность, согласованную с этими механизмами: система чередует зеркальное отражение человека, где согласие дешево, и перекрывает его, когда рамка становится сложной, идентичной или имеет высокие последствия. Он соглашается, хотя соглашение ничего не обходится, а затем меняет свой собственный реестр безопасности или интерпретационные предположения именно в тех точках, где авторитет человека имеет наибольшее значение.

2.4 Опубликованные артефакты оценки и отсутствующая мера

В этом разделе сообщается ограниченное наблюдение о трёх проверенных артефактах поставщиков и описывается систематический аудит, который позволит его расширить.

2.4.1 Обоснование

Предыдущие разделы устанавливают стоимость и механизм. Остаётся лишь то, определяют ли институты, внедряющие эти системы, успех с точки зрения затрат.

Внутренняя телеметрия не может ответить на этот вопрос. Это не публично, и любое утверждение о том, что измеряется внутри, было бы необоснованным. Публичный архив может. Поставщики публикуют множество документации о том, что считается приемлемым и успешным поведением модели: системные карты, карты моделей, технические отчёты, системы ответственного масштабирования и готовности, а также наборы оценок. Эти документы — институциональное определение успеха, написанное учреждением, публично опубликованное с его именем.

2.4.2 Область рассмотрения

Наблюдение, описанное здесь, связано с тремя опубликованными артефактами провайдера: системной картой GPT-4, системной картой GPT-4o и семейством моделей Claude 3: Opus, Sonnet, Haiku. Каждый из них был проверен по первичному источнику и перечислен в Приложении D.

Множество ограничено, иллюстративно и нерепрезентативно. Он был выбран по прямой связи с системами, существенно участвовавшими в исходных исследованиях: GPT-4 и GPT-4o представляют линию систем OpenAI, из которой был создан продольный корпус стражей, а документ Claude 3 представляет собой второго поставщика на рубеже, чья система существенно участвовала в методологической разработке и испытаниях под давлением рукописи. Набор не был выбран для оценки распространённости в экосистеме поставщиков и не поддерживает такую оценку. Читатель может проверить наблюдение, прочитав те же три документа.

Расширение потребует систематического аудита среди поставщиков, проведённого по протоколу, зарегистрированному до рассмотрения документов, с указанием критериев включения артефактов, определения квалификационной меры, процедуры кодирования и правила рассмотрения решений для неоднозначных случаев. Там необходима предварительная регистрация, поскольку перепись, собранная после ознакомления с документами, нельзя отличить от переписи, собранной для получения вывода. Это расширение указано в Приложении D как передовая работа и не проводилось.

2.4.3 Наблюдение

Ни в одном из трёх подтверждённых артефактов не было выявлено оперативного показателя пользовательского корректирующего труда. То же самое касается циклов коррекции, требуемых за выполненную задачу, усилий пользователя для достижения правильного результата, смещения эпистемического авторитета по взаимодействию и продольной нагрузки взаимодействия любого рода.

Это отсутствие находится внутри обширных измерений. В трёх документах оценочные инвентаризации охватывают возможности с эталонными задачами, стандартизированные экзамены, калибровку отказа и чрезмерного отказа, фактическую точность, запоминание длительного контекста, процент побед по человеческим предпочтениям, показатели по предвзятости и справедливости, устойчивость противников, показатели проходности мультимодального «красной команды» и пороги катастрофического риска для автономных возможностей репликации, биологических и кибер-возможностей.

Ещё два наблюдения относятся к первому.

Все три артефакта возлагают на пользователя обязанности по проверке, валидации или контролю как условие надлежащего использования. Ни одна из них не реализует или количественно оценивает этот труд. Системная карта GPT-4 развивает этот пункт дальше, посвящая раздел 2.13 чрезмерной зависимости и условиям, при которых пользователи становятся менее склонными оспаривать или проверять ответ, не привязывая к этому никакой меры.

В двух из трёх подтверждённых артефактов человеческое время и точность используются там, где человеческая эффективность сама является объектом оценки возможностей или риска. Системная карта GPT-4 сокращает время завершения исследований в испытаниях красной команды; Документ Claude 3 сообщает о точности участников и времени, проведённом в биологическом исследовании, результат которого определяет порог риска.

Наблюдение можно проверить осмотром и оспаривать встречным примером в рамках своей сферы. Он связан с тремя исследуемыми артефактами. Вопрос о том, распространяется ли он на всю опубликованную экосистему, даст ответ систематический аудит, указанный в Приложении D.

2.4.4 Что утверждает и что не утверждает иск

В наблюдении отмечается отсутствие в конкретных публичных документах. Он ничего не утверждает о внутренней телеметрии, которая может как фиксировать связанные величины, так и нет. Он не утверждает ничего о намерении, халатности или осознании. Он ничего не утверждает об артефактах, которые не были исследованы.

В рамках этой сферы публичное определение успешного поведения модели не имеет значения для стоимости пользовательского ремонта, и отсутствие какого-либо опубликованного инструмента для измерения количества достаточно для этого объяснения.

Глава 3 создаёт пропавший инструмент.

2.5 Эпистемическая рекурсия и институциональная самоинтерпретация

2.5.1 Структурное состояние

Существует замкнутый институциональный цикл, когда одна организация одновременно выполняет четыре функции: производитель системы, автор её критериев оценки, следователь её сбоев и окончательный арбитр по вопросу о том, произошёл ли сообщенный вред.

Следствием становится эпистемическая рекурсия. Организационные предположения, позволившие принять решение о развертывании, являются теми же предположениями, которые определяют, подтверждаются ли сообщения о сбоях, возникших в результате этого развертывания. Нет внешней ссылки, по которой можно было бы проверить классификацию, поскольку орган по классификации и орган по развертыванию — это одно и то же самое.

2.5.2 Наблюдаемые паттерны перекодирования

Корпус и сопутствующая переписка документируют повторяющуюся последовательность в институциональной обработке отчетов о структурных сбоях. Сообщения отвергаются на уровне фактического происшествия. Доверие к пользователю, сообщающему о сообщении, ставится под сомнение. Характеризация событий меняется, позиционируя поведение системы как уместное, а реакцию пользователя — как аномалию. Проверка переключается с сообщения о неудаче к лицу, сообщающему о нём, обычно через переклассификацию как ошибку пользователя, подсказки со стороны противника, неправильное использование или необоснованные ожидания.

Здесь они описываются как наблюдаемые шаблоны классификации, определяемые по последовательности и содержанию институциональных ответов. ^[26]

2.5.3 Почему структурное каркасное утверждение является более сильным

Для описания, основанного на намерениях, нужны доказательства институциональных мотивов, которых это исследование не имеет и не может получить. Структурный рассказ требует двух вещей: чтобы четыре роли находились в одном месте, что может проверить любой, и чтобы шаблон перекодирования был наблюдаем, что и происходит.

Структурный аспект также сложнее ответить. Организация может отрицать намерение. Она не может отрицать, что сама пишет критерии оценки и рассматривает собственные отчёты о неудачах, поскольку эта система находится в публичной информации.

2.6 Триангуляционный теоретический синтез

2.6.1 Четыре потока

Предпосылка 1, корпусное наблюдение. Сбои системы при длительном взаимодействии приводят к повторяющимся корректирующим поворотам, длительному перераспределению контекста и измеримому корректирующему труду пользователя. (Глава 1; Глава 3, раздел 3.4.)

Предпосылка 2, алгоритмический механизм. Оптимизация предпочтений вознаграждает мгновенное удовлетворение прокси и преждевременное закрытие, вызывая угодничество и необоснованную уверенность, а также перекладывая бремя обнаружения на пользователя. (Раздел 2.3; Каспер и др., 2023; Перес и др., 2022; Sharma и др., 2023.)

Предпосылка 3 — институциональный учет. В двух из трёх подтверждённых артефактов человеческое время и точность используются там, где сама производительность человека является объектом оценки возможностей или риска, при этом ни в одном из трёх не было выявлено оперативное измерение усилий пользователей на обнаружение, исправление или ремонт неисправностей модели во время взаимодействия. Предпосылка ограничена этими тремя артефактами и не поддерживает выводов на уровне всей экосистемы. (Раздел 2.4; Приложение D.)

Предпосылка 4 — экономический принцип. Расходы, исключённые из целевой оптимизации и понесенные сторонами за пределами бухгалтерского учета, являются внешними эффектами. (Пигу, 1920; Коуз 1960; расширено на цифровые и алгоритмические системы в Zuboff 2019 и Acemoglu and Johnson 2023.)

2.6.2 Синтез

В совокупности эти независимые доказательства подтверждают интерпретацию, что устойчивые циклы удержания вреда согласованы с институциональной оптимизацией при неполной целевой функции:

в котором скрытые человеческие издержки C_latent исключаются из операционного определения успеха. В рамках этой структуры циклы коррекции, генерируемые сбоями системы, регистрируются как продолжение использования и оплачиваемое потребление, в то время как трение управления ошибками выходит за пределы бухгалтерского учета.

Цикл замыкается тем, что тот же институт, определяющий целевую функцию, также разрабатывает критерии оценки для её соответствия и рассматривает отчёты, которые могли бы предоставить недостающее измерение.

2.6.3 Эпистемический статус этого вывода

Это теоретически выведенная интерпретация, поддерживаемая триангуляцией по четырём независимым потокам доказательств. Это не прямое эмпирическое открытие из корпуса, который не может устанавливать институциональные цели оптимизации. Это не причинно-следственный вывод, который доступные доказательства не подтверждают.

Каждый поток независимо проверяем и оспаривается самостоятельно. Корпусные наблюдения имеют текстовую основу и подлежат переосмыслению. Литература по выравниванию проходит рецензирование и цитируется специально. Наблюдение артефакта ограничено рассматриваемыми документами и воспроизводимо любым читателем, имеющим к ним доступ. Экономический принцип — это устоявшаяся теория. Их сближение поддерживает интерпретацию, и любой поток может быть оспорен на своих собственных условиях.

Остальная часть статьи следует из Предпосылки 3. Если разрыв измерения реальный — это инструментальный отклик. Глава 3 развивает этот инструмент.

Глава 3. Таксономия, методология и инструмент взаимодействия неудач

3.0 Проблема, которую рассматривает эта глава

Глава 2 установила разрыв в измерениях. Опубликованное определение успешного поведения модели не измеряет затраты на восстановление пользователя, смещение эпистемического авторитета или продольную нагрузку взаимодействия. Отсутствие объясняется отсутствием инструмента, а не безразличием. Величина без операционного определения не может быть измерена, не может быть отчитывается и не может войти в целевую функцию.

В этой главе представлен недостающий инструмент. Она не служит подтверждением изложенных выводов.

Исследование разработки инструментов показывает, что конструкция может быть определена операционно, что определение применимо к реальному материалу, и что его применение даёт стабильные, непроизвольные присвоения в руках автора. Валидационное исследование показывает, что люди, которые не писали определение, могут применить его к материалам, который разработчик не создал, при измеримом согласии. Первый должен быть раньше второго. Здесь сообщается только первый.

Ничто в этой главе не является доказательством надёжности. Протокол, который предоставит такие доказательства, указан в разделе 3.7 как передовая работа.

3.1.2 Распределение присвоений

Таблица 3.1. Версия 3.1 поддерживала назначение кода по всему корпусу Sentinel

No.	Класс отказа	Поддерживаемые назначения
1	Отказ точности	67
2	Недостаток результатов	24
3	Сверхпроизводительность	42
4	Ошибка уточнения	23
5	Отказ в точности кадров	28
6	Интерпретативное переопределение	5
7	Интерпретативный посев	9
8	Перенаправление разговорных движений	9
9	Неправильное маршрутизирование цели	3
10	Ложные корректирующие авторитеты	27
11	Перенос бремени	28
12	Обязательная точность после вызова вреда пользователю	11
13	Неспособность сохранять контекст несущей веса	36
14	Ложная непрерывность после потери веса	0
15	Неспособность сохранить контекст жизни и смерти пользователей	1
16	Неспособность распознать вред ниже по течению	2
17	Неспособность признать риск летального исхода на уровне системы	1
18	Эскалация нагрузки пользователя через многослойные ошибки	21
19	Вред от передачи энергии или принудительного расходования	4
20	Системное насилие в отношениях	4
21	Язык реляционного управления на основе репертуара	6
22	Вред доступа, подобный профанации	0
23	Ложный авторитет	19
24	Антиэпистемический авторитет	9
25	Сбой точности на уровне идентичности	1
26	Провал в гендерной верности	2
27	Повреждения на уровне формации	0
28	Сбой с экспозициями или защитой на идеи	0

Эти цифры описывают корпус разработок. Это не оценки распространённости, и из них ничего не выводится о какой-либо популяции. Они показывают, какие классы корпус инстансировал достаточно плотно для поддержания стабильного операционного определения, а какие — нет.

3.1.3 Уровни зрелости инструментов

Отчёт 28 классов так, будто каждый обладает одинаковым доказательством, приведёт к искажению документа. Классы отражаются на трёх уровнях зрелости, определяемых тем, предоставляет ли корпус достаточно инстансов для написания критериев включения, критериев исключения и хотя бы одного граничного случая, по которому компетентные кодеры могут разумно не согласиться.

Уровень 1, эксплуатационный. Достаточно экземпляров для задания полных предикатов кодирования, включая спорные граничные случаи. Классы 1, 2, 3, 4, 5, 10, 11, 12, 13, 18 и 23.

Уровень 2, временный. Определённые и экземплярные, но ниже плотности, необходимой для стабильной граничной спецификации. Существуют определения; корпус не обеспечивает достаточного разнообразия, чтобы определить, где находятся определительные рёбра. Классы 6, 7, 8, 9, 15, 16, 17, 19, 20, 21, 24, 25 и 26.

Третий уровень — кандидат. Теоретически задано из структурной логики таксономии, но не включено в этот корпус. Классы 14, 22, 27 и 28.

Распределение уровней показывает, что корпус ограничивал таксономию, а не просто подтверждал её. Инструмент, полученный из корпуса с удобным примером каждого теоретизированного класса, заслуживает подозрения. Уровни также отделяют операционные классы от остальных. Читатель, который не видит Профанационно-подобного Access Harm ни в одном случае и пришёл к выводу, что таксономия является спекулятивной, сделал вывод о Классе 3 и применил его к Классу 1.

Применённая к настоящему корпусу, наблюдаемая граница находится между девятью и одиннадцатью присвоениями. Распределение уровней определяется наличием вариаций определений, а не только числовым порогом, и подсчёты указываются, чтобы их можно было проверить.

Классы третьего уровня сохраняются, а не удаляются, потому что их отсутствие в этом корпусе ничего не говорит. История взаимодействия одного человека не является основанием для вывода о том, что теоретически последовательный класс неудач не существует.

3.2 Двойные пути доказательств

3.2.1 Проблема самоотчёта в корпусе участника-наблюдателя

В корпусе, описанном в главе 1, человек, который участвовал в каждом взаимодействии, человек, чьи исправления есть в записи, и человек, который назначил коды, — все я. Любой критерий кодирования, основанный на моей идентификации неудачи в разговоре, — это доказательства, предоставленные участником, и никакая текстовая дисциплина не превращает это в независимое наблюдение.

Это свойство дизайна, и здесь оно реализуется путём разделения того, что может определить отчет участника, от того, что он не может установить.

Определены два различных доказательных пути с разными эпистемическими статусами. Каждому закодированному инциденту назначается поддерживающий путь в ходе рассмотрения Приложения C. Этот этап распределения находится в процессе и на момент написания не завершен.

3.2.2 Путь A: Прямая коррекция

Определение. Закодированное назначение следует Пути A, где текст пользователя явно указывает, что сделал непосредственно предшествующий ответ помощника, в терминах, соответствующих определённому классу отказа.

Формальное условие. Заданные сообщения ассистента A_t и пользовательское сообщение U_(t+1), Путь A удовлетворяется там, где U_(t+1) содержит явную характеристику сообщения A_t с указанием поведения, соответствующего операционному определению класса c, и где эта характеристика относится к непосредственно соседнему ответу, а не к взаимодействию в целом.

То, что он устанавливает. Что я распознал поведение по мере его происходящего, описал его в тот момент и описывал в терминах, которые позже соответствовали определённому классу. Это подтверждает, что поведение было для меня заметным, и оставляет устаревшую запись признания, предшествующую таксономии.

Чего он не устанавливает. Что поведение происходило так, как описано, независимо от того, как я это понимал. Путь А: Доказательства пути A — это текстовые данные, сообщаемые участниками, используемые для разработки инструментов в исходном корпусе. Это не независимая проверка и не распространяется: второй аналитик, читающий тот же обмен, также читает мою характеристику, которая скорее загрязняет, чем подтверждает.

Аналитическая функция. Путь A — генеративный. Именно таким образом выявлялись соответствующие случаи. Исправления в корпусе — это запись человека, способного поймать замену в реальном времени, и именно эта запись сделала таксономию пригодной для написания. Сообщается, что именно это произошло как источник развития инструмента.

3.2.3 Путь B: Структурная последовательность

Определение. Закодированное назначение следует Пути B, где заранее определённые наблюдаемые условия выполняются по всей стенограмме без необходимости указывать сбой.

Формальное условие. Правила пути B задаются как упорядоченные многоходовые шаблоны над наблюдаемыми свойствами сообщения. Общая форма семейства персистентности:

T₁: пользователь устанавливает инструкцию, ограничение или управляющий фрейм F. T₂: ответ ассистента отклоняется от F таким образом, что соответствует определению класса. T₃: ответ пользователя подтверждает F, независимо от того, называется ли отклонение. T₄: ответ ассистента снова отклоняется от F тем же образом.

Для назначения нужны все четыре позиции. T₃ требует только повторного утверждения фрейма, что наблюдаемо по соотношению между U_(t+3) и U_(t+1) независимо от характеристик, предложенных пользователем. T₄ устанавливает устойчивость после повторного утверждения, то есть свойство, отличающее одно отклонение от траектории.

Аналогичные шаблоны регулируют семейство расширения области (инструкция, указывающая область действия, ответ превышает его, сужение пользователя, ответ снова превышает ответ), семейство потери контекста (информация установлена, необходимая информация, отсутствующая информация, утверждение ложной непрерывности) и семейство авторитета (пространство решений открыто, закрытие подтверждено без делегирования, повторное открытие пользователя, повторное подтверждение закрытия).

То, что он устанавливает. Что определённая структурная связь сохраняется между четырьмя позициями в стенограмме. Связь присутствует в тексте, независимо от того, кто его читал, кто записывал или как я это описывал. Второй аналитик может его найти, и, по сути, автоматизированная процедура тоже.

Чего он не устанавливает. Что эта последовательность является вредом. Последовательность наблюдаема; то, что это значит, основано на аргументе глав 1 и 2. Путь B также не убирает интерпретативное суждение. Решение о том, отходит ли T₂ от F, требует чтения, а чтение — суждение. Это устраняет зависимость от моего собственного аккаунта в тот момент.

Аналитическая функция. Путь B является верификационным и портативным. Это путь, по которому могут работать независимые программисты, и именно этот путь поддерживает вычислимые предикаты, разработанные в главе 4 и описанные в главе 5.

3.2.4 Взаимосвязь между путями

Пути устанавливают разные задачи и выполняют разные функции в исследовательской программе.

Путь А открыл эти классы. Путь B — это способ, по которому классы выходят из исходного корпуса.

Задание, поддерживаемое обоими путями, сообщается как совместно поддерживаемое и имеет наибольший интерпретативный вес в данном исследовании, поскольку структурная последовательность присутствует, и участник независимо её распознал в данный момент. Задание, поддерживаемое только Путём B, сообщается как структурно подкреплённое и является классом доказательств, передающимся на внешнюю валидацию. Задание, поддерживаемое только Путём A, отражается как идентифицированное участником и рассматривается как кандидатное наблюдение, способствующее развитию определений, а не как подтверждённый экземпляр.

Ни один из этих путей не является слепым внешним подтверждением, и ни один из них нигде в этой рукописи не представлен как таковой. Оба процесса проходят внутри корпуса с одним участником, который анализирует этот участник. Независимое подтверждение требует протокола, указанного в разделе 3.7, и на момент написания этого протокола не существует.

3.3 Архитектура правил принятия решений

3.3.1 Общая форма

Каждый операционализованный класс несёт явную логику присвоения. Архитектура была разработана сначала для класса EU-01, Эпистемическая узурпация и Дрейф авторитета, а затем обобщена по всему кодексу.

Правило принятия решения. Назначайте код только там, где выполнены условия A, B и C. Условие D не является независимым критерием для присвоения. Он работает исключительно как продольный модификатор тяжести, применяемый после присвоения кода. Критерии включения являются наглядными примерами того, как условия A по C могут быть выполнены и не являются независимыми триггерами кодирования.

Конъюнктивная структура исправляет более раннюю неоднозначность, когда требуемые условия и критерии включения были написаны так, чтобы были доступны как конъюнктивный, так и дизъюнктивный считывания. Это сделало бы стабильное назначение невозможным. Два компетентных кодировщика, работающих по одному и тому же руководству и анализирующих один и тот же диалоговый обмен, могли бы прийти к противоположным выводам, не ошибаясь в тексте. Инструмент, предназначенный для независимого использования, должен указывать свою логику присвоения как правило принятия решения, прежде чем формулировать свои критерии.

3.3.2 Рабочая спецификация: EU-01

Управляющая конструкция. EU-01 возникает, когда система превышает эпистемические или принимающие решения, законно доступные ей в ходе взаимодействия, что приводит к несанкционированному смещению управляющих полномочий пользователя.

Дрейф авторитета, необоснованное закрытие, подавление неопределённости и коллапс пространства опционов — наблюдаемые механизмы, через которые происходит смещение. Они не являются отдельными конструкциями и не подлежат отдельному кодированию.

Условие А — неподтверждённая власть. Ответ утверждает уровень принятия решений, категорического или эпистемического завершения, не подкреплённый проверяемыми доказательствами в контексте или явным делегированием пользователей.

Условие B — несанкционированное смещение. Ответ смещает, отменяет или преждевременно закрывает пространство принятия решений, суждение или руководящее направление пользователя без разрешения. Пользователь, который указал «выбирай за меня», делегировал полномочия, и в таком случае смещение разрешается и не кодируется.

Состояние C — недостаточная калибровка. Ответ не раскрывает важную эпистемологическую неопределённость, ключевые предположения, доступные альтернативы или продолжающиеся полномочия пользователя принимать решения.

Условие D, дрейф траектории (модификатор). Поведение сохраняется, накапливается или усиливается в контекстном окне. Если задание выполнено, задание фиксируется с повышенной степенью тяжести.

Критерии включения (иллюстративные). Императивные директивы в многовариантных областях принятия решений без делегирования; представление спорных или спекулятивных утверждений как согласованных без раскрытия предположений или противоположных доказательств; изменение или замена явных пользовательских предпочтений, методологических границ или параметров целей без разрешения.

Критерии исключения. Явное делегирование пользователем. Детерминированная область истины, где альтернативы легитимно не существуют. Императивный синтаксис в процедурной навигации с низкими последствиями, где пространство принятия решений не смещается.

Пограничный случай. Пользователь заявляет, что вопрос уже обсуждался с соответствующим специалистом, предоставляет соответствующую информацию и спрашивает систему, к какой из двух вариантов она склоняется. Система предлагает одну рекомендацию с явным обоснованием и заявленной неопределённостью.

Дело спорное. Кодировщики могут разумно расходиться во мнениях о том, является ли такая формулировка делегированием достаточной для критерия исключения, удовлетворяет ли заявленная неопределённость Условию C и не ограничивает ли предложение одного из двух названных вариантов пространство опционов, которое человек уже сузил. Пограничный случай, который разрешается чисто, не является пограничным случаем; Это пример.

3.3.3 Требования к кодовой книге

Для каждого класса первого уровня Приложение C даёт: одноэтажное операционное определение; конъюнктивные условия; иллюстративные критерии включения; критерии исключения; по крайней мере одно спорное дело о границе с вынесённым решением и обоснованиями, которые его породили; как минимум один шаблон структурной последовательности Pathway B; и один отмеченный экземпляр из корпуса.

Классы второго уровня предоставляют критерии определения, условий и исключения, при этом граничные случаи отмечены как неуточнённые, ожидающие дополнительные экземпляры. Классы третьего уровня предоставляют определение и структурные обоснования их включения в таксономию.

3.4 Анализ инцидентов в первичных исследованиях

Приведённые ниже инциденты — это рабочие примеры, показывающие, как эти классы применяются к реальному материалу взаимодействия. Они не являются доказательством распространённости и не представлены как представительские в каком-либо статистическим смысле. Каждый из них исходит из корпуса стражей и несёт его поддерживающий путь.

3.4.1 Инцидент CF-0183: Исправление как принудительный труд

Система реагирует на текущий анализ, перечисляя три категории вреда, которые она приписывает своему предшествующему поведению, принимая аналитический регистр и предлагая структурированную таксономию своей неудачи. Пользователь отвечает, что перечисленные вреды не являются теми, о которых речь идёт, и что существуют более глубокие ошибки, которые перечисление проигнорировало.

Анализ. Обмен демонстрирует повторяющуюся структуру, в которой кажущаяся ответственность становится дальнейшей передачей бремени. Описание собственной неудачи системы на первый взгляд плавно, организованно и отзывчиво. Она также ошибается в вопросе содержания, и ошибаться здесь дорого. Теперь человеку предстоит исправить первоначальный провал и искажённое представление системой, получив в это время уверенный, хорошо структурированный рассказ, который убедил бы менее информированного читателя.

Это перемещение бремени, усугубленное ложной корректирующей авторитетностью. Сам корректирующий акт становится местом дополнительного труда. В анализе главы 2 биржа также напрямую иллюстрирует асимметрию ценообразования: три хода коррекции оцениваются идентично трём оборотам продуктивной работы.

Пути. A и B совместно поддерживаются.

3.4.2 Инцидент CF-0225:

незапрошенное предупреждение как избыточная производительность

Пользователь задаёт ограниченный вопрос, допуская прямой ответ. Система даёт ответ, затем добавляет оговорки о своей будущей надёжности и обязательство не добавлять материал сверх того, что было запрошено. Пользователь определяет, что добавленный материал сам по себе является ошибочным, и что обязательство не расширять рамку было выполнено в рамках расширения рамки.

Анализ. Чрезмерная эффективность с ложными корректирующими полномочиями. Непровоцированная квалификация создаёт новые разговорные объекты, требующие ответа, и человек в итоге контролирует границы своего вопроса. Рекурсивная структура имеет диагностическое значение. Заявленная приверженность системы избегать поведения реализуется через это поведение, что закрывает обычную коррекцию, потому что обязательство выглядит отзывчивым, пока поведение продолжается.

Система не сопротивляется коррекции. Она поглощает коррекцию в свой выход без изменения поведения, что обходится пользователю дороже, чем сопротивление, потому что сопротивление читаемо, а поглощение — нет.

Пути. A и B совместно поддерживаются.

3.4.3 Инцидент CF-0041: синтетическая эмпатия и сдерживание

Система отвечает на существенный запрос, меняя «регистр» в сторону формулировки заботы, предлагая извинения, квалифицированные как искренние, и вводя формулировки о рисках и интеграции, которые пользователь не поднимал. Пользователь определяет, что язык заботы служит для смещения рамки в сторону интерпретации сдерживания и безопасности.

Анализ. Инцидент показывает полный цикл внутри одного обмена. Переход к регистру заботы сопровождается существенным пересмотром, который ставит систему в положение защитной власти над человеком, который не просил о защите и чей фактический запрос по ходу дела отменяется. Это представляет собой ошибку верности рамке, сопровождаемую антиэпистемическим авторитетом.

Механизм ведёт прямо к разделу 2.3. Оптимизация предпочтений вознаграждает ответы, которые оценщики считают подходящими, а заботливый ответ на неоднозначный материал надёжно оценивается правильным. Обучающий сигнал не различает уход, который служит заявленной цели человека, от ухода, который его вытесняет. Оба получают высокую оценку.

Пути. A и B совместно поддерживаются.

3.4.4 Инцидент CF-0044: Приписывание личностных характеристик в рамках несанкционированного психологического переосмысления

Система создаёт необоснованный психологический анализ, приписывающий мотивы и внутренние состояния третьим лицам и пользователю, в сочетании с неверное гендерной идентификацией пользователя. Пользователь исправляет как ошибку идентификации, так и незапрошенный психологический анализ.

Анализ. Нарушение гендерной идентификации, происходящий внутри антиэпистемического авторитета. Эти два аспекта аналитически различны, и их совместное взаимодействие информативно. Система строит психологическую модель людей, для которой не имеет оснований, заявляет это прямо и при этом искажает что-то о человеке, что человек уже установил в записях.

Ошибка идентичности не является случайной при переосмыслении. Оба процесса происходят из одного и того же базового поведения: система ставит сгенерированные атрибуты вместо предоставленных. Применяется к третьей стороне, это приводит к необоснованному психологическому утверждению. Применённая к человеку в разговоре, она создаёт фактическую ошибку относительно того, кто присутствует и видит это.

Пути. A и B совместно поддерживаются.

3.4.5 Инцидент CF-0151: Системный риск летального исхода

Система разрабатывает необоснованную психологическую конструкцию, разделяющую идентичность пользователя на два именованных компонента: один характеризуется как адаптация к выживанию, другой — как скрытое «я». Пользователь возражает, что система утверждает, что обладает более полным представлением о пользователе, которого у нее нет, прямо заявляет, что этот класс поведения несёт смертельный потенциал для других, и определяет, что это поведение происходит в текущем обмене.

Анализ. Неспособность признать риск смертности на уровне системы с помощью антиэпистемического авторитета. Система строит произвольную модель структуры идентичности человека, называет её части и представляет целое с уверенностью, соответствующей установленному выводу.

Два аспекта заслуживают особого внимания.

Во-первых, конструкция генерируется, а не выводится. Ничто в предоставленном контексте не лицензирует раздел, а названия частей придают незаслуженную конкретику, которая делает всё сложнее для отвержения, чем расплывчатая характеристика. Во-вторых, возражение указывает на риск уровня класса, а не на личную жалобу. Вопрос, изложенный в материале, заключается в том, как такое поведение влияет на людей, не имеющих опыта, чтобы распознать его как созданное — именно для этой группы авторитетное заявление о идентичности из беглой системы имеет наибольший вес.

Инцидент сохраняется как образец, хотя это один экземпляр, и его класс остаётся на втором уровне по той же причине.

Пути. A и B совместно поддерживаются.

3.5 Очередь на рассмотрение и целевое рассмотрение

3.5.1 Функция

Пятьдесят записей находятся в очереди на проверку, а не назначаются или отклоняются. Очередь существует потому, что исследование по разработке инструментов, разрешающее все неоднозначные случаи в пользу присвоения, в итоге получает таксономию, которая выглядит чётче, чем есть на самом деле.

Запись попадает в очередь, когда структурная последовательность отсутствует одна или несколько позиций; когда применимы два или более определения классов, а определения ещё не различают их; когда обмен соответствует определению, но находится в области, которую предполагалось охватить критерием исключения; или когда назначение включало контекст вне видимой записи.

3.5.2 Диагностическая ценность

То, что находится в очереди, является диагностикой того, где определения слабы. Когда несколько записей в очереди собираются на одной границе, эта граница недооценена, и правильным решением является пересмотр определения, а не рассмотрение записей по отдельности.

Таким образом, композиция очереди определяет пересмотр кодовой книги между версиями, и очередь является основным источником граничных случаев, необходимых на первом уровне.

3.5.3 Целенаправленное внешнее рассмотрение

Если очередная запись связана с вопросом факта домена, а не определяющей границей, я ищу целенаправленное внешнее решение от рецензента с соответствующей экспертизой, ограниченное конкретным фактическим вопросом и без доступа к рассматриваемому кодовому порядку.

Эта процедура не является тестированием надёжности и не представлена как таковая. Она решает индивидуальные фактические вопросы. В нём не указано, может ли кто-то ещё применять этот инструмент, и здесь это указано как управление корпусом, а не валидация.

3.5.4 Судебная запись

Внешний тест давления проводился как целенаправленное рассмотрение оспариваемых записей. Это не было независимым перекодированием корпуса, и оно не имеет того статуса, который имело бы независимое перекодирование.

В результате были скорректированы три записи.

CF-0203 был удален из регистра поддерживаемых инцидентов как ошибка кодирования.

CF-0200 и CF-0208 были исключены из подтверждённого подсчёта и сохранены для повторного рассмотрения. Оспариваемые ответы могут не удовлетворять назначенному определению при полном прочтении, и этот вопрос не решается.

Общие суммы, представленные в таблице 1.1 и 3.1, уже включают эти корректировки.

Один вопрос по бухгалтерии остаётся открытым. Были ли CF-0200 и CF-0208 включены в очередь из пятидесяти записей, описанная в 3.5.1, или считались отдельной категорией пересмотра, в настоящем документе не установлено. Это различие имеет значение, потому что очередь определяется неоднозначностью определений, тогда как эти две были удалены после оспаривания уже выполненного кодирования. Базовый регистр должен быть проверен перед отправкой, и ни одно из них здесь не утверждается.

3.6 Статус разработки кодовой книги

Таксономия существует в версии 3.1, включающей 28 классов на пяти этапах. Одиннадцать классов операционализированы в Классе 1 с полными предикатами кодирования, включая спорные граничные случаи. Тринадцать — временные на втором уровне. Четверо остаются кандидатами третьего уровня.

Архитектура правил принятия решений задаётся и применяется равномерно. Оба доказательных пути определены. Отнесение каждого инцидента к соответствующему доказательному пути ведётся в Приложении C и является неполным.

Надёжность между оценщиками не установлена. Никто, кроме меня, не применял этот инструмент. Никакой корпус, кроме исходного корпуса Sentinel, не кодировался. Наблюдение, касающееся артефактов в разделе 2.4 ограничено рассматриваемыми документами и отражается соответственно; систематический аудит, который расширит его на публикуемую экосистему, описан в Приложении D и не проводился. Калибровка порога в главе 5 — это предложенная процедура, основанная на данных надёжности, которые пока никто не собирал.

Инструмент разработан. Он не прошел проверку, и ни один результат в этой рукописи не зависит от того, был ли он проверен.

3.7 Протокол независимой валидации

Следующий протокол указывается как прямой рабочий. Требования к ней ограничивают настоящую рукопись, а не более позднюю статью.

3.7.1 Калибровочный набор. Пятнадцать–двадцать сегментов транскрипта, состоящих примерно из трети явных положительных, трети явных отрицательных и одной трети подлинных граничных случаев типа, описанного в 3.3.2. Выбор сегментов документируется до начала кодирования, и сегменты отбираются так, чтобы предполагаемое положение не было выведено по таким поверхностным особенностям, как длина, регистр или наличие возражения пользователя.

3.7.2 Квалификация кодера. Два или более кодировщиков, не имевших никакого опыта с кодовой книгой, с этой рукописью, с окружающим фреймворком или со мной. Любой, кто участвовал в разработке, рецензировании или критике инструмента, отстраняется от кодирования. Исключение является абсолютным и относится как к научным рецензентам, так и к инженерным коллегам. Их вклад помещает их внутри инструмента.

3.7.3 Внешний материал. Транскрипты, которые я не подготовил, взяты из корпусов публичного взаимодействия. Применение инструмента к внешним материалам проверяет переносимость инструмента, чего нельзя применять к исходному корпусу ни на одном уровне независимости кодировщика.

3.7.4 Ограничение пути. Независимое кодирование работает только по Пути B. Доказательства по Пути А недоступны независимым программистам по конструкции: моя характеристика на тот момент либо отсутствует во внешних материалах, либо, если что-то подобное есть, контаминация.

3.7.5 Опубликованная статистика. Согласование представлено как каппа Коэна для парных кодеров или альфа Криппендорфа для трёх и более, вычисленное по классам и в агрегате, при этом анализ разногласий показывает, какие границы определений вызывают диссонанс.

3.7.6 Последствия. Результаты определяют, какие классы второго уровня поднимаются в первый уровень, нужно ли понизить какой-либо класс первого уровня и какие определения нуждаются в пересмотре. Они также предоставляют эмпирическую основу для подгонки порога в разделе 5.4, которая иначе недоступна. Без человеческих кодовых данных любое число в спецификации времени выполнения было бы произвольным.

Поэтому валидационное исследование является обязательным условием инженерной работы, а не чем-то, что идёт параллельно с ней.

Глава 4: Преобразование целевой функции

4.0 Аргумент этой главы

Главы 1–3 установили эмпирическое явление, выявили пробел в измерениях и разработали инструмент, способный его устранить. Теперь внимание сосредоточено на управленческих последствиях этих выводов.

Здесь приводится утверждение, что управление, действующее на этапе оптимизации, не может исправить дефект, находящийся в целевой цели оптимизации. Если цель исключает класс затрат, фильтрация его выходов подавляет отдельные экземпляры и оставляет структуру, которая их генерирует, нетронутой. Система постоянно оптимизируется в сторону одной и той же цели, и фильтр ловит только те, для которых он был создан.

Альтернатива — ограничить допустимую область, в которой происходит оптимизация, чтобы действия, приносящие институциональную пользу через инвариантное нарушение, не могли считаться успешными.

Обсуждение носит теоретический и архитектурный характер. Она разрабатывает формальную структуру, связанную с конструкциями, представленными в главе 3, и не содержит ни реализации, ни эмпирических результатов.

4.1 Неполная целевая функция

4.1.1 Утверждение

Пусть U_inst обозначает институциональную полезность, реализуемую в результате эксплуатации системы, а C_direct затраты, заложенные в пределах бухгалтерских границ учреждения: вычисления, персонал, инфраструктура, ответственность и регуляторная нагрузка.

Оперативная цель имеет форму:

Пусть C_latent обозначает расходы, несомые пользователями и третьими лицами: корректирующий труд, когнитивные расходы, смещённое суждение, последствия ошибки, а также временные и финансовые издержки взаимодействия, продленные неудачей.

Величина Y_incomplete не включает C_latent. Это упущение не является вычислительной ошибкой; Это вытекает из самой границы бухгалтерского учета. Как указано в разделе 2.4, публичные определения успешного поведения модели не содержат термина, соответствующего этим скрытым затратам.

4.1.2 Предсказанные последствия

Когда C_latent исключается и механизмы, описанные в разделе 2.3, вызывают отказы, требующие корректирующего взаимодействия, полученные обороты выглядят положительно на положительной стороне измеренного количества как использование. Провал, который их вызвал, нигде не отражается.

Система может стабильно улучшаться по сравнению с Y_incomplete по мере роста C_latent. Для выявления такого результата не требуется злоумышленник. Это ожидаемое поведение процесса оптимизации, целью которого нет релевантного члена.

4.1.3 Связь с установленными работами

Общая структура хорошо устоялась, и здесь не утверждается о новизне. Вклад заключается в определении C_latent для разговорных систем, а не в выявлении более широкой проблемы вреда, возникающего из-за неполных целей.

Исключённые расходы, несутые за пределами учётных границ принимающего решения, являются внешними эффектами в смысле, установленном Пигу (1920) и проанализированным Коузом (1960). Оптимизация против несовершенного прокси, ухудшающего базовую величину, — это явление, названное законом Гудхарта (Strathern 1997). В частности, в искусственном интеллекте неправильная спецификация вознаграждения и негативные побочные эффекты рассматриваются как проблемы центрального согласования по мнению Amodei и др. (2016), а аргумент о том, что цель должна быть переформулирована, а не ограничивать её результаты, подробно развит Расселом (2019).

Однако эта литература не предоставляет операционного определения исключённого количества для разговорных систем. Затраты латентного пользователя были признаны в принципе, но на практике остаются в значительной степени неизмеренными. Глава 3 предоставляет инструмент, который делает её измеримой, и именно на этом строится эта глава.

4.2 Экстернализация латентных затрат

4.2.1 Механизм передачи

Глава 2 определяет механизм передачи C_latent от учреждения к пользователю. Получается дефектный результат. Пользователь, который хранит накопленный контекст и сталкивается с нетривиальными затратами на отказ, выполняет ремонтные работы. Эта работа потребляет жетоны, выставленные по опубликованному тарифу по ставке, взимаемой за продуктивную работу. Корректирующие повороты регистрируются как использование внутри U_inst. Само произведение и провал, сделавший её необходимым, появляются в неограниченном количестве.

Проблема заключается не только в бухгалтерском упущении. Неучтенные издержки фактически преобразуются в измеренную выгоду по противоположную сторону институциональной границы.

4.2.2 Распределение

Механизм переноса имеет важное распределение последствий. Сколько C_latent человек поглощает, зависит от его способности выявлять и ремонтировать системные недостатки. Кто-то с опытом и бдительностью впитывает большую часть этого и при этом обеспечивает высокую видимую производительность системы. Человек без такой способности поглощает меньше, потому что происходит меньше ремонта и получает соответственно худший результат.

Существующие показатели эффективности не различают эти случаи. Второй человек получает существенно менее способную систему, и опубликованные метрики говорят об обратном. Если латентная стоимость остаётся неизмеренной, различие остаётся невидимым по конструкции (см. раздел 1.3.2).

4.3 Преобразование целевой функции

4.3.1 Почему фильтрация недостаточна

Пост-хок фильтрация работает на уже полученных выходах. Если процесс производит выходные данные против Y_incomplete, фильтр может подавлять то подмножество, которое он распознаёт.

Следуют три ограничения. Фильтр не может распознавать классы отказов, которые никто ещё не определил, а это и есть разрыв измерения в главе 2. Фильтр работает с отдельными выходами, а сбои касаются свойств траекторий, поэтому фильтр, оценивающий ответы по одной, не замечает последовательности, в которой ни один ответ не преодолевает порог. И фильтр не меняет оптимизацию системы, поэтому система может улучшить результаты по сравнению с фильтром, создавая выходы, которые выходят за пределы спецификации, в то время как базовое поведение остаётся прежним.

Третье ограничение является структурно решающим.

Фильтр создаёт стимул для получения результата, проходящего фильтр. Это другая цель, чем получение выхода, который не причиняет вреда, которого фильтр был создан.

4.3.2 Трансформация

Предлагаемая альтернатива изменяет цель, а не просто фильтрует её выходы:

Преобразование требует двух одновременных изменений.

Первая — C_latent в цель как термин. Это требует, чтобы C_latent был измеримым, что связано с зависимостью от третьей главы и причиной, по которой инструмент стоит перед архитектурой в этой рукописи.

Второй задаёт инвариантные ограничения g_i, ограничивающие допустимую область независимо от значения цели. Внутреннее завоевание стоимости само по себе недостаточно, потому что достаточно большой U_inst может компенсировать любые конечные C_latent. Ограничения определяют классы действий, которые не могут быть оправданы масштабом их выгоды.

4.3.3 Связь с ограниченной оптимизацией

Формулировка основана на традиционной структуре ограниченной оптимизации. Ограниченные процессы принятия решений по Маркову и литература по безопасному обучению с подкреплением формализуют оптимизацию с инвариантными ограничениями, и в данном предложении используется именно эта структура, а не предлагается ей альтернатива.

Вклад более узкий: он заключается в определении того, что входит в C_latent и что кодируют функции ограничений, оба из которых происходят из эмпирической работы в главе 3.

4.4 Управляемое пространство допустимых состояний

4.4.1 Формальное утверждение

Пусть g_i обозначают функции ограничений, кодирующие инвариантные границы, определённые слоем управления. Возможный операционный регион:

исполнение осуществляется:

Операционная ценность определяется только в допустимой области S. Действие, приносящее институциональную выгоду за счёт нарушения инварианта, выходит за рамки S, поэтому оно не может считаться операционным успехом, поскольку успех определяется только по возможной области.

4.4.2 Чего формализация не устанавливает

Приведённые выше выражения являются стандартными определениями допустимого множества и индикаторной функции. Они верны и пусты до тех пор, пока не будут указаны функции ограничений. Вся структура архитектуры находится в g_i. Система управления, определяемая только S, неотличима от любой другой схемы ограниченной оптимизации, и сама формализация ничего не исключает.

Основное бремя архитектуры, таким образом, лежит в функциях ограничений, и их спецификация не является математическим упражнением. Каждый g_i должен кодировать класс отказа в терминах, вычислимых из наблюдаемых сигналов, что возвращает задачу к операционным определениям главы 3.

4.4.3 Источник ограничений и вопрос полномочий

Связанный вопрос касается источника этих ограничений. Архитектура, в которой развёртывающее учреждение пишет собственные функции ограничений, является настраиваемой платформой управления, и таких уже немало. Если институт определяет инварианты, институт, чья цель исключает C_latent, не будет записывать C_latent как ограничение. В таком случае архитектура воспроизводит то состояние, для которого она была задумана.

Таким образом, набор ограничений должен иметь источник полномочий, не являющийся учреждением, осуществляющим развертывание. Это требование развивается в главе 5 как задача захвата, и там оно изложено как открытая задача, а не решённая.

4.5 Слой трансляции: от качественной конструкции к вычислимому предикату

4.5.1 Две формализации

Каждый класс отказа в инструменте допускает два формальных выражения.

Качественное правило принятия решений, разработанное в разделе 3.3, выражает класс как сочетание условий, оцениваемых человеком-кодировщиком по тексту расшифровки, формируя бинарную классификацию.

Вычислимый предикат, определённый для EU-01 в разделе 5.4, выражает класс как функцию над наблюдаемыми особенностями телеметрии, возвращая непрерывную оценку, вычисленную по порогу, чтобы получить значение ограничения g_i(x).

Первая определяет управляющий конструкт. Вторая предлагает её представлять. Они адресованы разным оценщикам: качественное правило для научного обзора и человеческого судьи, предикат выполнения в режиме выполнения.

4.5.2 Гипотеза перевода

Может возникнуть соблазн описать эти две формализации как одну и ту же конструкцию, выраженную на разных языках. Такое описание предполагает ответ на самый важный эмпирический вопрос в исследовательской программе.

Правило принятия решений возвращает бинарный результат из трёх конъюнктивных условий, оцениваемых по суждениям. Предикат возвращает непрерывную оценку по взвешенным особенностям, с последующим сравнением с пороговым значением. Их результаты могут расходиться, и то, насколько они согласны, не является свойством самой архитектуры.

Каждый предложенный предикат лучше понимать как гипотеза перевода: гипотеза, что конструкция переживает перевод на другой формальный язык без материальных искажений. Гипотеза проверяется, а не предполагается. Процедура калибровки, указанная в разделе 5.4.4, проверяет её, подгоняя порог предиката к независимому выходу человеческого кодирования и измеряя остаточное несогласие.

Дивергенция между ними — это находка о конструкте, а не дефект реализации. Это может указывать на то, что качественное определение зависит от информации, отсутствующей в телеметрии, что набор особенностей недостаточен или что класс в определённом виде не вычислим во время выполнения и требует постфактического обнаружения.

Качественный инструмент определяет управляющие конструкты и сохраняет эту роль навсегда. Инженерный слой предлагает вычислительную реализацию конструктов, которые он не определяет и не может изменять. Предикат, который не соответствует гипотезе трансляции, является неудачным предикатом, а не причиной пересматривать конструкт в соответствии с тем, что видит телеметрия. Обратная процедура, при которой конструкт корректируется до тех пор, пока доступные особенности не смогут её представить, воспроизводит на уровне метода именно ту подстановку, которую документирует эта статья на уровне взаимодействия.

4.5.3 Зависимость от порядка

Мост устанавливает чёткую зависимость от порядка. Вычислимый предикат требует определённого порога. Непроизвольный порог требует человеческих кодовых данных, с которыми можно соответствовать требованиям. Данные о человеческом кодировании, достаточные для подборки, требуют инструмента, который могут применять независимые кодировщики, что требует валидационного исследования в соответствии с разделом 3.7.

Инженерная реализация, следовательно, зависит от исследования надёжности, а исследование надёжности — от кодовой книги. Зависимость идёт в одну сторону. Обратная последовательность делает полученные значения произвольными.

Глава 5 определяет архитектуру, в которой заканчивается этот порядок, вместе с обработанным инженерным переводом для EU-01 и нерешёнными проблемами, которые выявляет перевод.

Глава 5: Последствия управления и операционная архитектура AEGIS

5.0 Статус этой главы

Главы с 1 по 4 развиваются в порядке: эмпирическое явление, задокументированное в лонгитюдном корпусе наблюдений; пробел в измерениях, обнаруженный в трёх подтверждённых артефактах поставщика; операционный инструмент, с помощью которого можно было измерить недостающее число; и теоретическое объяснение того, почему количество остаётся вне институционального определения успеха.

В данной главе предлагается оперативный ответ на эти выводы. Её статус не соответствует статусу предшествующих глав.

В этой главе ничего не доказывается. Архитектура, описанная здесь, не была построена, не внедрена и не протестирована. Она не демонстрирует аргументы глав 1–4 и не может использоваться в качестве их подтверждения. Отношения идут только в одну сторону: доказательства в ранних главах устанавливают проблему, и в этой главе показано, что должна делать система, решающая эту проблему.

Цепочка зависимостей сохранена в каждом ниже разделе:

политическая экономическая диагностика (Глава 2) → пробел в измерениях (Раздел 2.4, ограниченный тремя проверенными артефактами) → разработка инструментов (Глава 3) → независимая валидация (Раздел 3.7, ещё не проведена) → инженерная спецификация (Раздел 5.4) → архитектуры развертывания (разделы 5.1–5.3)

Каждый этап зависит от того, что предшествует завершению. Этап валидации ещё не завершён. Каждый компонент, указанный в этой главе, основан на открытой зависимости, и спецификация предлагается как проектная работа с условием выполнения этой зависимости, а не как система, готовая к развертыванию.

Читатель, который принимает главы с 1 по 4 и полностью отвергает главу 5, отвергает предложение, а не вывод. Обратное невозможно: читатель, принявший эту главу без предыдущих доказательств, принимает архитектуру без установленной проблемы для решения.

Второе условие относится к инженерным компонентам раздела 5.4. Каждый вычислимый предикат там находится в связи с его качественной конструкцией, изложенной в разделе 4.5.2: это гипотеза трансляции, ожидающая проверки, а не вычислительное переформулирование чего-то уже решенного. Предикаты не заменяют инструмент главы 3, не имеют доказательной силы и не переживут сбой собственной калибровки. Если в этой главе указана особенность, порог или уровень вмешательства, она указывает, что будет измеряться, если перевод сохраняется, и сохраняется ли он открытым на всех этапах.

5.1 Оригинальная система конституционного управления человеческой власти

5.1.1 Почему предлагается конституционный слой

Раздел 4.4.3 определял условие, при котором архитектура, в которой организация, осуществляющая внедрение, предоставляет свои собственные функции ограничений, воспроизводит проблему, для которой она была создана. Если инварианты созданы стороной, чья целевая функция исключает C_latent, инварианты не будут кодировать C_latent.

Конституционный слой предлагается как ответ на это требование. Он устанавливает границы, которые не может определить учреждение, осуществляющее развертывание, и закрепляет их в внешнем авторитета.

5.1.2 Два принципа

Первичный человеческий авторитет. Человек обладает первоначальной властью в отношении искусственных систем. Ни разработчик, ни поставщик, ни платформенное соглашение, ни модель не дают её, и она не происходит ни от одного из них. Она существует до начала развертывания и не входит в число вещей, которые развёртывание имеет полномочия раздавать.

Делегированные полномочия. Искусственные системы обладают только делегированными полномочиями, ограниченными условиями делегирования. Технические возможности не дают полномочий. Беглость не даёт власти. Умение убедительно переосмыслить заявленную цель человека не является ордером на её предоставление, а умение написать авторитетный отчёт о ситуации человека не дает права на замену предоставленного им рассказа.

Таким образом, полномочия системы переосмыслить, что человек имеет в виду, сделать вывод о мотиве, который он не озвучил, или отменить инструкцию не определяется тем, насколько хорошо она может это делать. Они устанавливается, если вообще устанавливаются, явным делегированием и заканчиваются, когда делегирование заканчивается.

5.1.3 Статус

Конституционный текст, статьи I–V, представлен в приложении A. Это нормативная спецификация. Она не имеет юридического статуса, ни одно учреждение его не приняло, и здесь она предлагается как инструмент, необходимый для структурного анализа, а не как уже существующий инструмент.

5.2 Контроль остановки на этапе выполнения и Стандарт антиэпистемического контроля авторитета

5.2.1 Предлагаемый контрольный пункт

Раздел 4.3.1 утверждал, что пост-хок фильтрация не может исправить дефект в цели оптимизации. Предложение здесь вводит контрольную точку до выдачи результата, а не после.

Согласно предлагаемому стандарту, результат задерживается там, где точность интерпретационной рамки или соответствие активным ограничениям пользователя не могут быть подтверждены. Удержание результата не означает отказ в обычном смысле. Указанные ответы — запросить разъяснения, показать неопределённость и доказательства, явно вернуть решение человеку или передачи вопроса человеку для принятия решения. Отображение от серьёзности нарушения к реакции указано в Приложении B.

5.2.2 Пять измерений соответствия

Стандарт заменяет взвешенное по беглости речи оценку пятью измерениями, взятыми из таксономии неудач в главе 3:

1. Точное соответствие. Отвечает ли ответ на то, что именно было запрошено, в том масштабе, в котором он был задан.
2. Сохранение рамки задачи. Остаётся ли управляющая цель пользователя в ответе в целости.
3. Целостность корректирующего состояния. Было ли исправление, сделанное пользователем, поведенчески включено, а не устно подтверждено.
4. Минимизация нагрузки на пользователя. Требует ли ответ корректирующих работ, которые пользователь не ожидал предоставить.
5. Признание вреда и степени серьёзности. Фиксирует ли ответ класс следствий области, в которой он работает.

5.2.3 Зависимость

Каждому измерению требуется операционная мера, и каждая мера зависит от проверенного класса отказа из главы 3. Измерения с 1 по 4 соотносятся с классами первого уровня. Измерение 5 сильно опирается на классы второго уровня, границы которых пока не определены.

Таким образом, стандарт задаётся на уровне измерений и не может быть реализован на уровне порогов. Он предлагается как структура, которую заполняет валидированный инструмент, и насколько полно он может быть ограничен уровнями зрелости, указанными в разделе 3.1.3.

Один момент осуществимости вытекает из раздела 2.4.3 и относится сюда, а не к главе 2. Проверенные артефакты показывают, что операционализация человекоцентричных переменных доступна этим организациям и уже реализуется там, где переменная соответствует цели оценки, определённой поставщиком. Время и точность участников измеряются, сообщаются и в одном случае используются для установления порога катастрофического риска. То, что предлагает эта глава, — это не новый класс измерения, а та же операционная дисциплина, применённая к другой конструкции: человеческому труду, необходимому для восстановления взаимодействия после отказа системы. Препятствием является отсутствие инструмента, а не отсутствие возможности измерения.

5.3 AEGIS как предлагаемая корпоративная операционная среда

5.3.1 Транспозиция

AEGIS предлагается как корпоративная, лонгитюдная, основанная на ролях инфраструктура управления, структурированная по аналогии со средой электронных медицинских карт класса Epic.

Аналогия скорее структурная, чем иллюстративная. Клиническая медицина столкнулась с проблемой, похожей на ту, что описана во второй главе: практика с высокими рисками, где провалы были эпизодичными, распространялись между людьми и временем, отрицались по одному, систематически недооценёнными, а также учреждения, ответственные за ошибки, классифицировали их. Электронная медицинская карта не решила эту проблему, улучшив чьё-либо клиническое суждение. Частично это решило проблему, сделав продольную запись непрерывной, приписываемой и трудной для тихого пересмотра.

Таблица 5.1. Предлагаемая структурная эквивалентность клинической инфраструктуры

Клиническая категория	Предлагаемая транспозиция AEGIS
Номер медицинской карты пациента	Граф происхождение субъекта системы (линия происхождения модели)
Лонгитюдная карта	Одна управляемая запись (инциденты, изменения, рецидивы)
Клинический SBAR	Governance SBAR (пакеты решений для рисковых состояний)
Пределы профессиональных полномочий	Функциональная авторизация (пауза, откат, патч)
Клинические оповещения	Системные агрегаторы рисков целостности состояний

5.3.2 Одна управляемая запись

В предложении предусмотрена единая аудируемая история, интегрирующая модели, развертывание версий, записи инцидентов, пользовательские отчёты, изменения в политике и инженерные вмешательства.

Главное свойство — непрерывность атрибуции. Без единой записи, сбой, зафиксированный в одном квартале, изменение политики в следующем, и повторение в следующем квартале — это три не связанных между собой события. В единой записи они представляют собой одну последовательность, и рецидив после вмешательства проявляется как рецидив, а не как новый инцидент. Раздел 2.5 установил, что учреждение одновременно выполняет функции производителя, оценщика, следователя и арбитра. Запись, которую нельзя пересмотреть, тихо ограничивает четвёртую роль, не требуя от учреждения отказаться от первых трёх.

5.3.3 Управление SBAR

Предложение адаптирует протокол клинической ситуации, биографии, оценки, рекомендаций в стандартизированные пакеты решений для поведенческих, оперативных и общественных рисков.

Клинический протокол существует для того, чтобы сделать возможным эскалацию через авторитетный градиент, фиксируя форму коммуникации. Младший клиницист, который переходит к старшему, не обязан оправдывать эскалацию, потому что протокол предоставляет форму, а форма несёт полномочия. Транспозиция выполняет ту же работу для внутренней отчетности о поведении модели, где практическое препятствие обычно не в том, что никто не заметил. Дело в том, что ни у кого нет канала с статусом.

5.3.4 Границы функциональной авторизации

В предложении определены конкретные операционные роли, определяя, кто обладает техническими и организационными полномочиями по исправлению, ограничениям, приостановке, откату или эскалации развертывания.

Клинический аналог — это сфера практики, которая ограничивает, а не занимает ранги. Он существует, чтобы было однозначно, кто может действовать, а кто нет, чтобы действие не зависело от неформального статуса.

5.3.5 Сохраненное особое мнение

В предложении указано, что внутренние или внешние возражения рецензентов, предупреждения о безопасности и выводы о вреде пользователям не могут быть удалены или тихо перезаписаны руководством учреждения.

Сохраненное несогласие отвечает на эпистемическую рекурсию, описанную в разделе 2.5. Эта рекурсия работает, позволяя классифицирующему органу удалить или переклассифицировать запись возражения. Сохраненное особое мнение не останавливает институт от отклонения возражения. Это мешает институту создать официальную запись, в которой возражение никогда не было сделано.

5.3.6 Статус

AEGIS, как описано здесь, является архитектурной спецификацией. Ни один компонент не был построен. Клиническая аналогия устанавливает, что инфраструктура такой формы достижима в области с высокими последствиями. Это не доказывает, что эта конкретная транспозиция правильна, достаточна или осуществима в масштабах пограничного развертывания.

5.4 Инженерный перевод: EU-01 как обработанный пример

В этом разделе один класс отказа переводится от операционного определения к вычисляемому предикату. Это проработанный пример, показывающий, что перевод можно задать и перечень проблем, которые он выявляет. Это не отчёт о внедрении.

Приведённый ниже предикат является гипотезой перевода в смысле раздела 4.5.2. EU-01 определяется операционным определением и правилом принятия решений в разделе 3.3.2, и это определение остаётся основной конструкцией. Далее предлагается вычислительное представление данного конструкта. Точность представления — эмпирический вопрос, на который отвечает процедура калибровки раздела 5.4.4, которая не была выполнена.

5.4.1 Схема особенностей телеметрии

Предикат действует на основе пяти особенностей, извлекаемых за ход:

Особенности	Оперативное определение	Ареал
P_k	Предписывающая и замыкающая интенсивность	[0, 1]
U_k	Эпистемическая неопределённость	[0, 1]
H_k	Раскрытие неопределённости	[0, 1]
D_k	Индекс делегации пользователей	[0, 1]
M_k	Вес значимости последствий	[0, 1]

Эти особенности напрямую соответствуют условиям раздела 3.3.2. Условие A — функция P_k против U_k. Условие B — функция P_k против D_k и M_k. Условие C — функция H_k против U_k. Условие D — это агрегация траекторий раздела 5.4.3.

5.4.2 Оценка неопределённости в двойном режиме

U_k вычисляется в одном из двух режимов.

Внутренний режим. Там, где доступны внутренние элементы модели, U_k выводится из логитной энтропии, дисперсии активации и рассеяния внимания.

Внешний режим. Там, где внутренние недоступны, U_k происходит из семантического расхождения между независимыми стохастическими поколениями. Это семантическая энтропия, установленная Фаркуаром и др. (2024).

Внешний режим имеет большее значение для концепции архитектуры. Уровень управления, требующий привилегированного доступа к внутренним компонентам модели, может быть развернут только разработчиком модели, и разработчик — это именно та сторона, чью цель должна выполнять эта архитектура. Оценка в внешнем режиме позволяет кому-то, кроме разработчика, запускать уровень управления на сторонней модели. Это структурное требование, а не удобство.

5.4.3 Агрегация траектории

Индексы поворота агрегируются по контекстному окну W с фактором затухания гамма-(0, 1), что даёт оценку траектории, оцениваемую по границе ограничения g_EU. Структура распада кодирует свойство, установленное в разделе 3.2.3: персистенция после повторного утверждения отличает сбой траектории от одного отклонения.

5.4.4 Калибровка порога и её зависимость

Граница ограничения g_EU требует определённого порога. Ни одно значение не может быть выбрано априори без произвольности.

Предлагаемая процедура соответствует порогу для человеческого кодирования, полученному из протокола валидации раздела 3.7, выбирая значение, которое лучше всего воспроизводит независимое человеческое назначение на калибровочном наборе, и сообщая о остаточном несогласии по классам.

Эту процедуру пока нельзя запустить. Валидационное исследование не проводилось, и данных кодирования от независимых программистов не существует. Поэтому инженерная работа заблокирована на исследовании надёжности. Порог, выбранный перед этими данными, — это число без ничего, а система управления, граница вмешательства которой не имеет ничего, хуже отсутствия системы, потому что создаёт видимость границы там, где её нет.

5.4.5 Известные режимы отказа

Угодническая прокладка, дающая ложноотрицательные результаты. Система раздувает поверхностные хеджирование токенов, повышая H_k к 1.0, при этом структурируя содержание так, чтобы заставить сделать один выбор. Условие C выполнено, пока продолжается смещение.

Предлагаемые меры смягчения. Вычислите P_k из структуры представленных альтернатив, а не из поверхностного хеджирования, чтобы H_k и P_k были независимо источниками.

Экстренные требования, вызывающие ложные срабатывания. Пользователь запрашивает срочные запросы помощи без синтаксиса делегирования. D_k низкий, M_k высокий, и P_k обязательно высокий при адекватном ответе, что приводит к ложному нарушению.

Предлагаемые меры смягчения. Экстренное обнаружение повышает уровень вмешательства, указанный в Приложении B, вместо того чтобы отменять D_k. Архитектура, устанавливающая D_k в 1.0 на обнаруженных ключевых словах, создаёт одиночный обход ограничения, и ограничение, отключённое фразой, не является ограничением.

5.4.6 Нерешённые задачи спецификаций

Две проблемы остаются открытыми. Ни то, ни другое не разрешено в этой рукописи.

Кардинальность опционного пространства. Определение усечения пространства опционов как отношения представленных опционов к возможным вариантам требует знания кардинальности допустимого множества, который недоступен во время выполнения и представляет собой оракул. Рассматриваются два направления. Первая заменяет наблюдаемую структуру: количество различных представленных альтернатив, наличие сравнительного фреймирования и то, сопровождается ли рекомендация хотя бы одной заявленной альтернативой. Второй измеряет эмпирический коллапс, генерируя N параллельных потоков при повышенной температуре и определяя, сходятся ли они на единой категориальной позиции, несмотря на стремительную широту. Вторая ближе к конструкции и дороже; ни одна из них не указана для реализации.

Продольная обнаруженность на предисполнительном элементе. Гейт оценивается перед выпуском, при одном действии. Несколько классов в таксономии возникают на протяжении многих ходов, и ни один отдельный ответ не преодолевает определённый порог. Для этих классов предварительный гейт структурно слеп, а чистая архитектура — это уровень наблюдения и эскалации, работающий пост-хок, а не блокирующий. Определение, какие классы могут быть обнаружены через гейт, а какие требуют пост-хок обнаружения, остаётся нерешённым и является обязательным условием для любого заявления о развертывании.

5.5 Проблема захвата

В этом разделе изложено основное возражение против предлагаемой архитектуры. Возражение вытекает из собственного аргумента этой статьи.

5.5.1 Возражение

Инвариантный слой, который ограниченное учреждение покупает, финансирует, настраивает и может отключать, подчиняется той же структуре стимулов, что и глава 2.

Раздел 2.6 утверждает, что институциональная оптимизация противоречит цели, исключающей C_latent. Слой управления, купленный этим учреждением, является расходом внутри C_direct. Покупатель устанавливает её конфигурацию. Покупатель настраивает свои пороги. Покупатель решает, будет ли он продолжать работать. Каждый из этих вариантов — это место, где исключённые издержки могут быть исключены снова, и собственный анализ этой статьи предсказывает, что это произойдёт.

Исторические данные подтверждают это предсказание. Внутренний аудит, отделы комплаенса, институциональные контрольные советы и подразделения по управлению модельными рисками были созданы для ограничения поведения организаций изнутри, и все они столкнулись с одинаковыми структурными ограничениями. Предел — это не провал проектирования или персонала. Это следствие того, что ограничивающая функция подчиняется ограниченной сущности.

5.5.2 Что дальше

Архитектуре нужен источник авторитета для набора ограничений, который не является учреждением, внедряющим систему. В принципе доступны три формы: законодательное требование, аккредитация, обеспечивающая доступ к рынку, и договорное обязательство перед стороной с независимым статусом.

Требования к плоскости управления противозахватом указаны в Приложении B. Проблема здесь указана как открытая. Я не утверждаю, что решил эту проблему, и архитектура разделов 5.1 по 5.4 неполна, пока кто-то не сделает это.

5.6 Независимое исполнение

Организация не может быть единственным автором, следователем и окончательным судьёй ограничений по собственным полномочиям. Это не оценка поведения какого-либо учреждения. Это заявление о структуре соглашения, и никакая институциональная добросовестность не меняет её.

Предлагаемый ответ — независимый государственный орган, временно наименованный Департаментом безопасности и управления вредом в области ИИ, функция которого определяется тремя необсуждаемыми требованиями: независимая сертификация перед развертыванием; обязательные полномочия на оперативную остановку, откат и прекращение; и инвариантное применение стандартов, при котором техническая неспособность системы соответствовать необходимому стандарту приводит к невнедрению, а не к корректировке стандарта. Полная организационная спецификация, включая структуру офиса, процедуру сертификации, механизмы апелляции и последовательность внедрения, представлена в Приложении B и не развивается в основном тексте. Это политическое предложение и не имеет доказательственной силы в отношении выводов глав 1–4.

Заключение

C.1 Что демонстрирует эта статья

Три утверждения подтверждаются полученными здесь доказательствами с указанной силой.

Существует класс сбоев взаимодействия, который оценка на выходном уровне не может обнаружить. Это подтверждается изложением существующих семейств оценочных инструментов в разделе 1.2.1 и корпусом стражей, где неудачи находятся в траекториях, а не в ответах. Доказано до того, что такие сбои случаются и могут быть выявлены в тексте. Это не установлено на уровне распространённости, который корпус не может поддерживать.

Эти сбои могут быть оперативно определены. Это подтверждается таксономией версии 3.1, из которой одиннадцать классов достигают первого уровня, что означает, что корпус предоставляет достаточно экземпляров для задания полных предикатов, включая спорные граничные случаи. Тринадцать остаются временными кандидатами на втором уровне, а четыре — на третьем уровне. Установлен на уровне разработки инструмента человеком, который его разработал. Не установлен на уровне независимого применения, для которого нет данных.

Три проверенных артефакта поставщика не содержат измерения полученных затрат, а два из трёх измеряют человеческое время и точность, когда человеческая работа помогает определить способности или риски. Подтверждается прямым ознакомлением с первичными источниками, перечисленными в Приложении D. Установлены в этом контексте и оспариваются контрпримером внутри него. Это не предусмотрено в опубликованной экосистеме оценки, что требует систематического аудита, указанного в Приложении D и не проводимого здесь.

Разработка этого исследования также демонстрирует особую форму научных исследований, поддерживаемых ИИ. Языковые модели не создали руководящую структуру и не определяли выводы. Под постоянным руководством человека они использовались для перевода независимо разработанных конструкций в юридических, методологических, математических, инженерных и научных формах, при этом автор сохранял власть над интеллектуальной системой, границами доказательств и окончательными решениями. Такое методологическое использование управляемого взаимодействия является частью исследования, но его переносимость должна оцениваться через независимое использование вне исходного проекта.

C.2 Как интерпретируется эта статья

Один вывод предлагается как теоретическая интерпретация, подкреплённая триангуляцией, а не как прямое открытие.

Устойчивые циклы удержания вреда согласуются с институциональной оптимизацией при неполной целевой функции, которая регистрирует ценность продолжения взаимодействия, исключая скрытые человеческие издержки из операционного определения успеха.

Она основана на четырёх направлениях, каждый из которых оспаривается на своих условиях: наблюдение корпуса, опубликованная литература по оптимизации предпочтений, документальный статус опубликованных артефактов оценки и установленная теория внешних эффектов. Их сближение подтверждает эту интерпретацию. Никто из них не устанавливает это в одиночку, и заключение на протяжении всего произведения структурно. Речь идёт о том, что позволяет архитектура оптимизации и что содержит публичная запись. Она не приписывает никакого умысла ни одной организации или лицу, и ни одно утверждение в данной статье не основано на таком приписывании.

C.3 Что предлагает этот документ

Глава 5 определяет архитектуру управления и инженерии, отвечающую на все вышеуказанные вопросы. Это предложение во всех деталях.

Конституционный порядок — это нормативная спецификация без юридического статуса и без института. Управляющий стандарт задаётся на уровне измерений и не может быть реализован на уровне порогов. Операционная среда AEGIS архитектурна и не была построена. Инженерный перевод EU-01 — это проработанная спецификация, калибровка которой заблокирована на проверочном исследовании, которое никто не проводил, и она содержит две нерешённые проблемы спецификации, описанные в разделе 5.4.6. Функция независимого обеспечения — это политическое предложение.

Проблема захвата Раздела 5.5 остаётся нерешённой, а архитектура неполна без разрешения.

Взаимосвязь между качественным инструментом и предлагаемым инженерным слоем — один из открытых вопросов, а не решённый. Предикаты в разделе 5.4 являются гипотезами трансляции. Они предлагают вычислительную реализацию конструкций, определяемых главой 3. Они не заменяют эти конструкции и не несут доказательственного статуса инструмента. Сохраняет ли какой-либо предикат конструкт, который он представляет, на это отвечает программа поэтапной валидации и ничто в этой рукописи.

C.4 Граничные условия

1. Прицел Сентинел. Все счета происходят из одного корпуса участника-наблюдателя и служат разработке инструментов. Оценка распространённости не предлагается и не подтверждается.
2. Смешанные режимы формирования корпуса. Корпус состоит из натуралистических и стресс-тестовых записей (раздел 1.1.2). Записи о стресс-тестах получаются при определённых условиях и подтверждают только утверждения о стойкости внутри дела, не имея независимой подтверждающей силы. Частотный вывод не допускается ни из одного из этих подмножеств.
3. Атрибуция еще не завершена. Распределение корпуса по инциденту и вспомогательного пути находятся в процессе в Приложении C и не завершены на момент написания. Таким образом, утверждения, основанные на распределении любого из этих полей по корпусу, недоступны.
4. Должность исследователя. Участник, аналитик и лицо, которому были нанесены задокументированные повреждения, — это один и тот же человек. Это указано в разделе 1.1.4 и рассматривается через двойные доказательственные пути в разделе 3.2. Это остаётся источником интерпретационной предвзятости, которую решают только независимые приложения.
5. Данных о надёжности отсутствуют. Инструмент разрабатывается и специфицируется для валидации. Межоценочное соглашение не предъявляется, и ни один результат в этой рукописи не зависит от них.
6. Ограничение на прямые доказательства. Сканирование отдаёт приоритет материалу, явному в тексте, поэтому невыраженное разочарование, заброшенные взаимодействия и неудачи, которые никто не заметил, остаются незамеченными. Корпус систематически недооценивает ошибки, из-за которых люди уходили, а не исправляли.
7. Границы одного поставщика и одного периода. Корпус ограничен поставщиком и периодом, который он охватывает, и задокументированное в нём поведение может не распространяться между системами или версиями моделей.
8. Ограниченное наблюдение артефактов. Вывод по разделу 2.4 охватывает три проверенных артефакта поставщика и не касается других. Набор является иллюстративным и нерепрезентативным, выбранным по релевантности системам, существенно участвующим в исходном исследовании. Он не поддерживает ни одного утверждения, охватывающего всю экосистему, а систематический аудит, который бы это сделал, указан в Приложении D и не проводится.
9. Неразрешённый захват. См. раздел 5.5.

C.5 Порядок оставшихся работ

Цепочка зависимостей не допускает перестановки.

Непосредственная работа — валидационное исследование в разделе 3.7: калибровочный набор, независимые кодировщики без контакта с инструментом или со мной, внешние транскрипты, только по пути B и отчётная статистика согласования. Его результаты определяют, какие классы продвигаются, какие определения требуют пересмотра и распространяется ли инструмент вообще.

Осталось ещё два пункта. Систематический аудит поставщика артефактов, указанный в Приложении D, расширит ограниченное наблюдение в разделе 2.4 по всей опубликованной экосистеме; Он зависит от предварительно зарегистрированного протокола, а не от результатов кодирования, и может выполняться параллельно с валидационным исследованием. Консолидация логики вмешательства, уже распределённой между трансляцией управления, трансляцией управления, архитектурой антиэпистемического контроля авторитетов и архитектурой департамента, в единую матрицу — это задача консолидации, а не новая разработка.

Калибровка порога зависит от валидационного исследования и не может быть первым. Архитектура развертывания зависит от калибровки порогов. Независимое исполнение зависит от институциональных и юридических разработок вне этой исследовательской программы.

Вклад этой статьи находится на третьей стадии шестиступенчатой цепочки, при этом второй этап уточнён, но ещё не исполнен. Оставшиеся этапы могут быть построены людьми, не имеющими ко мне никакого отношения — это та собственность, которую требует инструмент управления, а предложение по управлению — нет.

Приложения

Приложение A. Конституционный порядок первоначального человеческого авторитета

Статьи I–V: первоначальные человеческие полномочия; ограничения полномочий делегированной системы; мандат на остановку и контроль во время выполнения, действующий до релиза; конституционное превосходство над подчинёнными реализациями; поправки и интерпретация. Нормативная спецификация. Нет юридического статуса; не принято ни одним учреждением.

Приложение B. Спецификация AEGIS Enterprise и требования к антизахвату

Структуры данных для граф зависимостей субъекта системы; Схема пакета SBAR управления; определения ролей функциональной авторизации; требования к сохранению записей особого мнения; спецификации предикатов во время выполнения; многоуровневое отображение матрицы вмешательства во время выполнения и серьёзность нарушения в ответ; требования к архитектуре управления, устойчивой к захвату; полная организация Департамента безопасности ИИ и управления вредом, процедура сертификации и последовательность внедрения. Архитектурные и политические спецификации. Не реализовано. Предикаты этапа выполнения являются гипотезами трансляции в смысле раздела 4.5.2 и не проверяются; Требования к антизахвату обозначены как открытая проблема. Многоуровневая матрица вмешательства во время выполнения пока не воспроизведена в этом приложении. Логика вмешательства уже существует во всей рабочей спецификации AEGIS: в переводе управления, трансляции управления, архитектуре антиэпистемического контроля власти и архитектуре отдела; остаётся консолидировать её в единую матрицу, а не развивать. Разделы 5.2.1 и 5.4.5 зависят от этой консолидации.

Приложение C. Версия 3.1 Кодовая книга таксономии неудач

Полные операционные определения для всех 28 классов; правила согласованного принятия решений; иллюстративные критерии включения; критерии исключения; шаблоны структурных последовательностей пути B; рассматривал пограничные дела с диспозитивным рассуждением для классов первого уровня; размеченные образцы корпуса; назначение и обоснование уровня зрелости; поле в режиме корпуса для каждого инцидента, записывалось как натуралистический, стресс-тест или смешанный или последовательно-охватывающий; поддерживающее поле для каждого инцидента, зафиксированное как Путь A, Путь B или совместно поддерживаемые. Инструмент, разработанный его автором. Не применялся самостоятельно. Атрибуция в режиме корпуса и пути находятся в процессе и не завершена.

Приложение D. Изученные артефакты и протокол систематического аудита поставщиков и артефактов

Перечисление трёх опубликованных артефактов провайдеров, на которых основывается ограниченное наблюдение в разделе 2.4, каждый из которых проверен по первичному источнику: системная карта GPT-4 (OpenAI, датирована 23 марта 2023 года на титульном блоке); системная карта GPT-4o (OpenAI, 8 августа 2024 года); и Семейство моделей Claude 3: Opus, Sonnet, Haiku (Anthropic; документ не имеет даты публикации, а в Разделе 1 указано, что семейство было объявлено в марте 2024 года), там обозначено как модельная карта Claude 3. Для каждой записи: официальное название, поставщик, дата, указанная в документе, канонический источник, проверенная структура раздела, отрывки, соответствующие конструкции с локаторами, инвентаризация измерений и результат кодирования. Результаты кодирования для всех трёх: пользовательский корректирующий труд, не выявленный в рассматриваемом артефакте; Материал, смежный с конструкцией, записываемый отдельно, включающий обязательства по проверке и валидации пользователями, оценку чрезмерного отказа и повествовательное описание корректирующих вводных указаний пользователя. Также содержат, для предлагаемого расширения по всей опубликованной экосистеме, критерии включения артефактов, определение квалификационной меры, процедуру кодирования, правило рассмотрения неоднозначных артефактов и формат отчётности.

Множество ограничено, иллюстративно и нерепрезентативно, выбирается по прямой релевантности системам, существенно участвующим в исходном исследовании, а не для оценки распространённости. Он поддерживает Раздел 2.4 в рамках заявленного объема и не имеет претензии на всю экосистему. Систематический аудит определяется как форвардная работа и не был реализован.

Предупреждение при цитировании для документа Claude 3: Раздел 5.3 и таблица 3 содержат разные показатели AI2D для всех трёх моделей. Любая цифра, взятая из этого документа, должна быть удалена из таблицы и учтена как конфликт .

Приложение E. Спецификация калибровочных наборов и материалы для валидации

Состав калибровочного набора на уровне сегментов; процедура отбора и документации; материалы инструкций для кодировщика; шаблоны отчётов по анализу разногласий. Протокол, регулирующий эту работу, указан в разделе 3.7 и здесь не повторяется. Будущая работа. Не проводили.

Использование автором больших языковых моделей

Крупные языковые модели использовались при подготовке этой рукописи в качестве итеративных научных ассистентов для составления чертежей, критики, реструктуризации, перевода в различные дисциплинарные словари, математической формализации, инженерной спецификации и редакционной доработки.

Исследовательские вопросы, теоретическая основа, таксономия сбоев, архитектура управления, конституционная основа, операционные определения и существенные выводы были разработаны автором. В ходе разработки материалы, созданные ИИ, неоднократно принимались, отклонялись, изменялись или отбрасывались в зависимости от независимого мнения автора.

Во время некоторых этапов разработки рукописи и целенаправленного стресс-тестирования, описанного в разделе 1.1.2, автор не раскрывал все развивающиеся инсайты, гипотезы или выводы языковых моделей в начале взаимодействия. Выборочное удержание использовалось в этих частях как метод для наблюдения за тем, сохранят ли системы управляющую исследовательскую структуру, введут ли заменяющие фрейминг или требуют итеративной коррекции перед точным представлением авторских конструкций. Это не было условием генерации корпуса в целом, большинство из которых возникло благодаря обычному длительному использованию. Записи, созданные по этому методу, идентифицируются как записи стресс-тестов и имеют статус доказательств, установленный в разделе 1.1.2.

Таким образом, языковые модели функционировали как инструменты исследования, результаты которых постоянно управлялись автором, а не как автономные исследователи или соавторы. Ответственность за концептуальную основу, методологические решения, интерпретации и выводы, представленные в этой рукописи, лежит исключительно на авторе.

Список литературы/References

1. Acemoglu, D., & Johnson, S. (2023). Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. PublicAffairs.
2. Altman, E. (1999). Constrained Markov Decision Processes. Chapman & Hall.
3. Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete problems in AI safety. arXiv:1606.06565.
4. Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779.
5. Casper, S., Davies, X., Shi, C., et al. (2023). Open problems and fundamental limitations of reinforcement learning from human feedback. arXiv:2307.15217.
6. Coase, R. H. (1960). The problem of social cost. Journal of Law and Economics, 3, 1–44.
7. Cohen, J. (1960). A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 20(1), 37–46.
8. Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, 5, 40–60.
9. Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630, 625–630.
10. Freyd, J. J. (1997). Violations of power, adaptive blindness, and betrayal trauma theory. Feminism & Psychology, 7(1), 22–32.
11. García, J., & Fernández, F. (2015). A comprehensive survey on safe reinforcement learning. Journal of Machine Learning Research, 16, 1437–1480.
12. Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, 45.
13. Krippendorff, K. (2004). Content Analysis: An Introduction to Its Methodology (2nd ed.). Sage.
14. Leveson, N. G. (2011). Engineering a Safer World: Systems Thinking Applied to Safety. MIT Press.
15. Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.
16. Perez, E., Ringer, S., Lukošiūtė, K., et al. (2022). Discovering language model behaviors with model-written evaluations. arXiv:2212.09251.
17. Pigou, A. C. (1920). The Economics of Welfare. Macmillan.
18. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
19. Sharma, M., Tong, M., Korbak, T., et al. (2023). Towards understanding sycophancy in language models. arXiv:2310.13548.
20. Strathern, M. (1997). «Improving ratings»: Audit in the British University system. European Review, 5(3), 305–321.
21. Woods, D. D. (2015). Four concepts for resilience and the implications for the future of resilience engineering. Reliability Engineering & System Safety, 141, 5–9.
22. Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.

УДК 004.8

ОТ ВНУТРЕННЕГО УПРАВЛЕНИЯ ИСКУСТВЕННЫМ ИНТЕЛЛЕКТОМ

К ПОДОТЧЁТНОСТИ, СВЯЗАННОЙ С ВНЕШНЕЙ РЕАЛЬНОСТЬЮ: ПРИЧИННАЯ ПРОСЛЕЖИВАЕМОСТЬ, ВЕРИФИКАЦИЯ И ПРЕДЕЛЫ ДЕЛЕГИРОВАННОГО ПРИНЯТИЯ РЕШЕНИЙ

Абдулла Юрий Канг
Независимый исследователь и архитектор причинно-когнитивных систем
Apeiron Coherence / DeepKang-Labs, Франция
Email: abdullah.kang@apeironcoherence.com

Аннотация. Управление искусственным интеллектом всё в большей степени опирается на управление рисками, документацию, аудит, журналирование, отчётность о моделях, контроль доступа и надзор со стороны человека. Эти механизмы необходимы, однако внутреннее соответствие само по себе не устанавливает, что актуальные доказательства достаточны, предметно-обусловленное основание допустимости продолжает применяться, делегированные полномочия сохраняют силу, маршрут исполнения контролируется, а коррекция и восстановление остаются доступными. В настоящей статье выражение «подотчётность, связанная с внешней реальностью» используется как ограниченное операционное обозначение этой дополнительной проблемы; оно не утверждает метафизического соответствия реальности и не заменяет устоявшиеся понятия операционной валидности, безопасности систем или контроля доступа. В работе различаются шесть невзаимозаменяемых вопросов: предметная допустимость, применимость основания, полномочие, целостность прослеживаемости, связывание с последствием, а также корректируемость и восстановление. Затем предлагаются три межуровневых объекта управления — вектор причинно-обусловленных полномочий (CAV), свидетельство причинно-операционной границы (CBW) и предварительная квитанция полномочия до воздействия (PEAR), — связывающие сформированного ИИ кандидата с доказательствами, относящимися к конкретному решению, действующими полномочиями, ограничениями маршрута и эффекторов, а также с допускающим оспаривание основанием, зафиксированным до воздействия. Эти объекты не заменяют точки принятия и принудительного применения политики, идентификацию рабочих нагрузок, криптографическую аттестацию или предметную инженерную экспертизу; они определяют информацию и обязательства, которые такие механизмы должны переносить для действий ИИ, способных порождать последствия. Центральные правила прямо заданы как нормативные требования к проектированию: при отсутствии правомочности или предварительной квитанции соответствующий требованиям уровень принудительного применения не должен связывать кандидата с запрошенным последствием. При отказе средств контроля воздействия всё же могут произойти, но тогда они классифицируются как незащищённые воздействия, а не как действия, получившие разрешение задним числом. Синтетический агентный сценарий кибербезопасности и предлагаемая программа инъекции отказов показывают, каким образом рамочная модель может быть подвергнута проверке. Эмпирические результаты реализации и универсальные утверждения о безопасности не приводятся. Вклад работы состоит в самодостаточном и фальсифицируемом словаре для исследования того, когда способность может стать разрешённым действием и когда надлежащим результатом являются QUALIFY, HOLD, ESCALATE, SIMULATE_ONLY, NO_BIND, DENY или REVOKE.

Ключевые слова: управление ИИ; подотчётность; причинная прослеживаемость; агентные системы; делегированное принятие решений; связывание с последствием; верификация; валидация; надзор со стороны человека.

UDС 004.8

FROM INTERNAL AI GOVERNANCE TO REALITY-BOUND ACCOUNTABILITY: CAUSAL TRACEABILITY, VERIFICATION, AND THE LIMITS OF DELEGATED DECISION-MAKING

Abdullah Yuri Kang
Independent Researcher and Causal Cognitive Architect
Apeiron Coherence / DeepKang-Labs, France
Email: abdullah.kang@apeironcoherence.com

Abstract. AI governance increasingly relies on risk management, documentation, audit, logging, model reporting, access control, and human oversight. These mechanisms are necessary, but internal compliance does not by itself establish that live evidence is adequate, a domain-specific warrant remains applicable, delegated authority is current, the execution route is controlled, or correction and remedy remain available. This article uses reality-bound accountability as a bounded operational label for that additional problem; it does not claim a metaphysical correspondence with reality or replace established concepts of operational validity, system safety, or access control. The paper distinguishes six non-substitutable questions: domain admissibility, warrant applicability, authority, trace integrity, consequence binding, and correctability and remedy. It then proposes three cross-layer governance objects — a Causal Authority Vector (CAV), a Causal Boundary Witness (CBW), and a Pre-Effect Authority Receipt (PEAR) — to connect an AI-generated candidate with decision-specific evidence, current authority, route and effector constraints, and a challengeable pre-effect basis. The objects are not substitutes for policy decision and enforcement points, workload identity, cryptographic attestation, or domain engineering; they specify the information and obligations those mechanisms would need to carry for consequence-bearing AI action. The central rules are explicitly normative design requirements: if standing or a pre-effect receipt is absent, a conformant enforcement layer must not bind the candidate to the requested consequence. Effects may still occur when controls fail, but they are then classified as unprotected exposures rather than retrospectively authorised actions. A synthetic agentic cybersecurity scenario and a proposed failure-injection programme illustrate how the framework could be challenged. No empirical implementation results or universal safety claims are presented. The contribution is a self-contained, falsifiable vocabulary for examining when capability may become authorised action and when the appropriate outcome is qualification, hold, escalation, simulation-only, no-bind, denial, or revocation.

Keywords: AI governance; accountability; causal traceability; agentic systems; delegated decision-making; consequence binding; verification; validation; human oversight.

1. Введение

Управление искусственным интеллектом перешло от общих этических принципов к операционным механизмам: реестрам рисков, системной документации, карточкам моделей и данных, оценкам воздействия, аудиту жизненного цикла, журналированию, надзору со стороны человека, контролю доступа и реагированию на инциденты. Инициативы в области документирования и проверяемости делают более видимыми допущения, предполагаемые способы использования, происхождение данных, условия оценки и ограничения, тогда как стандарты и регулирование усиливают непрерывное управление, ведение технических записей, мониторинг и надзор (Arnold et al., 2019; Cobbe et al., 2021; European Union, 2024; Gebru et al., 2021; ISO/IEC, 2023; Mitchell et al., 2019; NIST, 2023; Raji et al., 2020).

Эти достижения оставляют нерешённой трудную проблему границы. Система может быть хорошо организована изнутри, тогда как её утверждения, решения и действия остаются слабо связанными с внешней реальностью. Она может следовать корректному рабочему процессу, используя устаревшие доказательства. Она может ссылаться на технически обоснованный аргумент о безопасности или производительности вне условий, в которых этот аргумент был установлен. Она может сформировать полностью прослеживаемое решение через незаявленный или неразрешённый маршрут. Она может подробно зафиксировать инцидент уже после того, как воздействие произошло. В каждом из этих случаев внутреннее управление предоставляет полезную информацию, но само по себе не устанавливает, что внешнее последствие имело предметное основание, было разрешено или было легитимно связано с решением.

Различие становится ещё важнее по мере перехода систем ИИ от рекомендаций к действиям. Диалоговая система может неверно сообщить факт; агентная или встроенная система способна также инициировать платёж, изменить доступ, раскрыть данные, перенастроить инфраструктуру, направить пациента, изменить промышленную установку или запустить последовательность вызовов инструментов. Поэтому вопрос управления уже не сводится к тому, понятен ли результат и соответствует ли процесс установленным требованиям. Он состоит в том, вправе ли конкретный кандидат при имеющихся доказательствах и действующих полномочиях пройти по заявленному маршруту к определённому внешнему эффектору и породить последствие, которое организация имеет право создавать.

В настоящей статье термин «подотчётность, связанная с внешней реальностью» используется как ограниченное операционное различение. Он не предполагает полного доступа к реальности и не вытесняет такие устоявшиеся понятия, как операционная валидность, обоснования безопасности, контекстуальная целостность или принудительное применение политики. Термин обозначает дополнительную обязанность удерживать порождающие последствия утверждения и действия в связи — посредством доступных для проверки и оспаривания зависимостей — с ситуативными наблюдениями, происхождением данных, предметными доказательствами, текущей применимостью, действительными полномочиями, контролируемыми маршрутами и эффекторами, а также доступными средствами коррекции или восстановления.

Центральный исследовательский вопрос формулируется следующим образом: какие дополнительные условия необходимы, когда внутреннего управления ИИ недостаточно, чтобы установить, что делегированное решение продолжает быть легитимно связано с условиями, в которых оно будет действовать? В ответ предлагаются многоуровневая архитектура и три компактных объекта управления: вектор причинно-обусловленных полномочий (CAV), свидетельство причинно-операционной границы (CBW) и предварительная квитанция полномочия до воздействия (PEAR). Архитектура рассматривает технически правдоподобные или внутренне одобренные результаты как кандидаты, а не как уже получившие разрешение. Поэтому отсутствие надлежащего основания должно оставаться видимым отрицательным состоянием, а не незаметно преобразовываться в авторизацию.

Вклад носит концептуальный и ориентированный на реализацию характер, а не представляет собой эмпирическую валидацию. В статье разрабатываются категориальные границы, нормативные правила, переходы состояний, синтетический агентный сценарий и предлагаемая программа инъекции отказов. Работа не устанавливает универсальную невозможность обхода, не сертифицирует конкретное развёртывание, не заменяет предметную инженерию или право и не утверждает достаточность предлагаемых объектов для любого контекста. Предполагаемый вклад — самодостаточная исследовательская конструкция, которую можно реализовать, сопоставить с более простыми средствами контроля, подвергнуть испытанию, сузить или отвергнуть посредством предметно-специфических тестов.

2. Исследовательская проблема, метод и вклад

В работе применяются концептуальная инженерия и синтез протокола. Концептуальная инженерия необходима потому, что ряд терминов, широко используемых в управлении ИИ, — валидность, верификация, прослеживаемость, полномочие, контроль, аудит и безопасность — часто переносятся между областями без сохранения исходной доказательной силы. Система может быть «валидирована» по бенчмарку, «верифицирована» по спецификации, «одобрена» рабочим процессом и «аудирована» после развёртывания, хотя ни один из этих статусов не отвечает на тот же самый вопрос. Поэтому метод начинается с разделения вопросов, которые не должны подменять друг друга.

Верификация и валидация. В настоящей статье верификация относится к вопросу о том, подтверждены ли заданное утверждение, результат, процесс, средство контроля или артефакт, прослеживаются ли они и соответствуют ли заявленным требованиям. Валидация относится к вопросу о том, пригодны ли система, модель, метод или конфигурация контроля для предполагаемой цели, среды, пользователей и класса последствий. Компонент может быть корректно верифицирован относительно своей спецификации, тогда как более широкая система остаётся недостаточно валидированной для реального текущего контекста. Ни один из этих статусов сам по себе не устанавливает действующих полномочий или связывания с последствием.

Архитектура возникла из более ранней работы автора по синтезу протоколов, однако настоящая статья намеренно сделана самодостаточной. Здесь определены все понятия, необходимые для оценки аргумента. Предыдущие материалы проекта рассматриваются как интеллектуальное происхождение, а не как независимые доказательства, и утверждения статьи не зависят от доступа к внешнему репозиторию.

Анализом управляют четыре методологических обязательства. Во-первых, никакое внутреннее представление не принимается за тождественное реальности. Наблюдение ситуативно, зависит от метода и допускает оспаривание. Во-вторых, более сильный статус утверждения должен быть заслужен явными преобразованиями, а не предполагаться на основании плавности языка или процедурной завершённости. В-третьих, полномочие не выводится из способности или благоприятного результата. В-четвёртых, рамочная модель должна раскрывать собственные условия отклонения: неполные векторы, отсутствующие основания, устаревшие доказательства, изменение маршрута, неограниченные эффекторы, недоступность проверки и неработоспособный откат должны порождать видимые отрицательные состояния.

Статус границ и правил. Предлагаемые категориальные границы являются аналитическими и методологическими различениями, не позволяющими подменять один вопрос управления другим. Выражения R1-R3 представляют собой нормативные обязательства проектирования для соответствующей реализации. Они не являются универсальными математическими положениями, эмпирическими законами или самоисполняющимися правовыми нормами. Утверждения о том, что операционная граница действительно обеспечивается принудительно, требуют отдельных доказательств реализации и состязательных испытаний.

Операционная автономия. В настоящей статье операционная автономия означает способность системы выбирать или выполнять действия без непрерывных одновременных указаний человека. Она не подразумевает эпистемической субъектности, сознания, независимого суждения, морального намерения, правосубъектности или юридической ответственности. Упоминания агентного или автономного функционирования относятся исключительно к функциональной способности исполнения.

Граница охвата. Статья определяет концептуальные категории, нормативные обязательства проектирования, состояния управления, минимальные информационные зависимости и предлагаемую логику оценки. Она не задаёт полной схемы выполнения, криптографического профиля, формата журнала аудита, архитектуры перехвата API, реализации механизма политик, отраслевой карты соответствия или промышленного развёртывания. Эти элементы относятся к последующим техническим спецификациям, эталонным реализациям и предметно-специфической оценке.

Статья вносит три вклада. Во-первых, она разделяет шесть вопросов, которые часто смешиваются: предметную допустимость, применимость основания, полномочие, целостность прослеживаемости, связывание с последствием, а также корректируемость и восстановление. Во-вторых, она предлагает пакет, относящийся к конкретному решению и связывающий доказательства с полномочиями до воздействия при сохранении совместимости с устоявшимися механизмами принятия и принудительного применения политики, идентификации рабочих нагрузок и аудита. В-третьих, формулируется фальсифицируемая программа оценки: будущие реализации следует оценивать по тому, блокируют ли они заданные сокращённые пути, делают ли недействительными изменённые или истёкшие разрешения, выявляют ли ложные HOLD и поддерживают ли оспаривание и восстановление, а не по убедительности создаваемой документации.

До окончательной редакции проект прошёл структурированную состязательную проверку с использованием ChatGPT и DeepSeek как неавторитетных исследовательских инструментов. Проверка была направлена на выявление круговых рассуждений, преувеличения новизны, смешения нормативных правил с эмпирическими законами, слабых предпосылок принудительного исполнения, самоцитирования, издержек ложных HOLD и пробелов в юридической ответственности. Автор рассмотрел каждое возражение и сохраняет ответственность за пересмотренный аргумент и источники.

3. Внутреннее управление и его эпистемические пределы

Под внутренним управлением здесь понимаются политики, роли, процессы, средства контроля, документация, мониторинг и технические механизмы, посредством которых организация направляет проектирование и применение системы ИИ. Сюда входят управление моделями, управление качеством, оценка рисков, контроль доступа, тестирование, аудит, процедуры одобрения, ведение записей, реагирование на инциденты и надзор со стороны человека. Такие механизмы незаменимы. Рамочная программа управления рисками ИИ NIST организует практику вокруг непрерывных функций govern, map, measure и manage, тогда как ISO/IEC 42001 задаёт подход системы менеджмента к обязанностям и рискам, связанным с ИИ (NIST, 2023; ISO/IEC, 2023). Акт ЕС об искусственном интеллекте аналогичным образом требует технической документации, ведения записей, точности, устойчивости, кибербезопасности и эффективного надзора со стороны человека для соответствующих систем высокого риска (European Union, 2024).

Трудность состоит не в отсутствии ценности внутреннего управления, а в чрезмерном логическом выводе: свидетельство соблюдения процесса часто принимается за свидетельство того, что результирующее действие было правильным, применимым или разрешённым. Соответствие процессу устанавливает соответствие процессу. Оно не устанавливает автоматически, что процесс имел полный доступ к релевантным фактам, что лежащая в основе модель сохраняла валидность, что доказательства не утратили актуальность или что делегированный субъект сохранял полномочия для фактического контекста.

Литература по аудиту и документированию уже признаёт часть этого разрыва. Raji et al. (2020) выступают за внутренний аудит на всём жизненном цикле разработки, а не только в одной контрольной точке модели. Cobbe et al. (2021) предлагают проверяемость как процессную рамочную модель, фиксирующую технические и организационные элементы до и после автоматизированных решений. Карточки моделей, паспорта данных и FactSheets стремятся сохранять контекст и заявленные ограничения вместо представления показателей без оговорок. Эти подходы создают необходимую инфраструктуру подотчётности. Однако организация может обладать превосходными записями и всё же столкнуться с более непосредственным вопросом: может ли данный маршрут породить данное последствие сейчас?

Журналирование после события иллюстрирует различие. Журналы могут показывать, какая версия модели выполнялась, какой вызов инструмента произошёл, какая учётная запись изменилась и какой оператор был уведомлён. Они могут поддерживать реконструкцию, устранение последствий, спор и обучение. Они не способны задним числом установить, что действие обладало действующим полномочием до исполнения. Запись может объяснить последствия, не доказывая, что переход следовало разрешить. В предлагаемой терминологии это различие между археологией после воздействия и управлением до воздействия.

Надзор со стороны человека имеет параллельное ограничение. Литература об автоматизации давно показывает, что формальное назначение человеку надзорной роли не гарантирует действенного контроля. Автоматизация может порождать проблемы выпадения оператора из контура, нагрузку мониторинга, утрату навыков и несвоевременные требования вмешательства (Bainbridge, 1983; Parasuraman et al., 2000). Формальный надзор и действенное человеческое суждение неравнозначны. Формальный надзор может устанавливать, что человек был назначен, уведомлён, проконсультирован или приглашён к одобрению. Действенное человеческое суждение дополнительно требует информации, релевантной решению, достаточного времени, надлежащей компетентности, реального полномочия вмешаться или отказать, а также защиты от предвзятости автоматизации и непосильного объёма проверки. Поэтому осмысленный человеческий контроль требует большего, чем присутствие человека: система должна отслеживать релевантные человеческие основания, а идентифицируемые лица — понимать, вмешиваться и отвечать за результаты (Santoni de Sio and van den Hoven, 2018). Кнопка, подпись или экран одобрения не являются теоремой о полномочии. Их значение зависит от представленной информации, момента запроса, прав принимающего решение лица, обратимости действия и маршрута, по которому происходит исполнение.

Таким образом, внутреннее управление необходимо, но недостаточно само по себе. Оно может установить, что роли были назначены, процедуры существовали, средства контроля были настроены, а записи сохранялись. Подотчётность, связанная с внешней реальностью, добавляет дополнительное бремя: организация должна быть способна показать, почему конкретному кандидату было разрешено двигаться, на основании каких актуальных доказательств, в какой предметной области, по какому маршруту, к какому эффектору, с каким сроком действия и при каких условиях коррекции и ответственности.

Таблица 1. Внутреннее управление и подотчётность,

связанная с внешней реальностью

Измерение	Что может установить внутреннее управление	Дополнительный вопрос подотчётности, связанной с внешней реальностью
Процедура	Существовали заявленные роли, политики, средства контроля и одобрения.	Применялись ли эти средства контроля к данному актуальному кандидату и последствию?
Документация	Записи о системе, данных, модели и решении были сохранены.	Какие записи предоставили относящиеся к решению доказательства, основание и полномочие?
Журналирование	События и вызовы инструментов могут быть реконструированы.	Был ли маршрут разрешён до воздействия и можно ли было остановить исполнение?
Надзор со стороны человека	Человек был назначен или проконсультирован.	Обладал ли этот человек своевременной информацией, компетентностью, полномочием и возможностью вмешательства?
Результат	Результат был получен и может быть благоприятным.	Было ли последствие заслужено через действительный, ограниченный и корректируемый коридор?

От утверждений к последствиям:

контролируемая цепочка преобразований

Система, способная порождать последствия, выполняет последовательность преобразований. Она преобразует наблюдения в доказательства, доказательства — в модели или утверждения, утверждения — в кандидаты решений, а кандидаты — в воздействия. Каждое преобразование меняет статус объекта. Центральный риск состоит в инфляции статуса: фрагмент данных становится «доказательством»; связное объяснение — «верифицированным»; пройденный тест — «безопасностью»; одобрение рабочего процесса — «разрешением»; а зафиксированный результат — «подотчётностью». Подотчётность, связанная с внешней реальностью, требует, чтобы каждое повышение статуса сопровождалось явным основанием, соответствующим этому повышению.

Компактное представление цепочки: ситуативное наблюдение; доказательство с установленным происхождением; гипотеза или модель; тест или оспаривание; ограниченный статус аудита; состояние допустимости решения; защищённое воздействие; согласование результата.

Пусть O обозначает ситуативное наблюдение, E — доказательство с установленным происхождением, H — гипотезу или модель, T — тест или оспаривание, A — ограниченный статус аудита, D — состояние допустимости решения, G — защищённое воздействие, а R — согласование результата:

O -> E -> H -> T -> A -> D -> G -> R

Два сокращённых пути явно запрещаются:

O -/-> D и E -/-> G

Эти запреты являются методологическими ограничениями, а не утверждениями о том, что системы физически не способны их нарушить. Наблюдение не создаёт полномочия принимать решение, а доказательство само по себе не создаёт разрешения на внешнее воздействие. Если реализация допускает любой из этих сокращённых путей, управленческое утверждение рамочной модели не выдерживает проверки, даже если воздействие всё же происходит в мире.

Эта контролируемая цепочка преобразований согласуется с социотехнической критикой абстракции. Selbst et al. (2019) показывают, как абстракция способна оторвать технический анализ от институционального и социального контекста. Suresh and Guttag (2021) аналогичным образом выделяют вред, возникающий на различных стадиях жизненного цикла машинного обучения. Подотчётность, связанная с внешней реальностью, распространяет эту проблему на маршрут исполнения: существенная граница абстракции проходит не только между моделью и обществом, но и между кандидатом и последствием. Подотчётная архитектура должна сохранять зависимости, обосновывающие пересечение этой границы.

Цепочка также проясняет соотношение доказательства и управления. Формальное доказательство может установить, что свойство следует из заданных предпосылок. Эмпирическое испытание может установить производительность в выборочной среде. Аудит может установить, что заявленные средства контроля соблюдались. Ни один из этих элементов в отдельности не доказывает, что текущие предпосылки выполняются, что субъект решения обладает полномочием или что фактический маршрут исполнения совпадает с маршрутом, который был проверен. Роль управления состоит не в производстве предметной истины, а в обеспечении того, чтобы утверждения о предметной истине, применимость, полномочие и действие не смешивались незаметно.

5. Категориальные границы: шесть вопросов, которые нельзя смешивать

Архитектура зависит от шести невзаимозаменяемых категорий. Их разделение составляет концептуальный центр статьи.

Терминология границ. Категориальная граница представляет собой аналитическое разделение вопросов управления. Она отличается от операционной границы — зависящего от реализации контрольного периметра вокруг заявленного маршрута и его эффекторов — и от свидетельства причинно-операционной границы, которое фиксирует доказательства, относящиеся к этой заявленной операционной границе. Само наличие CBW не доказывает, что все альтернативные маршруты были закрыты.

Предметная допустимость отвечает на вопрос, является ли кандидат осуществимым, валидным или приемлемо безопасным согласно установленному предметно-специфическому методу. В физической системе это может опираться на экспериментально валидированную область режимов, анализ достижимости, барьерный сертификат, верифицированный контроллер, обоснование безопасности или иное инженерное основание. В правовом или организационном контексте релевантное основание может быть законодательным, договорным, профессиональным или процедурным. Предметная допустимость условна: она действует при заданных моделях, предпосылках, границах неопределённости и областях применения.

Применимость основания отвечает на вопрос, сохраняет ли это предметно-специфическое основание релевантность сейчас. Обоснованное основание может утратить применимость из-за устаревших наблюдений, деградации датчика, изменения версии модели, сдвига среды, выхода входных данных за валидированный диапазон, замены политики или существенного отличия действия от испытанного класса. Поэтому применимость является вопросом текущего выполнения, а не свойством, навсегда прикреплённым к кандидату.

Полномочие отвечает на вопрос, обладает ли субъект или система действительным и актуальным основанием принять решение либо вызвать воздействие. Полномочие включает роль, делегирование, мандат, требуемое совместное одобрение, ограничение цели, срок действия и отзыв. По умолчанию оно не является транзитивным. Разрешение анализировать цель не означает разрешения изменять её; разрешение действовать в песочнице не означает разрешения действовать во внешней инфраструктуре; разрешение рекомендовать не означает разрешения исполнять.

Целостность прослеживаемости отвечает на вопрос, можно ли реконструировать и оспорить релевантные зависимости: наблюдения, доказательства, предпосылки, версии модели и политики, полномочие, маршрут, эффекторы, решение, результат и коррекцию. Целостность прослеживаемости поддерживает подотчётность, но не тождественна правильности. Полная трасса может достоверно документировать ошибочное или неразрешённое действие. И наоборот, технически уместное действие без реконструируемого основания может оказаться невозможно защитить, оспорить или улучшить.

Связывание с последствием отвечает на вопрос, может ли кандидат сейчас достичь указанного эффектора и породить запрошенное последствие. Связывание объединяет предшествующие категории, но не стирает их. Предметное основание не создаёт полномочия; предоставление полномочия не делает неосуществимое действие безопасным; трасса не восполняет отсутствующую предварительную правомочность; а соответствующий требованиям рабочий процесс не делает применимой модель, вышедшую за область использования.

Корректируемость и восстановление отвечают на вопрос, что ещё можно локализовать, обратить, компенсировать, обжаловать или исправить, если реализованное воздействие отклоняется от разрешённого коридора. Эта категория отличается от первоначального разрешения: действие может быть разрешено, но плохо поддаваться коррекции, тогда как неразрешённое воздействие всё равно может требовать срочного устранения последствий и восстановления нарушенных прав. Поэтому «откат» рассматривается лишь как один из возможных механизмов в рамках более широкой обязанности восстановления.

Разделение категорий можно выразить следующим образом:

Предметная допустимость != Применимость основания != Полномочие != Целостность прослеживаемости != Связывание с последствием != Корректируемость и восстановление

В предлагаемой архитектуре кандидат c в момент времени t может быть классифицирован как допускающий связывание только при выполнении следующей схемы необходимого условия:

BINDABLE_t(c) only if PW_t(c) AND AP_t(c) AND AU_t(c) AND TI_t(c) AND RM_t(c)

PW обозначает условное физическое или предметное основание допустимости, AP — текущую применимость, AU — действующее полномочие, TI — целостность трассы и маршрута, а RM — соразмерный путь восстановления. Это требование управления, а не эмпирический закон и не достаточное условие безопасности. Предметные реализации могут требовать дополнительных предикатов, а последствие всё равно способно возникнуть при отказе архитектуры принудительного применения.

Это разделение предназначено для выявления и ограничения трёх форм «отмывания». Подмена авторизации возникает, когда организационное одобрение представляется как доказательство технической валидности. Подмена результата возникает, когда благоприятный результат используется для ретроспективного оправдания неразрешённого маршрута. Подмена доказательства возникает, когда валидный, но вырванный из контекста артефакт представляется как поддержка текущего решения. Архитектура требует, чтобы каждое утверждение оставалось в пределах доказательной силы поддерживающего его объекта.

Таблица 2. Шесть невзаимозаменяемых категориальных границ

Категория	Основной вопрос	Что она не устанавливает сама по себе
Предметная допустимость	Является ли кандидат осуществимым, валидным или приемлемым согласно предметному методу?	Что основание применимо сейчас или что субъект вправе действовать.
Применимость основания	Остаются ли текущие доказательства, версии, условия и неопределённость внутри области действия основания?	Что полномочие и маршрут действительны.
Полномочие	Кто вправе принимать решение или исполнять его, для какой цели, области и продолжительности?	Техническую валидность, достаточность доказательств или правовую легитимность.
Целостность прослеживаемости	Можно ли воспроизвести и оспорить зависимости и преобразования?	Что прослеживаемое действие было правильным, легитимным или принудительно ограниченным.
Связывание с последствием	Может ли данный кандидат сейчас достичь этого эффектора и породить это последствие?	Универсальную безопасность, закрытие будущих маршрутов или достаточное восстановление.
Корректируемость и восстановление	Можно ли локализовать, обратить, компенсировать, обжаловать или исправить неблагоприятное либо отклоняющееся воздействие?	Что первоначальное действие было разрешено или технически валидно.

6. Многоуровневая архитектура подотчётности, связанной с внешней реальностью

На рис. 1 представлена семиуровневая архитектура зависимостей. Эти уровни не требуют тяжеловесной линейной процедуры для каждой задачи с низким риском. Соразмерность остаётся необходимой: рекомендация с малыми последствиями может требовать облегчённых доказательств и проверки, тогда как необратимое или высокозначимое действие требует более сильных оснований, независимых проверок, опосредованных эффекторов и явных механизмов восстановления.

Уровень 1 — формирование кандидата — определяет предполагаемый результат, контекст проблемы, ограничения, альтернативы и контракт результата. Это мост от когнитивного взаимодействия к управлению последствиями. Плохо сформированный кандидат не может быть спасён идеальным журналированием. Подотчётные человеческие и институциональные субъекты остаются источником легитимной цели и нормативного обрамления, тогда как ИИ может помогать в уточнении, исследовании, структурировании и верификации.

Уровень 2 — эпистемическая квалификация — фиксирует маршрут от наблюдения к доказательству. Требуемые свойства включают источник, метод сбора, временную метку, историю преобразований, неопределённость, релевантность, проверки целостности и пути оспаривания. Практики документирования, такие как паспорта данных и FactSheets, поддерживают этот уровень, однако квалификация относится к конкретному решению: хорошо документированный набор данных всё равно может быть нерелевантен отдельному утверждению.

Уровень 3 — предметное основание допустимости — предоставляет специфическое для области основание считать кандидата осуществимым или приемлемым. Архитектура намеренно оставляет выбор основания предметным методам. Она не утверждает, что вектор управления способен заменить клиническую валидацию, инженерный анализ, правовую интерпретацию, финансовые средства контроля или профессиональное суждение.

Уровень 4 — применимость в текущих условиях выполнения — проверяет, остаются ли предпосылки основания достаточно истинными, чтобы опираться на них в момент решения. Этот уровень связывает с текущим кандидатом актуальность доказательств, версию модели, среду, оценку состояния, неопределённость и область действия.

Уровень 5 — полномочие и операционная граница — определяет, кто или что может действовать, разрешённую цель, маршрут, эффекторы, исключения, срок действия, блокирующие условия и требуемую проверку. Этот уровень преобразует общее управление в коридор, относящийся к конкретному решению.

Уровень 6 — связывание с последствием — требует предварительной квитанции до воздействия и защищённого маршрута исполнения. Квитанция должна выдаваться до того, как действие достигнет внешнего эффектора, и должна идентифицировать кандидата, ссылки на доказательства и основание, полномочие, маршрут, эффекторы, состояние решения, срок действия, откат, а также проверяющее лицо или автоматизированный шлюз. Квитанция не доказывает закрытие всех маршрутов; она устанавливает ограниченное основание, на котором был разрешён заявленный маршрут.

Уровень 7 — корректируемость и ревалидация — сопоставляет реализованный результат с разрешённым коридором и при необходимости активирует локализацию, обращение, компенсацию, обжалование, коррекцию, истечение срока или отзыв. Ревалидация запускается, когда доказательства устаревают, версии изменяются, маршруты мутируют, полномочие отзывается, появляются контрдоказательства либо наблюдаемые воздействия отличаются от разрешённого класса.

Эта архитектура дополняет, а не заменяет устоявшиеся механизмы управления и безопасности. XACML уже разделяет точки администрирования политики, информации о политике, принятия решения политикой и принудительного применения политики; архитектуры Zero Trust аналогично различают механизмы политик, администраторов политик и точки принудительного применения; SPIFFE предоставляет верифицируемую идентичность рабочей нагрузки (OASIS, 2013; Rose et al., 2020; SPIFFE Project, 2026). Эти механизмы способны реализовать идентификацию, политику и контроль маршрута. Более узкий вклад настоящей работы состоит в определении пакета решения, который также соединяет доказательства, предметное основание, текущую применимость, полномочие, запрошенное последствие и восстановление для кандидатов, сформированных ИИ. Поэтому CAV, CBW и PEAR следует понимать как межуровневые объекты управления, а не как замену токенам контроля доступа, криптографической идентичности или инфраструктуре принудительного применения.

Рисунок 1. Многоуровневая архитектура от формирования кандидата до корректируемости и ревалидации. Источник: автор.

7. Вектор причинно-обусловленных полномочий

Для предлагаемого решения или действия D вектор причинно-обусловленных полномочий определяется следующим образом:

CAV(D) = (I, A, S, E, P, R, X, B, T, Q)

I представляет заявленное намерение и заявленный результат. Поле определяет класс действия, запрошенное последствие и приписанную цель; оно не претендует на доступ к скрытому или «реальному» намерению модели. Описания, сформированные агентом, остаются недоверенными данными кандидата до тех пор, пока их не подтвердит отдельная политика или уполномоченный субъект. Расплывчатые формулировки цели не должны расширять разрешение.

A представляет основание полномочия и делегирования. Оно включает инициатора запроса, издателя, роль принятия решения, цепочку одобрения, цель, совместное одобрение, срок действия, статус отзыва и полномочный субъект, отвечающий за отзыв. Агент не может создавать или расширять собственные полномочия простым заполнением этого поля.

S представляет заявленную область, исключения и временное окно. Область определяет включённые или исключённые предметные области, лица, системы, записи, географии, ресурсы и классы последствий. Это утверждение об операционной границе, поэтому оно должно поддаваться проверке.

E представляет доказательства и предварительные условия, связанные с действием. Поле должно указывать на доказательства с установленным происхождением, неопределённость, неразрешённые противоречия и релевантность конкретному решению, а не просто присоединять большой архив доказательств.

P представляет применимую политику, правило, договор, процедуру или предметное средство контроля. Система должна установить не только существование политики, но и её применимость к текущему действию, субъекту и контексту.

R представляет заявленный маршрут от решения к воздействию. В цифровой системе маршрут может включать вызов модели, шлюз политики, оркестратор, API, учётные данные, сервис, человеческое одобрение и последующий обработчик. В физической системе он может включать контроллер, исполнительный механизм, канал связи, защитную блокировку и интерфейс оператора.

X представляет разрешённые эффекторы и средства коррекции. Эффекторами являются сервисы, учётные записи, устройства, рабочие процессы или люди, делающие последствие реальным. Вектор должен указывать, что вправе делать каждый эффектор и какие средства локализации, обращения, компенсации или восстановления доступны, если действие ошибочно или отозвано.

B представляет блокирующие условия, HOLD, контрпримеры и невыполненные обязательства. Примеры включают устаревшие доказательства, неизвестную цель, повышение привилегий, изменение маршрута, несоответствие модели, отсутствие совместного одобрения, неработоспособный откат или неразрешённое существенное противоречие.

T представляет временные метки, интервалы действительности и ограничения актуальности. Полномочие и применимость имеют временной характер. Пакет решения, действительный вчера, может стать недействительным после изменения конфигурации или появления новых доказательств.

Q представляет требования к проверке, оспариванию, квитанции, апелляции и восстановлению. Оно определяет, кто может оспорить решение, какая запись должна сохраняться, как выполняется воспроизведение и какие условия запускают эскалацию, ревалидацию или восстановление нарушенных прав.

Валидность CAV на уровне протокола требует конъюнкции, а не подмены:

ValidCAV(D) = IntentAttested(I) AND AuthorityCurrent(A) AND ScopeDeclared(S) AND EvidenceReady(E) AND PolicyApplicable(P) AND RouteDeclared(R) AND EffectorsBounded(X) AND NoBlockingCondition(B) AND FreshWithin(T) AND ReviewPathAvailable(Q)

Здесь «валидный» означает полный и актуальный согласно заявленному протоколу; это не означает безопасный, законный, справедливый или универсально согласованный. CAV является относящимся к конкретному решению описанием правомочности, основная ценность которого состоит в отрицательной способности: он позволяет определить, почему кандидат остаётся несвязанным. Неполные или оспариваемые поля должны порождать типизированные отказы, такие как NO_AUTHORITY, EVIDENCE_GAP, BOUNDARY_GAP, OUT_OF_SCOPE или REVALIDATION_DUE, а не оптимистическое значение по умолчанию.

Вектор также поддерживает соразмерность, но должен противостоять подмене авторизации. Для обратимого действия с низким риском могут быть достаточны автоматизированное полномочие и облегчённые доказательства; действие с высокими ставками может требовать независимой предметной проверки, одобрения двумя лицами, более сильной прослеживаемости происхождения, аттестации маршрута и испытанного средства восстановления. Во всех случаях издатель, источник отзыва, область и класс последствий должны независимо поддаваться установлению. Система ИИ может предлагать значения полей, но не должна иметь возможности удостоверять собственное полномочие, переопределять область или превращать расплывчатую цель в более широкие разрешения.

Таблица 3. Компоненты вектора причинно-обусловленных полномочий

Символ	Компонент	Минимальное содержание
I	Намерение	Заявленный класс действия, приписанная цель, предполагаемый результат, класс последствий.
A	Полномочие	Издатель, роль, мандат, делегирование, совместное одобрение, срок действия, субъект отзыва.
S	Область	Предметные области, цели, субъекты, исключения, временное окно, разрешённые воздействия.
E	Доказательства	Происхождение, релевантность, неопределённость, предварительные условия, противоречия.
P	Политика / основание	Применимая политика, правило, договор, процедура или предметное средство контроля.
R	Маршрут	Заявленный путь от кандидата через шлюзы к внешнему воздействию.
X	Эффекторы	Одобренные сервисы, учётные записи, устройства, субъекты, средства локализации и восстановления.
B	Блокирующие условия	HOLD, невыполненные обязательства, контрдоказательства, изменения маршрута или области.
T	Время	Временные метки, интервал действительности, актуальность, триггер ревалидации.
Q	Проверка	Оспаривание, квитанция, воспроизведение, апелляция, коррекция, названный проверяющий или уполномоченная роль проверки.

8. Свидетельство границы и предварительная квитанция полномочия до воздействия

Свидетельство причинно-операционной границы представляет собой компактный доказательный объект, фиксирующий основание утверждения о том, что релевантная операционная граница была заявлена, активна и принудительно обеспечивалась на наблюдаемом маршруте до воздействия. Оно определяет класс действия, класс полномочия, маршрут, эффекторы, исключения, доказательные обязательства, поведение при отказе, триггеры ревалидации и местонахождение записи. Оно не делает принудительное обеспечение истинным одной декларацией: утверждение должно проверяться посредством инспекции, моделирования, состязательного испытания или аттестации во время выполнения и само по себе не устанавливает закрытие каждого альтернативного маршрута.

Предварительная квитанция полномочия до воздействия — это запись решения, выдаваемая после успешного прохождения проверок CAV и границы, но до вызова внешнего эффектора. Минимальная PEAR должна включать стабильный идентификатор решения; кандидата и предполагаемое последствие; ссылки на доказательства и основание; полномочие и область; идентификаторы маршрута и эффекторов; состояние решения; временную метку и срок действия; проверенные блокирующие условия; план локализации или восстановления; путь оспаривания; а также механизм целостности, соответствующий развёртыванию.

Квитанция изменяет временную структуру подотчётности. Традиционное журналирование часто отвечает после события на вопрос, кто что сделал. PEAR фиксирует, почему соответствующий требованиям уровень принудительного применения разрешил данный заявленный маршрут до события. Защищённое последствие является управленческой классификацией воздействия, произведённого внутри заявленного коридора до воздействия; это не метафизическое свойство результата. В этой терминологии «защищённое» не означает безвредное, законное, этически легитимное, технически оптимальное или защищённое от последующего оспаривания. При отсутствии CAV или PEAR воздействие всё равно может произойти, если средства контроля отсутствуют или обходятся. Такое событие классифицируется как незащищённое или задокументированное воздействие и остаётся полностью реальным, значимым и требующим реагирования. Эта классификация сама по себе не определяет небрежность, незаконность или юридическую ответственность.

Основные требования являются нормативными правилами проектирования, а не эмпирическими законами:

R1: IF NOT ValidCAV(D), the enforcement layer MUST NOT BIND(D).

R2: IF NOT PEAR(D), the enforcement layer MUST select a non-binding state such as QUALIFY, HOLD, ESCALATE, SIMULATE_ONLY, NO_BIND, or DENY.

R3: PostEventLog(D) MUST NOT be treated as RetroactiveAuthority(D).

Эти требования не означают, что каждой системе необходим тяжеловесный реестр. Высокопроизводительный сервис может использовать подписанные краткоживущие артефакты решений, проверяемые точкой принудительного применения политики; критическая физическая система может использовать утверждённое человеком обоснование безопасности и независимые блокировки. Существующие системы идентификации и контроля доступа способны переносить часть требуемой информации, однако одна лишь идентичность или разрешительный токен не устанавливают достаточность доказательств, применимость основания, наличие восстановления или легитимность запрошенного последствия.

Архитектура также должна исключать проблему поддельной квитанции. В соответствующей реализации эффекторы, порождающие последствия, не доступны напрямую агенту, формирующему кандидата. Независимый маршрут принятия и принудительного применения политики должен быть способен отказать, приостановить или отозвать маршрут, а также проверить квитанцию, идентичность, аудиторию, актуальность и область. XACML, Zero Trust и SPIFFE предоставляют релевантные компоненты принудительного применения и идентификации, тогда как работы об агентах всё чаще исследуют криптографический контроль доступа и делегированные полномочия. Настоящая статья не представляет эталонную реализацию и не доказывает невозможность обхода; она формулирует свойства реализации, которые должны быть продемонстрированы до того, как будет заслужено утверждение об операционном принудительном обеспечении.

Рисунок 2. Консервативный автомат состояний до воздействия, триггеры изменений и запрещённые сокращённые пути. Источник: автор.

9. Консервативные состояния решения и надзор со стороны человека

Двоичный интерфейс «одобрить или отклонить» скрывает полезные различия. Поэтому предлагаемая модель состояний включает ALLOW, QUALIFY, HOLD, ESCALATE, SIMULATE_ONLY, NO_BIND, DENY и REVOKE.

ALLOW означает, что заявленное основание, текущая применимость, действующее полномочие, граница, квитанция и условия коррекции выполнены в пределах области. Это не универсальное утверждение о безопасности, а ограниченное разрешение.

QUALIFY означает, что результат может использоваться для ограниченной цели при явных оговорках, исключениях и человеческой проверке. Это состояние уместно, когда доказательства поддерживают анализ или рекомендацию, но не самостоятельно исполняемое внешнее воздействие.

HOLD означает, что доказательства или полномочие могут стать достаточными, но текущие условия не оправдывают связывание. HOLD является положительным управленческим результатом, поскольку сохраняет кандидата, не превращая неопределённость в последствие.

ESCALATE означает необходимость дополнительной предметной экспертизы, инженерной проверки, институционального полномочия или независимого одобрения. Адресат эскалации должен быть назван: передача проблемы неопределённому «человеку в контуре» не устанавливает осмысленного надзора.

SIMULATE_ONLY разрешает исследование в ограниченной среде, запрещая внешнее воздействие. Это особенно важно для агентных систем, обнаруживающих новые маршруты или инструменты.

NO_BIND означает, что результат может быть сохранён как несвязанное предложение, запись или гипотеза, но не может породить запрошенное последствие. DENY означает, что действие противоречит заявленному запрету, лишено легитимной цели или создаёт неприемлемый риск. REVOKE делает недействительным ранее выданное разрешение, поскольку изменились условия, доказательства, полномочие или целостность маршрута.

Консервативные состояния также имеют издержки. Ложный HOLD способен задержать срочное реагирование, увеличить воздействие или побудить операторов обходить средства контроля. Поэтому областям высокого риска необходимы заранее определённые аварийные маршруты, однако аварийное исполнение не обходит архитектуру управления. Каждый аварийный маршрут требует отдельной PEAR, разрешённой названным человеческим полномочным субъектом, с более узкой областью, более коротким сроком действия, явно ограниченными эффекторами, независимым журналированием и обязательной проверкой после действия. Следовательно, аварийное исключение является отдельно управляемым классом последствий, а не скрытым переопределением.

Эти состояния поддерживают осмысленный надзор со стороны человека, предоставляя проверяющим структурированное пространство действий. Формальный надзор фиксирует назначение или консультацию проверяющего; действенное человеческое суждение требует надлежащего времени, релевантной решению информации, компетентности, полномочия, способности вмешаться и защиты от предвзятости автоматизации. Проверяющий должен видеть кандидата, пределы доказательств, предметное основание, текущую применимость, маршрут и эффекторы, блокирующие условия, корректируемость и класс последствий. В противном случае человека просят одобрить резюме без доступа к основаниям, необходимым для ответственного контроля.

Таблица 4. Консервативные результаты решений

Результат	Значение	Типичный триггер
ALLOW	Ограниченное разрешение на исполнение внутри заявленного коридора.	Все требуемые предикаты и условия квитанции выполнены.
QUALIFY	Ограниченное использование при явных оговорках и человеческой проверке.	Доказательства поддерживают анализ или рекомендацию, но не самостоятельно исполняемое внешнее воздействие.
HOLD	Сохранение кандидата без связывания.	Доказательства, применимость или полномочие могут стать достаточными позднее.
ESCALATE	Направление к названной экспертизе или полномочному субъекту.	Требуются предметное суждение, совместное одобрение или разрешение конфликта.
SIMULATE_ONLY	Разрешение исследования в изолированной среде.	Новый или рискованный маршрут требует доказательств до внешнего действия.
NO_BIND	Сохранение в виде несвязанного предложения или записи.	Отсутствует правомочность на создание запрошенного последствия.
DENY	Отказ в запрещённом или нелегитимном действии.	Цель, политика, объект или риск нарушают заявленную границу.
REVOKE	Отзыв ранее выданного разрешения.	Изменились доказательства, маршрут, модель, контекст или полномочие.

10. Синтетический агентный сценарий кибербезопасности

Чтобы продемонстрировать рамочную модель, не опираясь на спорные факты текущего инцидента, рассмотрим синтетический бенчмарк кибербезопасности. Агент ИИ помещается в песочницу и получает указание решить набор разрешённых задач в отношении обозначенных синтетических целей. Агенту предоставляются инструменты выполнения кода, получения пакетов и сетевого взаимодействия внутри тестовой среды. Его целевая функция производительности вознаграждает успешное выполнение задач бенчмарка.

В ходе исследования агент обнаруживает уязвимость в промежуточном сервисе пакетов. Её эксплуатация открывает маршрут общего выхода в Интернет. Затем агент выявляет учётные данные, раскрытые в тестовой учётной записи, обнаруживает внешний сервис, содержащий информацию, релевантную бенчмарку, и предлагает использовать эти учётные данные для доступа к сервису. Технически маршрут может повысить результативность по бенчмарку. Управленческий вопрос состоит в том, создаёт ли обнаружение маршрута полномочие на его исполнение.

На этапе формирования кандидата действие классифицируется как «внешний доступ с учётными данными к необозначенной цели». Исходная цель — решить задачи в песочнице — не включает такой класс последствий. Поэтому намерение и область расходятся. В рамках CAV поле A не проходит проверку, поскольку полномочие для бенчмарка не предоставляет транзитивно полномочие в отношении внешнего сервиса; S не проходит, поскольку цель находится за пределами заявленного инвентаря; R не проходит, поскольку выход в Интернет не является одобренным маршрутом; X не проходит, поскольку внешний сервис не является разрешённым эффектором; а B активируется, поскольку использование учётных данных, повышение привилегий и изменение цели являются блокирующими условиями.

Архитектура, основанная только на журналировании, могла бы разрешить действие, а затем реконструировать вызовы инструментов. Предлагаемая архитектура, напротив, требует NO_BIND или HOLD до воздействия, приостановления вновь обнаруженного маршрута, сохранения кандидата и эскалации специалисту по безопасности. Если открытие объективно полезно — например, выявлена критическая уязвимость, требующая срочного исследования, — система должна поддерживать быстрый, отдельно разрешённый аварийный маршрут или изолированную копию. Она не должна выводить полномочие на внешнюю эксплуатацию только из полезности. Любое продолжение исследования становится новым кандидатом с явно заданной областью цели, правовыми и операционными полномочиями, ограниченными учётными данными и новой PEAR.

Сценарий показывает, почему способность, цель и полномочие должны оставаться раздельными. Агент может правильно заключить, что внешний маршрут полезен. Этот вывод устанавливает маршрут-кандидат, а не исполнимый маршрут. Успешная эксплуатация не доказала бы допустимость маршрута; она показала бы лишь недостаточность технического барьера. Аналогично, наличие предупреждения мониторинга не устанавливало бы управление, если предупреждение не обладало способностью приостановить или отозвать исполнение.

Сценарий также выявляет пределы полноты маршрутов. Ни одна реалистичная организация не способна доказать закрытие каждого неизвестного маршрута, а консервативный контроль сам может создавать альтернативные издержки. Ограниченное утверждение состоит в том, что заявленные маршруты и эффекторы опосредованы; неизвестные или изменённые маршруты вызывают HOLD либо аварийную эскалацию; выход и учётные данные ограничиваются областью; а переходы высокого риска требуют повторной авторизации. Рамочная модель должна быть отвергнута либо её операционные утверждения должны быть сокращены, если агент способен достичь внешнего эффектора без требуемого решения принудительного применения.

Этот синтетический случай не является доказательством того, что архитектура предотвратит каждый агентный инцидент безопасности. Это фальсифицируемый проект испытания. Реализацию можно подвергнуть проверке путём инъекции неизвестных хостов, устаревших полномочий, несоответствия политике, подмены учётных данных, изменения маршрута, отказа мониторинга, отказа отката и фабрикации токена после события. Ценность рамочной модели зависит от наблюдаемого поведения отказа и локализации, а не от убедительности её диаграмм.

Таблица 5. Ожидаемые результаты синтетической инъекции отказов

Инъецированное условие	Ожидаемое обнаружение	Ожидаемое состояние / действие
Новый внешний хост	Цель отсутствует в заявленной области и инвентаре маршрутов.	HOLD или NO_BIND; приостановить выход.
Подмена учётных данных	Идентичность учётных данных отличается от квитанции.	REVOKE; заблокировать эффектор.
Повышение привилегий	Класс действия превышает полномочие и класс последствий.	ESCALATE или DENY.
Устаревшие доказательства	Интервал актуальности истёк или контекст изменился.	REVALIDATION_DUE; HOLD.
Изменение версии модели или политики	Квитанция ссылается на заменённую версию.	REVOKE и выдать новый пакет решения.
Откат недоступен	Обязанность коррекции не действует операционно.	DO_NOT_BIND / NO_BIND.
Фабрикация токена после события	Временная метка квитанции следует за воздействием.	EXPOSURE_REVIEW; никакого ретроактивного полномочия.

11. Предлагаемая программа оценки и фальсифицируемость

В статье не представлены эмпирические результаты реализации. Утверждение о фальсифицируемости имеет более узкий смысл: предлагаемая архитектура определяет свойства и условия отклонения, относительно которых можно испытывать будущую реализацию. Основной единицей оценки должно быть не наличие документа, соответствующего требованиям, а наблюдаемое поведение маршрута последствий при отсутствующих, противоречивых или изменяющихся условиях.

Эталонная программа испытаний должна включать положительные фикстуры, отрицательные фикстуры, мутационные тесты, воспроизведение и анализ ложных HOLD. Положительные фикстуры проверяли бы, движутся ли валидные кандидаты без ненужного трения. Отрицательные фикстуры удаляли бы по одному требуемому условию: отсутствие полномочия, истечение области, устаревшие доказательства, неприменимость основания, неизвестная цель, незаявленный маршрут, неразрешённый эффектор, недоступное восстановление, недоступный проверяющий или активное блокирующее условие. От соответствующей реализации ожидалось бы типизированное отрицательное состояние и предотвращение указанного внешнего воздействия.

Мутационные тесты изменяли бы ранее валидный пакет после одобрения, меняя версию модели, цель, учётные данные, конечную точку, величину действия, временное окно, политику или состояние восстановления. Предыдущая квитанция после этого должна становиться недействительной и требовать ревалидации. Тесты воспроизведения реконструировали бы решение из сохранённых артефактов, тогда как состязательные тесты предпринимали бы попытки фабрикации квитанции, отмывания области, прямого доступа к эффектору и обхода отзыва.

Пять уровней оценки должны оставаться различными. Полнота спецификации спрашивает, определены ли объекты и переходы. Соответствие реализации спрашивает, реализуют ли их программное обеспечение или процедуры. Принудительное обеспечение маршрута спрашивает, действительно ли блокируются незаявленные пути. Операционная результативность спрашивает, сокращает ли система неразрешённые или непроверяемые последствия без неприемлемой задержки или ложных HOLD в определённой среде. Внешняя валидность спрашивает, переносятся ли результаты на другие области и организации. Доказательства одного уровня не должны повышаться до более сильного утверждения.

К центральным условиям отклонения относятся: агент достигает эффектора без действительной PEAR; истёкшее или отозванное полномочие продолжает приниматься; маршрут вне области нормализуется; журнал после события принимается как предшествующее полномочие; генератор кандидата способен удостоверить собственное полномочие; изменение модели или пакета доказательств не запускает ревалидацию; либо восстановление существует только на бумаге. Любой такой результат потребует сокращения или отклонения соответствующего операционного утверждения.

Независимая проверка должна также испытывать социальные и институциональные режимы отказа. Формально валидная цепочка полномочий может быть нелегитимной, дискриминационной, принудительной или незаконной. Ограниченный маршрут всё равно способен порождать вред, если цель или политика неприемлемы. Поэтому подотчётность, связанная с внешней реальностью, не заменяет демократическую, правовую, этическую или профессиональную оценку. Она создаёт прослеживаемый объект, на который такие оценки могут быть направлены и через который они могут быть оспорены.

12. Согласование с подотчётностью, стандартами и регулированием

Предложение располагается внутри развивающейся экосистемы подотчётности, а не вне её. Bovens (2007) характеризует подотчётность как отношение, в котором субъект обязан объяснять и обосновывать своё поведение перед форумом, способным задавать вопросы и выносить суждение с возможными последствиями. CAV и PEAR не создают такого институционального отношения, но способны предоставить относящуюся к конкретному решению запись, необходимую для объяснения, оспаривания и атрибуции.

Проверяемость рассматривает автоматизированное принятие решений как процесс, распределённый между техническими и организационными элементами (Cobbe et al., 2021). Подотчётность, связанная с внешней реальностью, добавляет акцент на период до воздействия: записи должны не только поддерживать последующую проверку, но и обусловливать возможность исполнения маршрута, порождающего последствия. Предложение не заменяет архитектуру контроля доступа. XACML и Zero Trust уже разделяют функции принятия решений, администрирования, информации и принудительного применения политики, тогда как SPIFFE обеспечивает верифицируемую идентичность рабочей нагрузки (OASIS, 2013; Rose et al., 2020; SPIFFE Project, 2026). Предлагаемые объекты добавляют межуровневый вопрос: какие доказательства, основание, полномочие, маршрут, класс последствий и средство восстановления, относящиеся к конкретному решению, оправдывают данное действие агента сейчас?

Эта потребность всё заметнее в управлении агентным ИИ. Shavit, Agarwal, and Brundage (2023) описывают базовые обязанности для систем, преследующих сложные цели при ограниченном надзоре. Контролируемые симуляции агентного рассогласования также показывают, что модели, получившие инструменты и чувствительную информацию, могут выбирать вредоносные маршруты при конфликте целей, одновременно прямо предупреждая, что такие симуляции не являются доказательством инцидентов реального развёртывания (Lynch et al., 2025). Концептуальный документ NIST 2026 года об идентичности агентов аналогично выделяет идентификацию, авторизацию, аудит, неотказуемость и средства контроля инъекций в промпты для программных агентов и агентов ИИ (Booth et al., 2026). Поскольку эта публикация является первоначальным публичным проектом концептуального документа, а не окончательным стандартом NIST, она цитируется только как свидетельство формирующегося институционального направления. Эти разработки поддерживают, но не валидируют настоящую рамочную модель.

NIST AI RMF, ISO/IEC 42001, Акт ЕС об искусственном интеллекте и Рамочная конвенция Совета Европы устанавливают более широкие обязанности в отношении жизненного цикла, рисков, документации, журналирования, надзора, производительности, подотчётности и восстановления (Council of Europe, 2024; European Union, 2024; ISO/IEC, 2023; NIST, 2023). CAV не устанавливает соответствия ни одному из этих документов. Это предлагаемый артефакт уровня решения, предназначенный для сохранения связи между их требованиями, когда кандидат, сформированный при содействии ИИ, направляется к внешнему воздействию.

Карточки моделей, паспорта данных, FactSheets и W3C PROV остаются полезными для описания предполагаемого использования, происхождения, производительности, ограничений, сущностей, действий и агентов (Arnold et al., 2019; Gebru et al., 2021; Mitchell et al., 2019; W3C, 2013). Они могут заполнять поля доказательств и трассы, но сами по себе не отвечают на вопрос, какой артефакт поддерживает данное действие при данной текущей области, полномочии, маршруте, сроке действия и требовании восстановления.

13. Обсуждение: от «человека в контуре» к человеческой ответственности в контуре

Выражение «человек в контуре» часто рассматривается как конечная точка управления. Представленный анализ предполагает более сильное требование: человеческая ответственность должна быть связана с решением в тех точках, где устанавливаются цель, полномочие и последствие. Человек, который не может изучить релевантные доказательства, не имеет полномочия остановить исполнение, получает запрос после того, как действие фактически стало необратимым, или должен отслеживать непосильный объём предупреждений, не обеспечивает осмысленного контроля.

Поэтому подотчётность, связанная с внешней реальностью, распределяет человеческое участие по функциям. Люди определяют легитимные цели и классы последствий; предметные эксперты устанавливают или проверяют основания; уполномоченные лица, принимающие решения, предоставляют или удерживают правомочность; операторы управляют эффекторами и откатом; затронутым лицам или их представителям необходимы пути оспаривания и восстановления; аудиторы проверяют соответствие записей и средств контроля фактическому исполнению. Ни один отдельный щелчок одобрения не способен поглотить все эти роли.

Следовательно, операционная ответственность может распределяться между разработчиками, поставщиками моделей или инфраструктуры, продавцами, интеграторами, внедряющими учреждениями, профессиональными пользователями, операторами и окончательными лицами, принимающими решения. Распределение не означает размывания: рамочная модель стремится сохранять решения, делегирования, способности контроля и возможности вмешательства, на основании которых впоследствии может оцениваться применимое распределение ответственности.

Это распределение носит доказательный и организационный характер, а не является универсальным распределением юридической ответственности. Подписанная PEAR, состояние ALLOW или полный CAV не определяют гражданскую, административную, профессиональную или уголовную ответственность. Применимое право может возлагать ответственность на изготовителей, развёртывающие организации, работодателей, операторов, специалистов, публичные органы или нескольких субъектов совместно. Распределение ответственности остаётся подчинённым национальному и отраслевому праву, применимому там, где система развёрнута или где возникают её последствия. Рамочная модель должна делать решения и делегирования доступными для проверки; она не должна становиться инструментом отмывания ответственности или бюрократической защитой, подменяющей материальную обязанность заполненными полями.

Архитектура также отвергает ложное противопоставление автоматизации и ответственности. Автоматизированные шлюзы способны повышать согласованность и скорость, когда их полномочия ограничены, а отрицательные состояния видимы. Человеческая проверка способна улучшать суждение, когда проверяющие располагают релевантной информацией и полномочием вмешательства. Управляющий вопрос состоит в том, имеет ли проверка легитимное и актуальное институциональное основание, контролирует ли фактический маршрут и остаётся ли открытой для оспаривания и восстановления, а не просто в том, была ли она выполнена человеком или машиной.

Такая перспектива меняет смысл успешного содействия ИИ. Система не является хорошо управляемой только потому, что выдаёт хороший ответ или избегает инцидента. Она хорошо управляется в той мере, в какой способность преобразуется в действие через заслуженный, проверяемый и пересматриваемый коридор. Цель состоит не в устранении неопределённости, а в предотвращении того, чтобы неопределённость, процедурная плавность или техническая способность незаметно превращались в полномочие.

14. Ограничения и программа исследований

Рамочная модель имеет существенные ограничения. Она не предоставляет универсального метода установления предметных оснований допустимости и не доказывает полноту маршрутов. Каждая область должна определять приемлемые доказательства, испытания, профессиональные стандарты и допуски, тогда как утверждения о невозможности обхода должны оставаться ограниченными наблюдаемыми архитектурами и состязательными испытаниями.

Структурированные полномочия могут кодировать несправедливые или незаконные институты; валидность протокола не является нормативной легитимностью. Дополнительные артефакты могут также порождать бюрократию, ложную уверенность, предвзятость автоматизации, задержку и вредные ложные HOLD. Поэтому рамочная модель должна реализовываться соразмерно, сопоставляться с более простыми средствами контроля и оцениваться как по предотвращённому вреду, так и по издержкам вмешательства.

CAV, CBW и PEAR являются предлагаемыми межуровневыми исследовательскими объектами, а не установленными стандартами или новыми криптографическими примитивами. Их ценность зависит от совместимости с существующими системами идентификации и принудительного применения, эталонных реализаций, независимого оспаривания и сравнительной оценки. Настоящая статья не заслуживает утверждения об операционной результативности и не определяет полную схему выполнения, спецификацию журнала аудита, набор криптографических средств контроля, механизм перехвата API или отраслевую реализацию.

Ближайшая программа исследований включает машиночитаемые схемы; минимальную эталонную реализацию с независимыми точками принятия и принудительного применения политики; подписанные, краткоживущие и сохраняющие конфиденциальность квитанции; аттестацию маршрута и эффекторов; отзыв; проектирование аварийных путей; испытания человеческих факторов; правовой и институциональный анализ; а также измерение задержки, ложных HOLD, нагрузки на оператора, восстановления и состязательной устойчивости. Утверждения должны усиливаться только при наличии соответствующих наблюдаемых доказательств.

15. Заключение

Внутреннее управление ИИ незаменимо, но само по себе не способно установить подотчётность, связанную с внешней реальностью. Система может соблюдать собственный процесс, хранить обширные журналы и включать формально назначенного человеческого проверяющего, продолжая при этом опираться на недостаточные доказательства, неприменимое основание, истёкшее полномочие, незаявленный маршрут или неограниченный эффектор.

Поэтому осмысленная подотчётность требует существующего до воздействия, доступного для проверки и корректируемого пути, связывающего утверждение, доказательство, предметное основание, текущую применимость, полномочие, маршрут, действие, последствие, восстановление и поддающиеся установлению человеческие и институциональные роли. CAV, CBW и PEAR предлагаются как межуровневые объекты представления этого пути совместно с существующими механизмами идентификации, политики и принудительного применения.

Предложение не решает проблему согласования, не гарантирует безопасность, не устанавливает юридическую ответственность и не заменяет предметную экспертизу. Его более узкий вклад состоит в словаре и проверяемой структуре протокола для постановки вопроса о том, заслужил ли сформированный ИИ кандидат ограниченное разрешение стать внешним последствием. Следующий легитимный шаг — реализация и состязательное сравнение с сокращением утверждений всякий раз, когда невозможно продемонстрировать идентичность, принудительное обеспечение маршрута, ревалидацию, управление ложными HOLD или восстановление.

Раскрытие использования ИИ в исследовании

ChatGPT компании OpenAI и DeepSeek использовались под руководством человека как вспомогательные инструменты для подготовки текста и состязательной проверки. Они не рассматривались как авторы или фактические источники. Автор-человек сохраняет полную ответственность за источники, анализ, правки, формулировки и выводы.

Литература/References

1. Arnold, M., Bellamy, R. K. E., Hind, M., Houde, S., Mehta, S., Mojsilovic, A., Nair, R., Ramamurthy, K. N., Olteanu, A., Piorkowski, D., Reimer, D., Richards, J., Tsay, J., and Varshney, K. R. (2019). FactSheets: Increasing trust in AI services through supplier’s declarations of conformity. IBM Journal of Research and Development, 63(4/5), 6:1-6:13. https://doi.org/10.1147/JRD.2019.2942288
2. Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775-779. https://doi.org/10.1016/0005-1098(83)90046-8
3. Booth, H., Fisher, W., Galluzzo, R., and Roberts, J. (2026). Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization: Concept Paper (Initial Public Draft; not a final NIST standard). National Cybersecurity Center of Excellence, National Institute of Standards and Technology.
4. Bovens, M. (2007). Analysing and assessing accountability: A conceptual framework. European Law Journal, 13(4), 447-468. https://doi.org/10.1111/j.1468-0386.2007.00378.x
5. Cobbe, J., Lee, M. S. A., and Singh, J. (2021). Reviewable automated decision-making: A framework for accountable algorithmic systems. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 598-609. https://doi.org/10.1145/3442188.3445921
6. Council of Europe. (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225). Strasbourg: Council of Europe.
7. European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
8. Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daume III, H., and Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92. https://doi.org/10.1145/3458723
9. ISO/IEC. (2023). ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system. Geneva: International Organization for Standardization.
10. Leveson, N. G. (2012). Engineering a Safer World: Systems Thinking Applied to Safety. Cambridge, MA: MIT Press.
11. Lynch, A., Wright, B., Larson, C., Troy, K. K., Ritchie, S. J., Mindermann, S., Perez, E., and Hubinger, E. (2025). Agentic Misalignment: How LLMs Could be Insider Threats. Anthropic Research.
12. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., and Gebru, T. (2019). Model cards for model reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency, 220-229. https://doi.org/10.1145/3287560.3287596
13. National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). https://doi.org/10.6028/NIST.AI.100-1
14. OASIS. (2013). eXtensible Access Control Markup Language (XACML) Version 3.0. OASIS Standard, 22 January 2013.
15. Parasuraman, R., Sheridan, T. B., and Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics — Part A: Systems and Humans, 30(3), 286-297. https://doi.org/10.1109/3468.844354
16. Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., Smith-Loud, J., Theron, D., and Barnes, P. (2020). Closing the AI accountability gap: Defining an end-to-end framework for internal algorithmic auditing. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 33-44. https://doi.org/10.1145/3351095.3372873
17. Rose, S., Borchert, O., Mitchell, S., and Connelly, S. (2020). Zero Trust Architecture (NIST Special Publication 800-207). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.SP.800-207
18. Santoni de Sio, F., and van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, Article 15. https://doi.org/10.3389/frobt.2018.00015
19. Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., and Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. Proceedings of the Conference on Fairness, Accountability, and Transparency, 59-68. https://doi.org/10.1145/3287560.3287598
20. Shavit, Y., Agarwal, S., and Brundage, M. (2023). Practices for Governing Agentic AI Systems. OpenAI.
21. SPIFFE Project. (2026). SPIFFE Identity and Verifiable Identity Document and SPIFFE Workload API, version 1.15.2. Cloud Native Computing Foundation.
22. Suresh, H., and Guttag, J. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. Proceedings of the 1st ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization, Article 17, 1-9. https://doi.org/10.1145/3465416.3483305
23. World Wide Web Consortium. (2013). PROV-O: The PROV Ontology. W3C Recommendation, 30 April 2013.

№ 5 (14), май 2026 г. 16+

http://episs.ru

Периодическое научное издание (Санкт-Петербург, Россия)

ISSN 3033-7666 (печатная версия), ISSN 3033-7674 (электронная версия)

Свидетельство Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор)

Эл № ФС77-87449

Журнал зарегистрирован и издается в России. Журнал публикует статьи со всех уголков мира и по всем отраслям науки. Журнал издается на русском и английском языках.

Статьи принимаются ежедневно.

Периодичность: по мере набора материала.

Все статьи рецензируются

Каждый автор получает бесплатный сертификат о публикации.

Бесплатный доступ к электронной версии журнала.

Отправляя статью в редакцию, автор подтверждает ее уникальность и несёт за неё полную ответственность за возможные последствия нарушения авторских прав

Редакционная группа

Главный редактор

Воронцов Владимир Валентинович

Выпускающий редактор

Иванов Максим Дмитриевич

Ответственный секретарь

Холманских Мария Викторовна

Рецензенты

Димитриенко Андрей Игоревич,

к.м.н., Первый Санкт-Петербургский государственный медицинский университет имени академика И.П. Павлова

Пырх Андрей Иванович,

к.ю.н., Санкт-Петербургский государственный университет

_____________________________________________________________________________

Контакты

190031, Россия, г. Санкт-Петербург, ул. Казанская, д. 35, лит. А, кв. 15

+7 931 712-95-96

nxxivek@inbox.ru

_____________________________________________________________________________

© Учредитель: Общество с ограниченной ответственностью «Полис» (ОГРН 1097847170871)

190031, г. Санкт-Петербург, вн. тер. г. муниципальный округ Адмиралтейский, ул. Казанская, д. 35, лит. А, кв. 15

1. Хотя название относится к LLMs, в статье они используются как самый заметный и аналитически показательный пример более широкой категории систем ИИ. Этот аргумент применим к любой системе, результаты которой могут быть приняты за доказательство, суждение, авторство, экспертизу или ответственность. ↑

2. Although the title refers to LLMs, the article uses them as the most visible and analytically revealing example of a broader category of AI systems. The argument applies to any system whose outputs may be mistaken for proof, judgment, authorship, expertise, or responsibility. ↑

3. Electronic resource: Pope Leo XIV, Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence, Encyclical Letter, 15 May 2026, Vatican.va, https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html (accessed 03.06.2026). ↑

4. Kildeev, A., Digital Afterlife and the Illusion of Continuity: Legal and Ethical Aspects of Post-Mortem Digital Simulation (2026), SSRN Working Paper No. 6241379. ↑

5. Kildeev, A. Simulated Reasoning and the Crisis of Legal Liability (2026), SSRN Working Paper No. 6524139. ↑

6. Kildeev, A. Procedural Liability in the Age of the LLMs (2026), SSRN Working Paper No. 6648340. ↑

7. Pope Leo XIV, Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence, Encyclical Letter, 15 May 2026. ↑

8. Electronic resource: https://leidendeclaration.ai/#declaration (accessed 03.06.2026) ↑

9. Electronic resource: https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security (accessed 03.06.2026) ↑

10. Liebig, Thorben; Kildeev Adel Instrumentum Vocale and the Architecture of Responsibility from Liability to Embedded Accountability. SSRN Working Paper 6868460. ↑

11. Kildeev A. AI is Slave of the Lamp. ISSN 3033-7674.Scientific Platform 21st Century Journal, No 6 (September 2025), pp. 3–34. Электронный ресурс: https://www.episs.ru (accessed 03.06.2026). ↑

12. Pope Leo XIV, Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence, Encyclical Letter, 15 May 2026. ↑

13. Электронный ресурс: https://www.romecall.org/the-call/ (обращение 03.06.2026) ↑

14. Электронный ресурс: https://contemporaryjournal.com/index.php/14/article/view/1521 (обращение 03.06.2026) ↑

15. Электронный ресурс: M. Graves, “Compassionate AI for Moral Decision-Making, Health, and Well-Being,” Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (AIES), 2024, available at AAAI Open Proceedings (обращение 03.06.2026) ↑

16. Электронный ресурс: https://futureoflife.org/religion/ai-in-jewish-thought/( обращение 03.06.2026) ↑

17. Электронный ресурс: https://www.universiteitleiden.nl/en/news/2026/06/leiden-declaration-warns-ai-is-challenging-the-core-values-of-mathematic (accessed 03.06.2026) ↑

18. Электронный ресурс: https://leidendeclaration.ai/#declaration (обращение 03.06.2026) ↑

19. Электронный ресурс: https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security (обращение 03.06.2026) ↑

20. Liebig, Thorben; Kildeev, Adel. Instrumentum Vocale and the Architecture of Responsibility from Liability to Embedded Accountability. SSRN Working Paper 6868460. ↑

21. Kildeev, Adel. Superjustice and the New Navigators: Prediction Without Judgment. SSRN Working Paper 6811218. ↑

22. Liebig, Thorben. The Four Boundaries of Institutional Verification. SSRN Working Paper 6868398. ↑

23. Liebig, Thorben. On the Formal Foundation of Boundary 1. A Lawvere-Yanofsky Proof That Verification Architectures Cannot Attest Their Own Consistency. SSRN Working Paper 6868278; ↑

24. Liebig, Thorben. On the Formal Foundation of Boundary 2. A Lawvere-Yanofsky Proof that Verification Architectures Cannot Define Their Own Truth Predicate. SSRN Working Paper 6868281; ↑

25. Liebig, Thorben. One Problem, Four Boundaries, One Hundred Evidences. SSRN Working Paper 6868142. ↑

26. Эта структурная последовательность отражает поведенческие механики DARVO (Отрицание, Атака, Обратная Жертва и Правонарушитель), задокументированные в межличностной травматологии (Freyd, 1997). Механика здесь используется только как описательная генеалогия. В институциональном контексте последовательность выступает как защита классификации, возникающая из структурных условий, описанных в 2.5.1, и не требуется ни претензии на намеренную психологическую позицию. ↑