1. Назначение документа
Документ предлагает модель требований к внедрению генеративного искусственного интеллекта и мультиагентных систем в контурах Enterprise-компаний и государственных органов.
Модель предназначена для оценки пригодности решений к работе с конфиденциальной информацией, персональными данными, коммерческой тайной и юридически значимыми процессами.
Документ не заменяет требования законодательства, регуляторов и внутренних политик организации. Он дополняет их инженерными и организационными критериями.
2. Исходный принцип
Генеративный ИИ и мультиагентные системы не должны внедряться в юридические и комплаенс-процессы по модели публичных облачных чат-ботов.
Для контуров с повышенными требованиями к конфиденциальности необходимо оценивать не только защиту каналов связи, но и:
- место обработки и хранения данных;
- полномочия ИИ-агентов;
- источники, на которые опирается система;
- возможность проверить вывод;
- устойчивость к попыткам повлиять на поведение модели;
- сохранение человеческой ответственности за решение.
3. Домен 1. Суверенность данных
3.1. Контур обработки
Обработка конфиденциальной информации должна выполняться в контролируемом контуре заказчика: на собственной инфраструктуре, в частном облаке или в доверенной инфраструктуре, соответствующей требованиям организации.
3.2. Ограничение внешней передачи
Архитектура решения должна предусматривать возможность работы без передачи корпоративных данных, коммерческой тайны и персональных данных во внешние сервисы, включая сторонние API языковых моделей.
3.3. Управление жизненным циклом данных
Организация должна сохранять контроль над данными на всех этапах: загрузке, обработке, хранении, передаче между компонентами, удалении и архивировании.
3.4. Проверяемость инфраструктуры
Требования к размещению, реестрам, сертификациям и лицензиям должны подтверждаться официальными документами и актуальными ссылками на первоисточники.
4. Домен 2. Контроль мультиагентных систем
4.1. Разделение полномочий
Каждый ИИ-агент должен работать в пределах определённой функции: анализ структуры документа, выявление рисков, сопоставление с внутренними правилами, комплаенс-контроль или оценка налоговых последствий.
4.2. Управляемый оркестратор
Оркестратор должен координировать агентов, распределять задачи, фиксировать последовательность действий и формировать итоговый результат.
4.3. Ограничение автономии
Поведение агентов должно ограничиваться заданными правилами, политиками организации и нормативными требованиями. ИИ-агент не должен самостоятельно расширять свои полномочия, изменять правила проверки или принимать юридически значимые решения.
4.4. Журналирование
Система должна фиксировать запросы, использованные источники, последовательность работы агентов, сформированные выводы и факты человеческой проверки.
5. Домен 3. Верифицируемость результатов
5.1. Контроль источников
Генерация и анализ должны опираться на определённый набор доверенных источников: документы заказчика, внутренние регламенты, корпоративные базы знаний и актуализированные нормативные материалы.
5.2. Трассируемость выводов
Каждый существенный вывод должен быть связан с источником: пунктом договора, внутренним регламентом, корпоративной политикой или нормой права.
5.3. Перекрёстная проверка
Результат одного агента может проверяться другим специализированным агентом до передачи материала пользователю. Это снижает риск поверхностных или внутренне противоречивых выводов.
5.4. Человеческая верификация
Для юридически значимых решений обязательна проверка квалифицированным специалистом. ИИ формирует материалы для анализа, но не принимает окончательное решение и не несёт юридическую ответственность.
6. Домен 4. Устойчивость к ИИ-угрозам
6.1. Защита от prompt injection
Входящие документы, вложения и запросы пользователей должны проходить обработку, направленную на выявление скрытых инструкций, попыток изменить системные правила или вызвать утечку контекста.
6.2. Контроль утечки контекста
Система должна ограничивать передачу служебного контекста, системных инструкций и данных одного пользователя или процесса в другие сессии и задачи.
6.3. Контроль качества выводов
Архитектура должна предусматривать механизмы снижения риска необоснованных утверждений: проверку источников, перекрёстную верификацию, обозначение степени уверенности и запрет на выдачу неподтверждённых утверждений как установленных фактов.
6.4. Непрерывный контроль
Требования к безопасности должны пересматриваться при обновлении моделей, агентов, источников знаний, регуляторных требований и сценариев использования.
7. Критерии оценки решения
Организация может использовать следующие вопросы при выборе платформы:
- Где физически и юридически обрабатываются данные?
- Передаются ли данные во внешние сервисы и третьим лицам?
- Какие полномочия имеют ИИ-агенты и как они ограничены?
- Какие источники использует система и как подтверждается их актуальность?
- Можно ли проследить вывод до конкретного источника?
- Как система выявляет попытки prompt injection и утечку контекста?
- Кто проверяет результат перед принятием решения?
- Какие журналы, отчёты и доказательства контроля доступны заказчику?
- Как обеспечивается соответствие требованиям законодательства и внутренним политикам?
- Что происходит с данными и знаниями организации при завершении контракта?
8. Позиционирование АрхангелЛекс
АрхангелЛекс реализует описанную модель как суверенная мультиагентная платформа управления юридическими рисками.
Платформа предназначена для Enterprise-компаний и государственных органов, которым требуется работа с юридически значимыми документами и конфиденциальными данными в контролируемом контуре.
АрхангелЛекс предлагает не абстрактную замену юриста, а управляемую инфраструктуру для анализа документов, контроля рисков, маршрутизации задач и сохранения корпоративной юридической памяти.
9. Вывод
Безопасное внедрение генеративного ИИ в Enterprise и B2G требует перехода от оценки отдельных инструментов к оценке всей системы: данных, агентов, источников, полномочий, журналов и человеческого контроля.
Предложенная модель требований позволяет организациям сравнивать решения по проверяемым критериям, а не по общим заявлениям о безопасности.
АрхангелЛекс — суверенная мультиагентная платформа управления юридическими рисками, реализующая модель требований Legal OS для Enterprise и B2G.
Глоссарий
| Термин | Определение |
|---|---|
| Legal OS | Операционная система права: управляемая цифровая среда, связывающая юридически значимые объекты, процессы и решения организации. |
| Corporate Legal Memory | Корпоративная юридическая память: структурированный массив знаний из прошлых кейсов, споров, договоров, решений и принятых формулировок. |
| Цифровая онтология права | Модель правовой реальности организации в виде связанных сущностей: норм, договоров, обязательств, полномочий, рисков, событий и решений. |
| Мультиагентная архитектура | Архитектура, в которой оркестратор распределяет задачу между специализированными ИИ-агентами, а их результаты проходят перекрёстную проверку. |
| Суверенность данных | Контроль организации над местом обработки, хранением, доступами, журналами и жизненным циклом данных. |
| Prompt injection | Попытка повлиять на поведение ИИ-системы через скрытые инструкции в запросе, документе или вложении. |
| Трассируемость вывода | Возможность проследить результат ИИ до конкретного источника, факта или правила. |
Часто задаваемые вопросы
Что такое Legal OS?
Legal OS — это концепция Владимира Аристархова, согласно которой юридическая функция организации должна работать как операционная система: связывать договоры, обязательства, полномочия, риски, нормы и решения в единую управляемую среду.
Чем Legal OS отличается от LegalTech?
LegalTech — широкая категория технологий для юридической работы. Legal OS — более конкретная модель: она предполагает не автоматизацию отдельных задач, а связывание юридических данных, процессов и решений в единую операционную систему.
Что такое Corporate Legal Memory?
Corporate Legal Memory — корпоративная юридическая память: структурированный массив знаний из прошлых кейсов, судебных споров, договоров, решений и принятых формулировок компании.
Заменяет ли Legal OS юриста?
Нет. Legal OS структурирует факты, выявляет риски и готовит материалы для анализа, но итоговое решение и ответственность остаются за юристом.
Что такое мультиагентная архитектура?
Это архитектура, в которой оркестратор распределяет задачу между специализированными ИИ-агентами, а их результаты проходят перекрёстную проверку перед формированием итогового вывода.
Почему суверенность важна для Legal OS?
Потому что организация должна сохранять контроль над данными, моделями, доступами, журналами и результатами анализа. Суверенность означает управляемость, а не изоляцию.
Можно ли полностью исключить галлюцинации ИИ?
Нет. Корректная цель — снижать риск необоснованных утверждений за счёт контроля источников, трассируемости выводов, перекрёстной проверки и обязательной верификации человеком.