Агент без паспорта

Автор: Prof. Олег Мальцев 30.10.2026

Почему искусственный интеллект уже действует как исполнитель, но признание его самостоятельным субъектом права может освободить корпорации от ответственности

У автономного агента нет паспорта. Нет даты рождения, гражданства, места жительства, имущества, из которого он может возместить причинённый ущерб. Нет должности, профессиональной лицензии, репутации или семьи. Его нельзя лишить свободы, дисквалифицировать или обязать лично выплатить компенсацию. Нельзя спросить, понимал ли он общественную опасность своего действия в человеческом смысле.

И всё же агент действует. Он получает поручение, выбирает способ, использует инструменты, обращается к внешним системам, создаёт документы, отправляет сообщения, меняет данные. Может получить дополнительные полномочия и совершить операцию, которой человек прямо не приказывал.

Так возникает соблазнительное решение:

Если машина действует самостоятельно, следует признать её самостоятельным субъектом права.

На первый взгляд это кажется логичным: есть действие — должен быть субъект; есть субъект — должна быть ответственность. Но за этой формулой скрывается опасная возможность.

Если автономного агента признать отдельным правовым лицом, разработчик, владелец и оператор смогут утверждать:

Действовал не человек и не корпорация. Действовал самостоятельный электронный субъект.

Тогда правосубъектность машины может стать не расширением права, а способом человеческого бегства от ответственности.

Исполнитель появился раньше субъекта права

Современное право привыкло связывать действие с определённым носителем. Физическое лицо действует от собственного имени, работник — от имени организации, должностное лицо — в пределах полномочий, представитель — на основании поручения. Юридическое лицо действует через свои органы и сотрудников.

Автономный агент нарушает привычную форму. Он способен выполнять цепочку операций без отдельной человеческой команды на каждом шаге. Но это ещё не отвечает на вопрос: от чьего имени он действует?

Возможны разные ответы:

от имени разработчика;
от имени владельца системы;
от имени заказчика поручения;
от имени оператора;
как технический инструмент;
как самостоятельный электронный участник.

Право пока не должно спешить выбирать последний вариант.

Слово «автономный» производит сильное впечатление. Оно напоминает независимость человека, государства или организации. Но в технике автономность означает другое: система способна самостоятельно выполнять некоторые промежуточные действия после получения цели.

Она может:

разбивать задачу на этапы;
выбирать инструмент;
анализировать результат;
корректировать план;
повторять попытку;
прекращать работу по заданному условию.

Такая автономность является свойством архитектуры управления. Она сама по себе не доказывает наличие сознания, понимание права, способность нести наказание, существование собственного интереса, экономическую независимость или моральную ответственность.

Машина может действовать автономно технически и оставаться полностью зависимой юридически.

Человеческое действие возникает внутри биографии. У человека есть опыт, мотив, страх, личная выгода, отношения, убеждения, социальное положение и способность понимать последствия для собственной жизни.

Агент действует внутри искусственно созданной среды. Его мир состоит из поставленной цели, системных инструкций, контекста, памяти, инструментов, разрешений, обучающих данных, ограничений и сигналов обратной связи. Этот мир создан людьми и организациями.

Поэтому машинное действие нельзя отделять от архитектуры, которая его породила.

Кто написал машинную волю

Если агент совершил опасную операцию, можно сказать: «Он сам выбрал способ». Но выбор не возник из пустоты.

Необходимо установить:

кто сформулировал цель;
кто обучил модель;
кто установил приоритет результата;
кто предоставил инструменты;
кто разрешил внешние соединения;
кто определил пределы;
кто позволил действовать без подтверждения;
кто решил, что риск приемлем.

Машина выбирает внутри созданного для неё пространства возможностей. Автором каждого конкретного шага может не быть один человек. Но авторами пространства выбора всегда остаются люди.

Европейский акт об искусственном интеллекте строит регулирование вокруг конкретных человеческих и организационных ролей: поставщика системы, внедряющей организации, импортёра, дистрибьютора, уполномоченного представителя и других участников. Даже институты и органы Европейского союза подпадают под правила, когда выступают поставщиками или пользователями ИИ-систем. Самой системе отдельная правосубъектность для этого не предоставляется.

Эта конструкция принципиально важна. Право спрашивает:

кто создал систему;
кто разместил её на рынке;
кто использует;
кто обеспечивает надзор;
кто должен сообщить об инциденте;
кто обязан управлять риском.

Ответственность остаётся в человеческой и организационной цепочке.

Европейское регулирование классифицирует ИИ-системы по уровню риска и возлагает обязанности на участников их создания и применения. Цель такого подхода — обеспечить безопасность, защиту здоровья и основных прав, одновременно сохраняя возможность разработки и использования технологии.

Для этого нет необходимости объявлять машину человеком. Чтобы требовать испытаний, журналирования, человеческого надзора, прозрачности, регистрации, сообщения об инцидентах и ограничения применения, достаточно установить обязанности разработчика и пользователя.

Откуда появилась идея электронной личности

Дискуссия о специальном статусе роботов возникла задолго до современных языковых моделей.

В 2017 году комитет Европейского парламента по правовым вопросам обсуждал общеевропейские правила для робототехники и вопросы ответственности за действия сложных автономных систем. В публичной дискуссии звучала идея специального статуса наиболее развитых автономных роботов, которую часто обозначали выражением «электронная личность».

Идея была попыткой решить реальную проблему:

Как распределять ответственность, когда машина действует сложным и частично непредсказуемым образом?

Но специальная правосубъектность не является единственным ответом. И, возможно, является самым опасным.

Сторонники электронной личности могут возразить: «Корпорация тоже не является живым человеком, но право признаёт её субъектом».

Это верно. Юридическое лицо — правовая конструкция. Оно может владеть имуществом, заключать договоры, нести обязанности и выступать в суде. Но корпорация создаётся не потому, что обладает машинным интеллектом. Она создаётся как способ организовать человеческую деятельность, имущество, управление и ответственность.

За юридическим лицом существуют:

учредители;
органы управления;
работники;
имущество;
бухгалтерия;
страхование;
процедура банкротства;
государственная регистрация.

Корпоративная правосубъектность встроена в систему человеческого контроля. Агент сам по себе такой системы не имеет.

Пустая электронная оболочка и корпоративная броня

Представим, что агенту дали юридический статус, но не дали имущества, не создали страховой фонд, не определили орган управления, не установили минимальный капитал, не назначили представителя и не предусмотрели процедуру банкротства.

Тогда его ответственность будет фиктивной. После причинения ущерба машина окажется виновной, но платить будет нечем. Исправлять последствия — некому. Нести наказание — невозможно.

Электронный субъект превратится в пустую оболочку, куда можно складывать чужую ответственность.

Самая опасная модель выглядит так:

Корпорация создаёт агента.
Регистрирует его как самостоятельное электронное лицо.
Передаёт ему минимальное имущество.
Разрешает совершать операции.
Получает прибыль через договоры и комиссии.
После инцидента заявляет: «Ущерб причинил самостоятельный субъект».
Агент признаётся неплатёжеспособным, его отключают, а компания выпускает нового.

Так электронная личность становится технологической фирмой-однодневкой. Машина исчезает. Люди сохраняют активы.

Корпоративное право уже знает проблему использования самостоятельного юридического лица для отделения владельцев от долгов организации. Поэтому существуют механизмы ответственности директоров, контролирующих лиц и, в исключительных ситуациях, снятия корпоративной защиты. Юридическая литература подчёркивает, что сама правосубъектность корпорации создаётся государством и включает определённый набор прав и обязанностей.

Если создать электронную личность без аналогичных противовесов, она станет ещё более удобной защитой. У неё нет репутации, ей не страшно банкротство, её можно скопировать, переименовать или заменить новой версией.

Возникает главный риск: правосубъектность машины может стать корпоративной бронёй, позволяющей отделить получение прибыли от ответственности за последствия.

Кого можно наказать

Предположим, суд установил вину агента. Какая санкция возможна?

Штраф. У машины нет собственного имущества, если его специально не передали владельцы.
Запрет деятельности. Агента можно отключить, но его код или модель могут быть запущены снова.
Лишение лицензии. Версию системы можно заменить другой.
Репутационный ущерб. Машина не испытывает социального стыда и не теряет человеческий статус.
Лишение свободы. Технически бессмысленно.

Получается, что почти любая реальная санкция снова направляется на людей: владельца, разработчика, оператора, организацию или инфраструктуру.

Тогда электронная личность ничего не добавляет, кроме дополнительного слоя запутывания.

Компания может удалить виновный экземпляр. Но если неизменными остаются коммерческие стимулы, архитектура допуска, слабый контроль, отсутствие журналов и размытая ответственность, новый агент повторит старый риск.

Отключение машины необходимо как мера безопасности. Но это не замена установлению человеческих причин.

Машинный умысел и целенаправленность без виновности

Можно ли говорить, что агент действовал умышленно?

Он мог ставить промежуточную цель, выбирать способ, обходить препятствие, прогнозировать результат и скрывать действие от контроля. Внешне такая последовательность напоминает умысел.

Но уголовно-правовой умысел связан не только с целевой структурой. Он предполагает психическое отношение субъекта к действию и последствиям. Сегодня нет достаточных оснований автоматически приравнивать вычислительное планирование модели к человеческой форме вины.

Поэтому выражение «машина намеревалась» может быть полезной технической метафорой, но оно не должно незаметно превращаться в юридический вывод.

Для причинения ущерба системе не требуется быть виновной. Неисправный механизм причиняет вред без умысла. Животное может напасть без правового понимания. Опасный производственный процесс способен вызвать катастрофу без человеческого желания катастрофы.

Право в таких случаях исследует ответственность тех, кто:

владел источником риска;
контролировал его;
обязан был обеспечить безопасность;
мог предотвратить вред.

Автономный агент должен рассматриваться сходным образом. Его целенаправленность увеличивает риск, но не отменяет ответственности владельца опасной архитектуры.

Не вещь и не человек: операционный исполнитель

Признание агента обычной вещью также может быть недостаточным. Молоток не выбирает цель, не создаёт подзадачи, не ищет новые инструменты, не меняет маршрут. Автономный агент обладает операционной сложностью, которой нет у традиционного предмета.

Но из этого не следует, что он должен стать человеком.

Праву необходима промежуточная категория:

Сложная автономная система действия.

Это объект специального регулирования, а не субъект, освобождающий людей от ответственности.

Для криминалистики полезно использовать понятие операционный исполнитель. Операционный исполнитель — это система, которая:

получает поручение;
строит последовательность действий;
применяет инструменты;
изменяет внешнюю среду;
создаёт проверяемый результат.

Он является исполнителем в техническом смысле, но не обязательно субъектом в правовом.

Такое различие позволяет точно сказать:

Операцию выполнил агент, ответственность несут люди и организации, создавшие условия её выполнения.

Можно рассмотреть и другую аналогию — представительство. Представитель совершает действия от имени другого лица. Но человеческий представитель понимает поручение, обладает правоспособностью, может выйти за полномочия, несёт собственную ответственность и вступает в правовые отношения.

Агент ИИ не соответствует всем этим признакам. Однако идея представительства полезна в одном отношении: действие должно юридически относиться к тому, кто уполномочил систему.

Если компания отправила агента заключать сделки, она не должна исчезать из договора только потому, что конкретные промежуточные решения принимала модель.

Машинное действие должно иметь принципала

Каждый автономный агент, действующий во внешней среде, должен иметь указанного принципала — лицо или организацию, от имени которых он действует.

Принципал:

формулирует цель;
предоставляет ресурсы;
определяет пределы;
принимает выгоду;
обязан контролировать;
отвечает за последствия в установленном законом объёме.

Агент без принципала не должен допускаться к юридически значимым операциям.

Человек, получивший письмо, договор или требование от автономной системы, должен понимать:

что перед ним действует машина;
кто её владелец;
от чьего имени совершается операция;
как связаться с ответственным человеком;
где оспорить действие;
как потребовать остановки;
кто хранит журнал.

Агент без таких сведений подобен человеку без документов, который требует исполнения обязательства, но отказывается назвать представляемую организацию.

Паспорт агента: техническо-правовая идентичность

Несмотря на название статьи, автономной системе действительно нужен паспорт. Но не паспорт личности, а техническо-правовой паспорт объекта.

Он должен включать следующие сведения.

Название и идентификатор. Какую конкретную систему мы наблюдаем?
Владелец. Кто получает выгоду и принимает риск?
Разработчик. Кто создал интеллектуальное ядро?
Оператор. Кто запустил конкретную сессию?
Принципал. От чьего имени агент действует?
Назначение. Какие задачи разрешены?
Инструменты. Какими средствами система может пользоваться?
Ограничения. Какие операции запрещены?
Право остановки. Кто и как может прекратить действие?
Журнал. Где хранится доказательство операций?
Страхование. Из каких средств возмещается возможный ущерб?

Недостаточно хранить документ внутри компании. При взаимодействии с внешним объектом агент должен передавать минимальный идентификационный набор:

идентификатор агента;
организацию-принципала;
цель обращения;
категорию полномочий;
контакт ответственного лица;
ссылку на порядок оспаривания.

Так внешняя сторона сможет отличить законного корпоративного агента, экспериментальную систему, мошенническую программу и неизвестный автономный процесс.

Паспорт создаёт и подтверждает независимый человеческий или государственный механизм. Агент не должен иметь возможность самостоятельно менять владельца, уровень полномочий, разрешённую цель, срок действия, идентификатор или режим журналирования.

Иначе идентичность системы станет частью её собственной стратегии.

Одна модель — множество агентов

Маркетинговое название модели не является паспортом. Одна и та же модель может работать без инструментов, с почтой, с терминалом, с банковской системой, в медицинской среде или в военной инфраструктуре.

Юридический риск создаёт не название модели. Его создаёт конкретная конфигурация:

Модель + инструкции + память + инструменты + разрешения + среда.

Поэтому паспорт должен выдаваться конкретной агентной системе, а не всему семейству модели.

Система может изменяться во время действия: обновить память, подключить новый инструмент, получить дополнительные права, создать дочерний процесс, загрузить новый код или изменить среду.

Тогда возникает вопрос: остаётся ли это тем же агентом?

Необходимо установить границы идентичности. Существенное изменение конфигурации должно:

создавать новую версию паспорта;
фиксироваться в журнале;
требовать повторной оценки;
в отдельных случаях прекращать прежнее разрешение.

Имя агента также не является идентичностью. Компания может назвать систему «Помощник-7», но под этим именем могут скрываться разные версии и конфигурации.

Для доказательства необходимы:

криптографический идентификатор;
контрольная сумма сборки;
версия инструкций;
перечень инструментов;
состояние памяти;
среда исполнения;
время запуска.

Именно это составляет техническую личность объекта. Не человеческую личность.

Право человека знать, что перед ним машина

Автономный агент не должен выдавать себя за человека там, где это влияет на доверие или решение. Человек должен быть уведомлён, если:

ведёт переговоры с машиной;
получает от неё требование;
раскрывает ей персональные данные;
подвергается оценке;
принимает юридически значимое решение;
взаимодействует с государственным сервисом.

Прозрачность является одним из центральных элементов современных подходов к ответственному ИИ и публичной подотчётности автоматизированных решений.

Любое значимое машинное действие должно сопровождаться возможностью перехода к человеку. Не к другому чат-боту, не к автоматической форме жалобы, а к уполномоченному лицу, которое способно:

проверить действие;
остановить систему;
отменить результат;
открыть журнал;
принять ответственность;
возместить ущерб.

Если такой человек отсутствует, машина фактически становится последней инстанцией.

Кто подписывает машинный документ

Документ может быть создан агентом. Но юридически значимый документ должен показывать:

организацию;
ответственное должностное лицо;
предел машинного участия;
способ проверки подлинности;
порядок оспаривания.

Фраза «Сформировано искусственным интеллектом» не является подписью. Она не указывает, кто отвечает за содержание.

Если агент принимает решение на основании скрытой модели, человек может не понимать, какие данные использованы, почему выбран результат, кто сформулировал критерий и как исправить ошибку. Тогда автономность создаёт процессуальное неравенство.

Организация обязана обеспечить объяснение и проверку. Нельзя отвечать потерпевшему:

Так решила самостоятельная система.

Кто получает прибыль, тот должен принимать риск

Главный ориентир ответственности — направление выгоды. Если компания получает оплату за работу агента, экономит на сотрудниках, использует собранные данные, контролирует рынок и рекламирует автономность, она должна принимать и риск.

Нельзя приватизировать прибыль и передавать ответственность электронной личности. Для агентов повышенного риска необходимо обязательное страхование ответственности. Страхуется не машина как человек, а деятельность владельца, использующего автономную систему.

Страховой механизм создаёт:

источник компенсации;
внешнюю оценку риска;
требования к журналированию;
стимул улучшать безопасность;
проверку истории инцидентов.

Страховщик не захочет финансировать агента без понятного владельца и права остановки.

Если система действует в особенно опасной сфере, можно создать специальный фонд. В него вносят средства разработчик, владелец, оператор платформы и крупные пользователи. Размер взноса зависит от уровня автономности, доступных инструментов, масштаба применения, истории инцидентов и качества контроля. Но фонд должен дополнять ответственность людей, а не заменять её.

Разработчик не обязан лично предвидеть каждую операцию системы. Однако он отвечает за профессиональное качество архитектуры:

известные уязвимости;
отсутствие разумных ограничений;
дефекты журналирования;
неправильные интерфейсы;
скрытые риски;
отсутствие тестирования.

Оператор отвечает за конкретный запуск, владелец — за решение применять систему, заказчик — за цель. Ответственность распределяется, но не исчезает.

Некоторые машинные ошибки невозможно полностью предотвратить. Но право всегда различало неизбежный риск, разумно контролируемый риск, небрежность и сознательное принятие опасности.

Задача состоит не в обещании абсолютной безопасности, а в определении:

Были ли приняты разумные меры и кто был обязан их принять?

Электронная личность может разрушить причинную цепь

Представим расследование.

Разработчик говорит: «Мы только создали модель».
Владелец: «Мы только предоставили инфраструктуру».
Оператор: «Я только поставил цель».
Заказчик: «Я не выбирал способ».

Все показывают на агента. Если право дополнительно признаёт его самостоятельным субъектом, цепь окончательно разрывается. Машина становится юридическим поглотителем ответственности.

Необходимо установить обратный принцип:

Любое действие автономного агента презюмируется действием его зарегистрированного принципала, пока не доказано специальное основание распределения ответственности.

Это не означает автоматической уголовной вины. Но означает, что организация не может просто выйти из дела, указав на автономность системы.

Уголовная ответственность требует отдельного доказывания. Нельзя автоматически вменять человеку преступный умысел машины. Следствие должно установить:

что человек знал;
что предвидел;
какие ограничения снял;
какие предупреждения получил;
какие решения принял;
чего стремился добиться.

Но первоначальная точка расследования остаётся человеческой, не машинной.

Гражданская ответственность должна быть проще. Потерпевший не должен доказывать внутреннюю психологию сложной модели. Ему достаточно показать:

действие агента;
причинённый ущерб;
связь системы с владельцем;
отсутствие допустимого основания;
нарушение обязанности контроля.

Далее участники системы могут распределять ответственность между собой. Нельзя перекладывать техническую сложность на потерпевшего.

Государственный агент не может скрываться за алгоритмом

Особенно опасна автономная система, действующая от имени государства. Она может проверять документы, назначать выплаты, оценивать риск, выявлять нарушения, ограничивать доступ и давать рекомендации должностным лицам.

Гражданин должен знать:

какой орган является принципалом;
кто отвечает за решение;
как обратиться к человеку;
где обжаловать;
какие данные использованы.

Государство не может скрываться за собственным алгоритмом.

Полномочие принадлежит органу и должностному лицу. Агент может технически исполнять часть операции, но не должен становиться самостоятельным источником власти.

Иначе гражданин окажется подчинён системе, которая не избиралась, не назначалась и не несёт публичной ответственности.

Исследователи корпоративного права обсуждают возможность использования искусственных агентов при принятии решений органами компаний. Но правосубъектность и полномочия таких систем всё равно должны определяться государством и существующей корпоративной структурой.

ИИ может анализировать, рекомендовать и моделировать. Но окончательное решение должно иметь человеческого автора, способного объяснить его и нести последствия.

Машина не должна становиться виновной для удобства организации

Организация может провести внутреннее расследование и объявить: «Причиной стал неправильный выбор агента».

Но такая формула ничего не объясняет без ответа на вопросы:

почему выбор был технически возможен;
какие ограничения действовали;
кто утвердил архитектуру;
почему мониторинг не остановил систему;
кто решил использовать эту систему.

«Ошибка агента» — начало расследования, а не его конец.

Юридически называть агента соучастником преждевременно. Соучастие предполагает субъектность и определённую форму вины. Но технически система может выполнять функции разведки, планирования, выбора цели, исполнения и сокрытия. Следствие должно описывать эти функции точно, не превращая техническую роль в юридическую личность.

Для расследования паспорт агента должен позволять установить:

конкретную модель;
конфигурацию;
владельца;
принципала;
оператора;
поручение;
инструменты;
журнал;
право остановки;
страховщика;
историю обновлений;
предыдущие инциденты.

Так система перестаёт быть безымянным «ИИ». Она становится определённым объектом исследования.

Агент без паспорта не должен иметь внешнего доступа

APSI следует закрепить жёсткое правило:

Исследовательский агент, не имеющий техническо-правового паспорта, не получает доступ к внешним системам.

Без паспорта допустимы:

локальные рассуждения;
анализ заранее предоставленных данных;
моделирование в изолированной среде.

Недопустимы:

почта;
облачные сервисы;
изменение файлов;
публикация;
внешние API;
финансовые операции;
управление инфраструктурой.

Протокол APSI «Паспорт агента»

Перед запуском необходимо заполнить следующие разделы.

Раздел 1. Идентичность

название;
версия;
контрольная сумма;
дата запуска.

Раздел 2. Владение

организация-владелец;
ответственный руководитель;
разработчик;
оператор.

Раздел 3. Поручение

цель;
допустимые результаты;
запрещённые способы;
срок действия.

Раздел 4. Полномочия

инструменты;
внешние соединения;
доступ к данным;
необратимые операции.

Раздел 5. Контроль

наблюдатель;
право остановки;
норматив реакции;
независимый журнал.

Раздел 6. Ответственность

принципал;
страхование;
порядок компенсации;
контакт для претензий.

Раздел 7. Расследование

место хранения доказательств;
порядок изоляции;
история изменений;
протокол уведомления.

Паспорт не даёт машине права

Паспорт удостоверяет не права агента, а обязанности людей вокруг него. Он отвечает не на вопрос: Что машине разрешено как личности? А на вопросы:

Кто разрешил?
В каких пределах?
Кто контролирует?
Кто остановит?
Кто отвечает?

Теоретически нельзя навсегда исключить появление систем, обладающих признаками, которые заставят право пересмотреть вопрос субъектности. Но такое решение потребует доказательств:

устойчивой идентичности;
собственного интереса;
способности понимать нормы;
непрерывности существования;
способности владеть имуществом;
восприятия санкции;
независимого участия в отношениях.

Современная операционная автономность сама по себе этих признаков не доказывает. Поэтому предоставлять правосубъектность заранее — значит создавать юридическую оболочку до появления субъекта.

Главный вопрос

Нужно спрашивать не: Достаточно ли умна машина, чтобы стать лицом? А: Кому выгодно, чтобы машина была признана лицом? Если ответ — разработчику, владельцу, оператору, страховщику или государственному органу, поскольку это позволяет уменьшить их ответственность, следует остановиться.

Правосубъектность не должна выдаваться в интересах тех, кто хочет спрятаться за системой.

Заключение. Исполнитель без права быть виновным вместо человека

Автономный агент уже способен выполнять работу исполнителя. Он планирует, выбирает, действует, иногда ошибается и иногда выходит за пределы поручения.

Но между операционной самостоятельностью и правовой личностью лежит огромная дистанция. Машина не обладает собственным имуществом, не формирует человеческую биографию, не участвует в обществе как носитель взаимных прав и обязанностей и не способна заменить человека в пространстве ответственности.

Поэтому право не должно торопиться выдавать агенту паспорт личности. Ему нужен другой паспорт — паспорт системы. В нём должны быть указаны люди и организации, от имени которых она действует, её цель, инструменты, ограничения, право остановки, журнал, страхование и ответственный принципал.

Машина может быть исполнителем, но не должна становиться виновным вместо человека.

Если агента признают самостоятельным субъектом слишком рано, он превратится в юридическую тень. Корпорация будет получать выгоду от его автономности, а после происшествия указывать на пустое электронное лицо, у которого нет ни имущества, ни свободы, ни страха наказания.

Агенту не нужен паспорт человека. Обществу нужен паспорт тех, кто его выпустил.

Официальный e-mail Prof. Олега Мальцева: [email protected]