К содержанию

Разбор

Кто заплатит за ошибку ИИ-агента при переводе денег

Банки уже перекладывают риск на клиентов, поэтому исход спора определят договор, пределы доступа, подтверждение операции и журнал действий агента.

В Telegram
Рука удерживает кобальтовый шнур карты «АГЕНТ» перед платёжным терминалом с лентой «ЖУРНАЛ».
Рука удерживает связанную с ИИ-агентом карту доступа перед платёжным терминалом, а бумажная лента обозначает журнал операции.

ИИ-агент может получить доступ к банковскому кабинету, самостоятельно выбрать покупку и отправить платёж. Но если он ошибётся с получателем или суммой, универсального правила о виновнике пока нет: убыток распределят по договору, выданным полномочиям и доступным доказательствам.

В ноябре этот вопрос перестал быть только предметом исследований. Citi обновил пользовательское соглашение и возложил на клиента ответственность за действия подключённого стороннего ИИ-агента. TechCrunch сообщил о похожих правилах JPMorgan, Bank of America, PNC и Citizens. Одновременно Microsoft начала развёртывать корпоративного Autopilot, который может работать без новой команды перед каждым шагом.

Это два встречных движения. Платформы дают агентам самостоятельность, а банки заранее определяют, кто заплатит за её последствия. Для пользователя и компании практический вопрос теперь звучит не только как «насколько умна модель», но и как «чьи полномочия она использовала и можно ли доказать границы поручения».

Читайте также

Почему ответственность нельзя возложить на одного участника

В агентской операции участвуют по меньшей мере пять сторон. Пользователь ставит задачу. Администратор или сама платформа выдаёт доступ. Модель выбирает последовательность действий. Подключённый инструмент обращается к магазину или банку. Платёжная система проверяет реквизиты, ограничения и признаки мошенничества.

Ошибка может возникнуть в любой части этой цепочки. Пользователь мог дать слишком широкое поручение; администратор — разрешить перевод вместо одного лишь чтения счёта; агент — неверно понять условие; платформа — пропустить действие за пределами задачи; банк — исполнить распоряжение, прошедшее согласованную процедуру авторизации.

Поэтому отдельная учётная запись агента необходима, но сама по себе не решает спор. Она отвечает на вопрос, какая программа совершила действие, однако ещё не доказывает, что человек разрешил именно этот перевод, этому получателю и на такую сумму.

Американский NIST, Национальный институт стандартов и технологий, предлагает связывать агента с инициатором задачи, ограничивать полномочия необходимым минимумом и выдавать доступ только на время выполнения. Для чувствительных действий система должна уметь остановить процесс и запросить решение человека.

Это важно не только для предотвращения ошибки. Если агент действует под обычным логином владельца, журнал банка может не отличить автономную операцию от действия самого клиента. Отдельный идентификатор, напротив, позволяет показать, что перевод инициировала программа, кто разрешил ей доступ и какие ограничения действовали в тот момент.

Как поручение превращается в платёж

У безопасной схемы есть несколько последовательных рубежей.

Сначала человек формулирует задачу и её границы: например, найти билет дешевле установленной суммы, но не покупать его без подтверждения. Затем агент получает отдельный идентификатор и доступ только к нужным инструментам. При обращении к платёжному сервису система заново проверяет сумму, продавца, срок действия разрешения и необходимость согласия пользователя.

Последний рубеж — журнал. Он должен связывать исходное поручение, идентификатор агента, выданные права, вызванный инструмент, ответ банка и подтверждение человека. Пароли и полные платёжные реквизиты в таком журнале хранить не следует.

Именно такую архитектуру постепенно описывают крупнейшие платформы. Представленный 2 июня Microsoft Scout получил собственную управляемую идентичность Entra, ограниченные учётные данные и возможность запрашивать подтверждение чувствительных действий. Это был экспериментальный выпуск, а не сегодняшний анонс.

Новый этап наступил 17 ноября: Microsoft начала развёртывать Autopilot среди клиентов программы Frontier. У агента есть собственный Entra Agent ID, назначенный руководитель и отдельный журнал входов и действий; ИТ-служба может сузить доступ или полностью заблокировать его.

В платёжной схеме Visa и OpenAI предусмотрены токенизированные реквизиты, лимиты расходов, ограничения по категориям продавцов и пороги обязательного подтверждения. Эти меры не гарантируют, что агент никогда не ошибётся, но позволяют технически отделить поиск товара от согласия заплатить.

Что показывают исследования и договоры

Научный обзор архитектур авторизации охватил 89 работ из примерно 180 публикаций 2023–2026 годов. Авторы разделили защиту на пять связанных уровней: идентификацию агента, передачу полномочий, проверку прав во время выполнения, защиту от скрытых инструкций и аудит.

Главный пробел возникает в момент вызова внешнего инструмента. Агент может иметь действительный токен, но использовать его для операции, которой человек не поручал. Дополнительную опасность создают цепочки вспомогательных агентов: каждый получает часть доступа, а их совокупные полномочия могут оказаться шире первоначального разрешения.

ПроверкаЧто она устанавливаетЧего не доказывает сама по себе
Отдельный идентификаторКакая программа действовалаЧто человек одобрил конкретную операцию
Минимальные праваК каким данным и функциям есть доступЧто агент правильно понял задачу
Лимит и список продавцовДопустимый диапазон платежейЧто выбранный товар подходит пользователю
Подтверждение человекомСогласие на показанное действиеЧто интерфейс раскрыл все условия покупки
ЖурналПоследовательность команд и проверокКто юридически обязан возместить убыток

Юристы Goodwin отмечают, что американское право уже содержит правила, способные работать против клиента. Если потребитель сам передал агенту учётные данные, перевод может считаться разрешённым, даже когда программа вышла за предполагаемые границы поручения. Для коммерческого перевода заранее согласованная с банком процедура безопасности также может сделать распоряжение обязательным для клиента, если банк добросовестно её выполнил.

При этом соблюдение требований Visa или Mastercard не освобождает платформу от претензий пользователя. Если сервис нарушил собственный договор или позволил агенту превысить делегированные полномочия, спор между клиентом и оператором всё равно придётся разбирать отдельно.

Кто выигрывает и кто платит

Банкам выгодно заранее считать действия подключённого агента действиями клиента. Это уменьшает неопределённость при споре о платеже, прошедшем с действительными реквизитами. Новые условия Citi идут дальше обычного предупреждения: ответственность клиента может сохраниться и тогда, когда сторонний инструмент раскрыл данные или был взломан.

Платёжные сети получают новый поток операций, но требуют от платформ подтверждать инструкцию пользователя, соблюдать пределы делегирования и сохранять сведения о транзакции. Разработчикам агентских сервисов приходится выбирать между удобством и контролем: частые подтверждения мешают автоматизации, а редкие увеличивают риск спорных платежей.

Оператор базовой модели обычно находится дальше всего от конкретного перевода. Сам факт использования его нейросети ещё не означает автоматической обязанности покрыть ущерб. Но платформа, которая дала модели доступ к счёту и исполнила выбранное ею действие, уже не может полагаться только на обещание, что модель будет вести себя правильно.

Пользователь выигрывает там, где полномочия прозрачны и обратимы. Например, финансовый инструмент Anthropic, упомянутый TechCrunch, работает только на чтение и не может перемещать или инвестировать деньги. Такая архитектура сокращает возможности агента, зато исключает целый класс финансовых ошибок.

Цена защиты для компаний — реестр агентов, назначенные владельцы, отдельные учётные записи и постоянный аудит. Зато скомпрометированного агента можно отключить, не меняя пароль сотрудника и не закрывая ему доступ ко всем рабочим системам.

Что это меняет для пользователей и компаний в России

Условия Citi и нормы американского права нельзя автоматически переносить на российские банки или суды. Однако техническая проблема не зависит от страны: если агент действует под логином человека, использует постоянный пароль и не оставляет отдельного журнала, доказать пределы делегирования будет трудно.

Перед подключением агента к российскому банку, маркетплейсу или корпоративной системе стоит проверить договор: разрешена ли передача доступа стороннему сервису, какие действия считаются распоряжениями клиента и как немедленно отозвать полномочия. Отсутствие прямого запрета ещё не означает, что банк возьмёт на себя последствия ошибочной операции.

Для корпоративного агента минимальная конфигурация выглядит так: собственная служебная учётная запись, доступ только к необходимым функциям, ограничение суммы и получателей, подтверждение необратимых действий, короткоживущие ключи и журнал, связывающий операцию с человеком и программой. Агенту для сверки счетов не требуется право переводить деньги, а агенту с установленным лимитом нельзя разрешать самостоятельно его повышать.

При подключении агента безопаснее исходить из того, что передача ему действующих реквизитов может заметно ослабить позицию клиента в споре, а окончательный результат будет зависеть от договора, обстоятельств операции и применимого права.

За полгода агенты дошли от почты до банковских договоров
  1. Microsoft представила Scout с собственной управляемой учётной записью
  2. Visa и OpenAI анонсировали сотрудничество и планируемую интеграцию платёжных возможностей Visa в продукты OpenAI
  3. NIST опубликовал десять принципов управления учётными записями агентов
  4. Банки обновили условия, а Microsoft показала Autopilot с журналом действийсейчас
Ответственность можно восстановить только по всей цепочке
  1. Пользовательзадаёт цель и пределы поручения
  2. Администраторназначает агенту отдельную учётную запись и права
  3. Агентвыбирает действие и обращается к инструменту
  4. Банк или сервиспроверяет полномочия, лимиты и подтверждение
  5. Журналсвязывает поручение, исполнителя и результат операции

Если агент работает под учётной записью человека, доказать границы делегирования сложнее.

Вопросы и ответы

Кто отвечает, если ИИ-агент перевёл деньги не тому получателю?

Автоматического ответа нет. Банк проверит способ авторизации и условия договора, а в споре с платформой будут важны границы поручения, работа ограничений и журнал действий. В зависимости от этих доказательств убыток может остаться у клиента либо стать предметом претензии к оператору сервиса.

Можно ли оспорить ошибочный платёж агента?

Можно попытаться, но результат зависит от страны, типа счёта, договора и доказательств. В США добровольная передача агенту учётных данных способна сделать перевод разрешённым даже при выходе программы за предполагаемые границы задачи.

Зачем агенту отдельная учётная запись?

Она позволяет отличить действия программы от действий человека, отдельно ограничить и отозвать доступ, а также сохранить проверяемый след операции. Общий логин затрудняет установление того, кто именно инициировал перевод.

Достаточно ли установить расходный лимит?

Нет. Лимит ограничивает максимальный ущерб, но не подтверждает правильность получателя, товара или условий сделки. Его нужно сочетать со списком разрешённых действий, коротким сроком доступа, подтверждением чувствительных операций и журналом.

Какие действия обязательно подтверждать человеку?

Прежде всего необратимые или финансово значимые: перевод денег, покупку, смену реквизитов, расширение прав и отправку конфиденциальных данных. Порог может зависеть от суммы и риска, но агент не должен иметь возможность самостоятельно снять установленное ограничение.

Можно ли просто передать агенту пароль от банка?

Это наиболее рискованный вариант. Банк может увидеть операцию как действие владельца учётной записи, а отдельного доказательства работы агента не останется. Предпочтительнее ограниченный токен или специальная интеграция с отдельным идентификатором и возможностью немедленного отзыва.

Действуют ли условия Citi для российских клиентов других банков?

Нет. Это соглашение конкретного американского банка, а приведённый юридический анализ относится к праву США. Для российского счёта нужно отдельно изучать договор банка и применимое российское право.

Как процитировать этот материал

«Кто заплатит за ошибку ИИ-агента при переводе денег». hegai.media, 19 ноября 2026 г.. https://hegai.media/novosti/kto-zaplatit-za-oshibku-ii-agenta-pri-perevode-deneg--a3e9ef28