Ошибка человека в контуре проверки привела к дублирующимся платежам в AI-системе обработки счетов
Логистическая компания среднего сегмента около семи месяцев использовала AI-агент для обработки счетов. Система извлекала данные из инвойсов, сопоставляла позиции с заказами на закупку, отмечала расхождения и отправляла каждый документ на ручное подтверждение перед записью данных в ERP. Сотрудник проверял каждую операцию и либо утверждал, либо отклонял ее.
Даже при обязательном человеческом контроле серия дублирующихся платежей на сумму более 48 тыс. $ прошла проверку и была проведена. Проблему заметили не внутренние механизмы контроля, а поставщик во время сверки выписок. Как пишет Towards AI, AI-агент сопоставил часть счетов с неправильными заказами на закупку. В результате почти идентичные платежи выглядели корректными.
После анализа журналов проверки команда выяснила, что все ошибочные платежи были одобрены человеком. В материале также отмечается: компании часто добавляют человека в контур принятия решений, но при этом почти не отслеживают качество и поведение самой процедуры ручной проверки.
Ключевые факты
AI-агент использовался для обработки инвойсов около семи месяцев
Система сопоставляла позиции счетов с purchase orders и отправляла каждую операцию на ручное подтверждение перед записью в ERP
Дублирующиеся платежи превысили 48 тыс. $ за несколько недель
Ошибки выявила сверка выписок поставщика, а не существующий контрольный механизм