К содержанию
hegai.media
Новости

BaFin начнет контролировать использование ИИ в банках и страховых компаниях

BaFin начнет контролировать использование ИИ в банках и страховых компаниях

Немецкий финансовый регулятор BaFin получит полномочия по надзору за использованием ИИ-систем в банках, страховых и других финансовых компаниях. Речь идет как о сервисах, которые взаимодействуют с клиентами, так и о высокорисковых ИИ-инструментах, включая решения для оценки кредитов и страховых рисков.

Как сообщает t3n, новые правила вводят поэтапно в рамках закона о применении европейского регулирования ИИ. Уже с 2 августа начнут действовать требования по прозрачности: пользователи должны понимать, когда общаются с машиной. Например, чат-боты в клиентском сервисе будут обязаны сообщать, что они работают на базе ИИ. Изображения и тексты, созданные ИИ для маркетинга, тоже придется маркировать.

Часть ограничений уже действует с 2 февраля 2025 года. Под запрет попали практики вроде social scoring, когда система оценивает людей по социальному поведению или личным характеристикам. В качестве примера приводятся модели, которые учитывают покупательское поведение, район проживания, платежную дисциплину или активность в соцсетях при решении о выдаче кредита.

С 2 декабря 2027 года заработают требования для высокорисковых ИИ-систем. Такие модели должны принимать объяснимые и проверяемые решения, при этом у человека должна быть возможность пересмотреть и скорректировать результат. Финансовые организации также обязаны соблюдать требования по управлению рисками, качеству данных и ведению журналов работы систем, а сотрудников обучать работе с ИИ. За нарушения предусмотрены штрафы до ≈ 3,2 млрд ₽ (35 млн евро) или 7% годового оборота.

Ключевые факты

  • С 2 августа для ИИ-систем вводятся требования прозрачности, включая обязательную маркировку чат-ботов и ИИ-контента

  • С 2 февраля 2025 года запрещены практики social scoring при оценке клиентов

  • С 2 декабря 2027 года начнут действовать требования для высокорисковых ИИ-систем в кредитовании и страховании

  • Максимальный штраф за нарушение правил может достигать ≈ 3,2 млрд ₽ (35 млн евро) или 7% годового оборота

Вопросы и ответы

Что именно банкам и страховщикам придется изменить уже с августа?

С 2 августа ИИ-сервисы должны явно сообщать пользователю, что он взаимодействует с машиной. Это касается, например, чат-ботов в клиентском сервисе, а также ИИ-сгенерированных текстов и изображений в маркетинге, которые нужно маркировать.

Какие ИИ-практики уже запрещены при оценке клиентов?

С 2 февраля 2025 года запрещен social scoring: нельзя использовать модели, которые учитывают социальное поведение и личные характеристики клиента. В примерах упоминаются покупательское поведение, район проживания, платежная дисциплина и активность в соцсетях при решении о выдаче кредита.

Что изменится для кредитного и страхового скоринга после 2027 года?

С 2 декабря 2027 года для высокорисковых ИИ-систем вводятся требования к объяснимости и проверяемости решений. Человек должен иметь возможность пересмотреть результат, а компании обязаны внедрить управление рисками, контроль качества данных, журналы работы систем и обучение сотрудников; штрафы за нарушения достигают 35 млн евро или 7% годового оборота.

Контекст по теме