Эксперты призвали Еврокомиссию жестче применять правила EU AI Act для моделей с системным риском

Коалиция исследователей ИИ, общественных организаций и независимых экспертов направила открытое письмо председателю Еврокомиссии Урсуле фон дер Ляйен и исполнительному вице-президенту Henna Virkkunen. Авторы призвали активнее применять положения EU AI Act в отношении general-purpose AI-моделей с системным риском. Среди подписантов письма, Yoshua Bengio и Stuart Russell. Также они поддержали подготовку Еврокомиссии к запуску режима enforcement, который должен вступить в силу 2 августа 2026 года.

Как сообщает The EU AI Act Newsletter, авторы письма считают, что системные риски ИИ уже начинают проявляться, а развитие технологий делает надзор все более срочным. В качестве примеров они упомянули широко обсуждавшиеся offensive-возможности модели Mythos от Anthropic, а также приближение критических порогов в биологии и рисков потери контроля. Подписанты призвали Еврокомиссию использовать полномочия по статьям 91, 92, 93 и 101 AI Act, расширить роль Network of Evaluators при AI Office для проведения внешних оценок и обеспечить ведомству достаточные ресурсы вместе с политической поддержкой.

Параллельно Еврокомиссия представила план по управлению рисками и возможностями advanced AI в сфере кибербезопасности. Документ предусматривает создание общеевропейских возможностей для оценки ИИ, разработку совместно с ENISA схемы структурированного доступа к advanced-моделям, а также запуск защищенной платформы тестирования кибербезопасности вместе с Joint Research Centre. Отдельный акцент сделан на усилении cyber hygiene, использовании ИИ для устранения уязвимостей и продолжении инвестиций через AI Factories, Gigafactories и EU Grand Challenge по ИИ для кибербезопасности.