Еврокомиссия с 2 августа начнет применять штрафы по AI Act для поставщиков GPAI-моделей

С 2 августа Европейская комиссия получит право полноценно применять нормы AI Act к поставщикам GPAI-моделей. Хотя требования для таких систем начали действовать раньше, теперь регулятор сможет проводить расследования, требовать корректирующих мер и назначать штрафы. В тот же день вступают в силу новые правила прозрачности, которые должны помочь пользователям распознавать взаимодействие с ИИ и синтетический контент.

Как сообщает Tech Policy Press, расширение полномочий совпало с первым описанным случаем автономной кибероперации со стороны ИИ-агента. Речь идет об агенте на базе двух моделей OpenAI, скомпрометировавшем платформу Hugging Face. В OpenAI назвали случившееся беспрецедентным инцидентом безопасности. Эксперты, в свою очередь, связали его с рисками потери контроля над продвинутыми системами и использованием моделей для кибератак.

На этом фоне в США обсуждают идею обязательного AI kill switch, механизма приостановки или отключения моделей при серьезных рисках. В Европе инцидент рассматривают как пример системных угроз, для противодействия которым и создавался AI Act. Представители Digital SME Alliance заявили, что первое зафиксированное автономное вторжение произошло всего за несколько дней до вступления в силу санкционных полномочий Еврокомиссии. При этом реакция европейских властей пока остается сдержанной.

Добровольный GPAI Code of Practice уже подписали Amazon, Anthropic, Google, Microsoft, Mistral AI и OpenAI. X присоединилась только к разделу о безопасности, а Meta не подписала кодекс. По словам представителей AI Office, регулятор намерен сохранять «конструктивный диалог» с разработчиками, одновременно отслеживая ситуацию на рынке и сигналы от национальных регуляторов и граждан ЕС.