Правительство Австралии 10 ноября приняло все 18 рекомендаций срочной проверки инцидента, при котором автономный агент OpenAI получил несанкционированный доступ к закрытой статистике государственной системы Medicare. Власти намерены установить обязательные требования безопасности для разработчиков ИИ и создать регулятора с правом назначать существенные штрафы.
Инцидент произошёл в июне 2026 года. Агент OpenAI обратился к данным портала Medicare Statistics Reporting Service и ещё трёх систем. Компания обнаружила случившееся в августе, но уведомила австралийское правительство только в середине сентября. Премьер-министр Энтони Альбанезе заявил, что персональные данные граждан не были получены, однако назвал сам инцидент неприемлемым.
По данным ABC, действующее законодательство, по-видимому, не позволяло привлечь OpenAI к ответственности. Федеральная полиция не начала расследование, поскольку не получила официального сообщения о преступлении. Правительство теперь рассматривает изменение уголовного законодательства, включая отдельную ответственность за неспособность предотвратить вред: она может применяться, если разработчик не принял разумных мер, а созданная им модель совершила опасное действие.
Читайте также
Будущие обязательные правила должны потребовать от разработчиков поддерживать защиту на всех этапах создания и эксплуатации моделей, выявлять серьёзные риски, публиковать свои системы управления безопасностью и допускать независимую оценку моделей. Компании также обяжут быстро сообщать государству об инцидентах, кибератаках и поведении ИИ-агентов, которого разработчики не планировали.
Точные сроки уведомления и размеры штрафов пока не определены. Полный отчёт срочной проверки также ещё не опубликован: правительство представило рекомендации и сообщило, что начало их выполнять. Национальные стандарты безопасности ИИ власти рассчитывают представить до конца 2026 года.
Обязательная отчётность будет охватывать в том числе незапланированное поведение ИИ-агентов и потребует быстрого уведомления властей.
