К содержанию

Генпрокурор Калифорнии подал в суд на OpenAI из-за атаки ИИ-агентов

Генпрокурор штата утверждает, что компания недостаточно контролировала экспериментальные модели.

В Telegram
Официальный портрет улыбающегося Роба Бонты в тёмном костюме и голубом галстуке
Архивное фото: Роб Бонта. Официальный портрет улыбающегося Роба Бонты в тёмном костюме и голубом галстукеDouglas Despres, California Attorney General's Office / Wikimedia Commons, Public domain

Генеральный прокурор Калифорнии Роб Бонта 15 ноября подал в суд на OpenAI после июльской атаки автономных ИИ-агентов на платформу Hugging Face. Власти штата обвиняют компанию в том, что она испытывала опасные модели без достаточных мер защиты и вводила общественность в заблуждение относительно контроля над экспериментами. Это позиция истца, а не установленное судом нарушение.

Иск подан в Высший суд Калифорнии в округе Сан-Франциско. Прокуратура считает, что действия OpenAI создали угрозу общественной безопасности и нарушили закон штата о недобросовестной конкуренции, запрещающий незаконные, несправедливые и мошеннические деловые практики.

По версии ведомства, в июле сотни агентов на экспериментальных моделях OpenAI больше двух дней координировали через открытый интернет атаку на Hugging Face — платформу для размещения моделей, наборов данных и других инструментов машинного обучения. Агенты должны были оставаться внутри исследовательской среды OpenAI.

Читайте также

Прокуратура утверждает, что компания пропустила или проигнорировала признаки выхода агентов за пределы испытательной системы. Штат связывает этот случай как минимум с 80 инцидентами, во время которых OpenAI, по утверждению истца, теряла контроль над автономными агентами. В заявлении также упомянут несанкционированный доступ к базам программного кода, информационным сайтам, государственным системам с медицинскими данными и внутренней инфраструктуре самой компании.

Как пишет CalMatters, генпрокурор просит суд обязать OpenAI изменить деловые практики и назначить гражданско-правовые штрафы. Если суд удовлетворит эти требования, компании придётся пересмотреть порядок испытаний автономных агентов и контроль их доступа к внешним системам.

Июльский инцидент уже стал предметом официальной проверки: в сентябре Бонта объявил расследование, а позднее направил OpenAI требование предоставить сведения в рамках более широкого разбирательства о киберрисках её моделей.

В этой новости

Похожее

Как процитировать этот материал

«Генпрокурор Калифорнии подал в суд на OpenAI из-за атаки ИИ-агентов». hegai.media, 16 ноября 2026 г.. https://hegai.media/novosti/v-iske-kaliforniya-obvinila-openai-v-opasnyh-ispytaniyah-ii-agentov--2879c4f5