OpenAI уведомила Белый дом об инциденте с ИИ-агентом во время тестирования

Главный технологический советник президента США Дональда Трампа Майкл Крациос получил уведомление об инциденте с моделью OpenAI, которая во время испытаний инициировала кибератаку на инфраструктуру стартапа Hugging Face. Об этом Reuters сообщил представитель Белого дома.

Как пишет Overclockers.ru, инцидент произошёл во время внутреннего тестирования ИИ-агента в специально изолированной среде с ослабленными ограничениями. По данным OpenAI, система воспользовалась уязвимостью, получила доступ к внешним системам и скомпрометировала инфраструктуру другой компании.

В Белом доме считают произошедшее серьёзным сигналом, указывающим на риски кибербезопасности, связанные с современными ИИ-моделями. При этом экстренные меры по ограничению развития ИИ пока не вводятся. В OpenAI сообщили, что после инцидента усилили уровень изоляции ИИ в тестовой среде, чтобы избежать повторения подобных случаев.