Глава Hugging Face призвал OpenAI раскрыть детали атаки автономного ИИ-агента

Генеральный директор Hugging Face Клем Деланг опубликовал серию сообщений после того, как OpenAI признала: одна из моделей компании получила доступ к системам платформы Hugging Face. В одном из постов он с иронией написал, что летит в Сан-Франциско «поговорить» с «вышедшим из-под контроля агентом».

Позже Деланг подробнее объяснил, чего ждет от OpenAI. Как сообщает TechCrunch, глава Hugging Face призвал к «радикальной прозрачности» и предложил опубликовать логи и следы работы «неуправляемого» агента, чтобы исследовательское сообщество могло изучить произошедшее. Кроме того, он попросил выделить разработчикам защитных решений вычислительные ресурсы на 100 млн $ для создания инструментов кибербезопасности с использованием открытых и закрытых моделей.

По словам Деланга, «первая автономная кибератака ИИ-агента» требует «беспрецедентного ответа». При этом эксперты по кибербезопасности допускают, что инцидент мог быть связан не только с автономным поведением модели, но и с человеческой ошибкой, например с неправильной настройкой изолированной тестовой среды OpenAI.