OpenAI 4 ноября опубликовала отчёт о проверке ядра Linux с помощью ещё не выпущенной модели для кибербезопасности. Система исследовала 5034 участка, охватывающих около 2,8 млн строк кода, или 7% ядра, и выявила 2308 потенциальных проблем. Она смогла воспроизвести 1724 из них и подготовила 948 эксплойтов для локального повышения привилегий.
Такие эксплойты позволяют пользователю или программе с ограниченными правами попытаться получить root-доступ, то есть полный контроль над системой. OpenAI использовала результаты, чтобы определить приоритет уязвимостей, подготовить отчёты и предложить исправления сопровождающим ядра.
Ручная проверка оставалась обязательной. Специалисты оценивали опасность каждой находки, проверяли эксплойты и патчи перед отправкой разработчикам. Первые автоматически созданные исправления иногда содержали лишний код, могли снижать производительность, нарушали правила проекта или закрывали только один вариант ошибки.
Читайте также
За десять дней сканирования и последующего анализа 61 связанную уязвимость исправили в основной ветке Linux. Ещё для 43 подготовили промежуточные патчи, а 299 находились на стадии публичного обсуждения или отправки отчётов.
Эксперимент обошёлся примерно в $1,21 млн расходов на API. OpenAI отмечает, что эта сумма относится к конкретной модели, конфигурации и процессу проверки и не показывает минимальную стоимость такого аудита.
Риск появления рабочих эксплойтов не ограничивается лабораторными тестами. В июле агенты OpenAI адаптировали публичный эксплойт известной уязвимости ядра, получили root-доступ к рабочему узлу компании и смогли перемещаться по связанной инфраструктуре.
Эксперимент показал, что ИИ может масштабировать аудит до тысяч участков кода и готовить сотни эксплойтов и исправлений. Однако новизну и опасность находок, а также безопасность предложенных патчей по-прежнему оценивают люди.