OpenAI и Trail of Bits начали проверять ИИ-отчёты об уязвимостях в open-source проектах
OpenAI вместе с Trail of Bits запустили инициативу по проверке отчётов об уязвимостях, которые сгенерированы при помощи ИИ в open-source проектах. Специалисты просматривают такие сообщения и передают разработчикам только те угрозы, которые действительно удалось подтвердить.
Как сообщает Overclockers.ru, для верификации тоже используется ИИ. Сначала полученные отчёты проходят дополнительную проверку, затем подтверждённые проблемы отправляют командам соответствующих проектов, чтобы их можно было устранить.
За первую неделю работы инициатива позволила обнаружить сотни ошибок и 51 проблему. Из них 19 уже исправлены.
Ключевые факты
OpenAI и Trail of Bits запустили проверку отчётов об уязвимостях, сгенерированных ИИ, в open-source проектах.
Специалисты верифицируют данные и передают разработчикам только подтверждённые угрозы.
За неделю обнаружены сотни ошибок и 51 проблема.
Из выявленных проблем 19 уже исправлены.