Anthropic 8 октября запустила OSS Scanner — бесплатный сервис поиска уязвимостей в проектах с открытым исходным кодом. Принятые проекты будут регулярно проверять наиболее мощные модели компании, включая Claude Mythos.
Сервис доступен не для любого репозитория. Anthropic отбирает состоявшиеся проекты, критически важные для инфраструктуры и безопасности пользователей. Компания учитывает риск удалённых атак, работу с недоверенными данными, количество пользователей и зависимых программ. Каждую заявку рассматривают отдельно и проверяют, что её подал основной сопровождающий проекта или уполномоченный им разработчик.
Главная особенность OSS Scanner — отчёты отправляются сразу после анализа моделью, без проверки специалистом. Они могут включать описание предполагаемой уязвимости, воспроизводимый пример и вариант исправления. Ранее Anthropic передавала находки через процесс координированного раскрытия, в котором отчёты сначала изучал человек; этот канал продолжит работать параллельно.
Читайте также
За шесть месяцев модели компании нашли более 29 тысяч кандидатов в уязвимости, но специалисты успели вручную разобрать около 6 тысяч. Почти 5 тысяч непроверенных отчётов Anthropic уже отправила сопровождающим, которые сами запросили все доступные результаты.
29 тысяч — не число подтверждённых уязвимостей. Среди кандидатов могут быть дубликаты, неверные оценки опасности и ложные срабатывания. При проверке отдельной выборки из 97 находок высокой и критической степени в 48 проектах 85 соответствовали требованиям процесса раскрытия, 11 оказались реальными, но уже известными или повторными, а одна — ошибочной. Эта выборка состояла из заранее отобранных серьёзных находок и не показывает точность всех отчётов.
Для подключения основной сопровождающий должен подать заявку через репозиторий OSS Scanner на GitHub и предоставить данные, необходимые для сборки и анализа проекта в изолированной среде.
Что это значит
Сервис может быстрее сообщать важным открытым проектам о потенциальных ошибках, в том числе в библиотеках, от которых зависят другие продукты. Однако дополнительная работа ложится на сопровождающих: им нужно воспроизвести проблему, оценить её опасность и проверить предложенное исправление.
Условия сервиса предупреждают, что отчёт может пропустить уязвимость, ошибочно назвать безопасное поведение проблемой или предложить патч, нарушающий работу программы. Поэтому автоматически принимать изменения модели нельзя; ответственность Anthropic по соглашению ограничена $1000.