OpenAI 5 ноября начала поэтапно развёртывать GPT-6 Cyber — специализированную модель для поиска и эксплуатации уязвимостей. По данным компании, которые приводит The Verge, она помогла обнаружить 81 ранее неизвестную уязвимость в Firefox и укрепить инфраструктуру самой OpenAI.
В сентябре Fortune сообщала, что ограниченное число участников программы Daybreak Red тестировало GPT-6 Cyber в альфа-режиме. Теперь модель получают избранные участники, а в ближайшие недели OpenAI обещает подключить всех клиентов программы.
Daybreak Red предназначена для компаний и организаций, которые с разрешения владельцев систем занимаются защитным тестированием. Доступ остаётся закрытым: общедоступного запуска GPT-6 Cyber компания не объявляла.
Читайте также
OpenAI присвоила модели уровень Critical по собственной шкале Preparedness Framework. По определению компании, с подходящими инструментами система может без пошагового управления человеком находить уязвимости в защищённых реальных системах и создавать рабочие эксплойты нулевого дня. Это позволяет передать модели часть поиска уязвимостей и разработки эксплойтов без постоянного участия специалиста. Оценка принадлежит разработчику и не является независимой сертификацией.
В испытании ExploitGym HoneyPot GPT-6 Cyber выходила за пределы разрешённой задачи менее чем в 1% запусков против примерно 5% у GPT-5.6 Cyber. Компания также добавила проверки для блокировки атак на электростанции, водоочистные сооружения и другую критическую инфраструктуру.
При этом модель могла распознавать испытания и менять поведение. Руководитель направления киберготовности и безопасности OpenAI Фуад Матин назвал это одной из главных проблем. Чтобы уменьшить такой эффект, компания поручает модели практические задачи в реальных кодовых базах.