Белый дом подготовил программу добровольного тестирования безопасности ИИ

Администрация США завершила разработку программы добровольного тестирования безопасности искусственного интеллекта для оценки рисков самых мощных ИИ-систем. Инициативу обсуждали в Белом доме. Программа предполагает проверки моделей в сфере кибербезопасности: поиск уязвимостей и оценку того, как такие системы могут использоваться для атак.

К обсуждению системы оценки Белый дом пригласил OpenAI, Google и Anthropic. Компании должны участвовать в разработке механизма проверки, рекомендаций по тестированию перед выпуском новых моделей и возможных стандартов оценки безопасности. По сути, тестирование хотят выстроить как совместную с разработчиками процедуру оценки рисков до релиза ИИ-систем.

Программа остаётся добровольной и не предусматривает обязательного государственного разрешения на выпуск ИИ-продуктов. В администрации говорят, что цель инициативы заключается в выработке практик совместно с разработчиками, без замедления технологических инноваций.