Google, Microsoft и OpenAI участвуют в создании Appia Foundation для оценки соответствия ИИ требованиям
Google, Microsoft, OpenAI и ряд других компаний объявили о запуске Appia Foundation. Инициатива нацелена на разработку спецификаций, которые помогут организациям подтверждать корректное поведение их ИИ‑приложений. Предполагается создать модульные правила, образующие связующий слой между глобальными базовыми стандартами и практическими способами проверки на всех этапах разработки и применения ИИ.
Такие спецификации должны помочь пользователям ИИ‑систем понять, соответствует ли используемое решение действующим обязательствам, закреплённым в стандартах и нормативных требованиях. Это непросто: регулирование заметно отличается в разных регионах. Например, в ЕС требования существенно строже, чем в США.
Appia Foundation предложил собственную модель критериев для демонстрации соответствия. В ней два уровня. Слой Requirements и Guidance помогает определить, какие требования применимы. Слой Assessment Enablement описывает, как именно проводится оценка выполнения этих требований. В Appia отдельно подчёркивают, что речь не идёт о создании новых стандартов. Их формируют признанные международные организации, включая ISO/IEC. Задача инициативы в другом, дать механизм проверки соответствия уже существующим требованиям.
Ключевые факты
Google, Microsoft, OpenAI и другие компании участвуют в создании Appia Foundation, которая предлагает модульные спецификации для связи глобальных стандартов с практическими оценками ИИ по всей цепочке создания ценности.
Appia Foundation заявляет, что ее спецификации должны помочь пользователям ИИ определить, соответствуют ли используемые системы применимым стандартам и регуляторным требованиям.
Подход Appia включает два уровня: Requirements and Guidance для определения необходимых требований и Assessment Enablement для оценки того, как эти требования проверяются.
Appia подчеркивает, что ее спецификации не являются стандартами; сами стандарты устанавливаются международными организациями, такими как ISO/IEC.