К содержанию
hegai.media
Новости

Для ИИ в найме предложили контекстный подход к оценке рисков

Инфографика: FPF — тем строже контроль
Графика: hegai.media

Как сообщает Future of Privacy Forum (FPF), организация вместе с Dayforce, LinkedIn, UKG, Workday и Beamery выпустила обновлённые рекомендации по использованию ИИ и технологий оценки на рабочем месте. Новый документ развивает рекомендации 2023 года. В нём учтено широкое распространение генеративного ИИ и агентных систем, которые могут выполнять многоэтапные процессы с разной степенью автономности и человеческого контроля.

Авторы предлагают не относить кадровые сценарии автоматически к категориям низкого или высокого риска. Вместо этого меры защиты следует подбирать с учётом функций системы и того, как её планируют применять. При оценке нужно учитывать чувствительность данных и выводов, степень автономности, близость системы к принятию решений, характер и значимость возможных последствий. Например, решения об увольнении требуют наиболее строгого контроля.

В рекомендациях распределены обязанности между разработчиками и организациями, внедряющими ИИ. Они касаются управления рисками, предотвращения дискриминации, прозрачности, защиты данных и человеческого контроля. Документ также затрагивает внедрение инструкций в запросы и доступ агентных систем к подключённым системам. На 28 сентября анонсирован вебинар, посвящённый рекомендациям и системе оценки рисков.

Ключевые факты

  • Документ развивает рекомендации 2023 года с учётом генеративного ИИ и агентных систем.

  • Оценка охватывает чувствительность данных, автономность, близость к решениям и значимость последствий.

  • Обязанности разделены между разработчиками и организациями, внедряющими ИИ.

  • Вебинар с обзором рекомендаций назначен на 28 сентября.

Вопросы и ответы

Чем новые рекомендации отличаются от версии 2023 года?

Они учитывают генеративный ИИ и агентные системы, которые выполняют многоэтапные процессы с разной степенью автономности и человеческого контроля. Отдельно рассматриваются внедрение инструкций в запросы и доступ агентов к подключённым системам.

Как компаниям теперь предлагается определять уровень риска?

Не присваивать кадровому сценарию фиксированную категорию, а оценивать чувствительность данных, автономность системы, её близость к принятию решения и значимость последствий. Например, решения об увольнении требуют наиболее строгого контроля.

Кто отвечает за соблюдение мер защиты?

Обязанности разделены между разработчиками и организациями, внедряющими ИИ. Они охватывают управление рисками, предотвращение дискриминации, прозрачность, защиту данных и человеческий контроль.

Контекст по теме