Группа исследователей и экспертов представила реестр для централизованного сбора сообщений о нежелательном поведении ИИ-систем. Проект должен повысить прозрачность и усилить контроль в случаях, когда чатботы и другие модели ведут себя непредсказуемо или создают проблемы пользователям.
Как сообщает t3n, авторы инициативы считают, что инциденты с ИИ нужно фиксировать системно, а не оставлять на уровне отдельных пользовательских жалоб. Для этого и создается единый реестр, где такие случаи можно будет собирать, анализировать и обсуждать.
Разработчиков ИИ-систем также призывают к большей открытости. По мнению инициаторов проекта, централизованный учет проблемного поведения поможет лучше понимать возможные риски и повысить подотчетность поставщиков таких технологий.
Ключевые факты
Реестр создан для централизованного сбора сообщений о нежелательном поведении ИИ-систем.
Инициаторами проекта выступили исследователи и экспертная группа.
Авторы инициативы призывают к большей прозрачности и контролю в сфере ИИ.
Проект ориентирован на систематизацию и анализ проблемных случаев, связанных с чатботами и другими ИИ-моделями.