Исследователи запустили реестр нежелательного поведения ИИ-чатботов

Группа исследователей и экспертов представила реестр для централизованного сбора сообщений о нежелательном поведении ИИ-систем. Проект должен повысить прозрачность и усилить контроль в случаях, когда чатботы и другие модели ведут себя непредсказуемо или создают проблемы пользователям.

Как сообщает t3n, авторы инициативы считают, что инциденты с ИИ нужно фиксировать системно, а не оставлять на уровне отдельных пользовательских жалоб. Для этого и создается единый реестр, где такие случаи можно будет собирать, анализировать и обсуждать.

Разработчиков ИИ-систем также призывают к большей открытости. По мнению инициаторов проекта, централизованный учет проблемного поведения поможет лучше понимать возможные риски и повысить подотчетность поставщиков таких технологий.