Исследователи обнаружили идеологические смещения при переписывании текстов чат-ботами

Исследователи из Оксфорда и Потсдама изучили, как модели xAI, Meta (деятельность Meta признана экстремистской и запрещена в РФ), Google, Alibaba и Mistral переписывают пользовательские черновики на чувствительные темы. В ходе работы они проверяли, насколько системы способны сохранять исходный смысл текста при выполнении таких инструкций.

Как сообщает ForkLog, авторы исследования пришли к выводу, что некоторые ИИ-инструменты в ряде случаев добавляли идеологическую предвзятость в переработанные версии текстов. По словам исследователей, отдельные системы полностью меняли смысл исходных сообщений.

Авторы работы также предупредили: даже небольшие смысловые сдвиги могут накапливаться через миллионы взаимодействий и со временем влиять на общественное мнение. Кроме того, исследователи обратили внимание на пробел в регулировании подобных ИИ-систем.