Исследователи из Оксфорда и Потсдама изучили, как модели xAI, Meta*, Google, Alibaba и Mistral переписывают пользовательские черновики на чувствительные темы. В ходе работы они проверяли, насколько системы способны сохранять исходный смысл текста при выполнении таких инструкций.
Как сообщает ForkLog, авторы исследования пришли к выводу, что некоторые ИИ-инструменты в ряде случаев добавляли идеологическую предвзятость в переработанные версии текстов. По словам исследователей, отдельные системы полностью меняли смысл исходных сообщений.
Авторы работы также предупредили: даже небольшие смысловые сдвиги могут накапливаться через миллионы взаимодействий и со временем влиять на общественное мнение. Кроме того, исследователи обратили внимание на пробел в регулировании подобных ИИ-систем.
Ключевые факты
Исследование провели специалисты из Оксфорда и Потсдама
В работе проверяли модели xAI, Meta, Google, Alibaba и Mistral
Исследователи изучали поведение моделей при переписывании пользовательских черновиков на чувствительные темы
Авторы исследования указали на пробел в регулировании ИИ-систем