Двуязычие как инструмент проверки ИИ: урок из работы с Google Gemini
Во время подготовки лекции о визуальной культуре Global South автор заметил странную вещь при работе с системой Google Gemini. Он сопоставлял одно и то же историческое событие в англоязычных и китайскоязычных наборах данных. На английском модель отвечала уверенно и звучала почти академически, но при этом придумывала ссылки на источники. В китайской версии вымышленные цитаты исчезали, однако вместе с ними пропадал и глобальный контекст. Его место занимала более замкнутая интерпретация того же события.
Проблему усугубляло другое поведение системы. Китайский контент иногда сопровождался ссылками, оформленными на английском языке. Такая смесь легко производит впечатление достоверности и усложняет проверку. Пользователь видит привычный формат академических ссылок, хотя сами утверждения могут быть неточными.
Этот опыт показывает, что сравнение ответов на разных языках помогает замечать системные искажения и ошибки генеративных моделей. Как пишет South China Morning Post, способность свободно работать и с английским, и с китайским становится важным инструментом проверки ИИ контента. Благодаря этому легче увидеть расхождения между языковыми версиями данных и интерпретаций.
Ключевые факты
Автор заметил «двойную галлюцинацию» в ответах Google Gemini при проверке исторического события между англоязычными и китайскоязычными наборами данных.
В англоязычной версии Gemini ответ выглядел авторитетным, но система придумывала ссылки на источники.
В китайскоязычной версии вымышленные ссылки исчезали, однако глобальный контекст пропадал и ответ становился более изолированным.
Система сопровождала китайский контент англоязычными ссылками, создавая впечатление достоверности.