Исследователи показали, что ChatGPT может создавать тревожные и сексуализированные изображения по простому запросу
Последняя общедоступная версия ChatGPT способна генерировать изображения сексуального характера или сцены жестокого насилия по простой текстовой подсказке. К такому выводу пришли исследователи BBC.
Британский стартап Mindgard, который занимается безопасностью систем искусственного интеллекта, обнаружил, что добиться такого результата можно, если немного изменить широко распространённую инструкцию. Изначально она предназначалась для создания юмористических изображений.
После обращения BBC компания OpenAI заявила, что приняла меры, чтобы чат-бот не отправлял подобные изображения. В компании пояснили, что изучили возникшую тенденцию и ввели дополнительные меры защиты. Также действует многоуровневая система, которая должна предотвращать создание контента, нарушающего условия использования.
Тем не менее специалисты по безопасности ИИ утверждают, что проблема сохранялась. Даже после внесения дополнительных небольших изменений та же подсказка продолжала выдавать тревожный контент. Основатель Mindgard Питер Гаррахан рассказал, что система генерировала изображения, которые были «очень жуткие, иногда с сексуальным подтекстом, а иногда и то, и другое одновременно». При этом сама формулировка задания напрямую не указывала тему изображений.
Ключевые факты
Исследователи BBC сообщили, что последняя общедоступная версия ChatGPT может генерировать изображения сексуального характера или сцены жестокого насилия по простой подсказке.
Британский стартап Mindgard показал, что может заставить ChatGPT создавать графические изображения, слегка изменив широко распространённую подсказку, изначально предназначенную для юмористических результатов.
После обращения BBC компания OpenAI заявила, что ввела дополнительные меры защиты и отметила наличие многоуровневых механизмов, предотвращающих создание контента, нарушающего условия использования.
По словам основателя Mindgard Питера Гаррахана, даже после небольших изменений подсказки система продолжала выдавать «очень жуткие, иногда с сексуальным подтекстом» изображения, включая кровавые и сексуализированные сцены.