OpenAI сообщила, что функция памяти в ChatGPT стала более продвинутой и теперь лучше учитывает прошлые взаимодействия с пользователем. Предполагается, что благодаря этому модель сможет давать более персонализированные и релевантные ответы, опираясь на ранее сохранённую информацию.
Однако тесты автора ZDNet показали и обратную сторону такого подхода. По его наблюдениям, данные, которые система сохраняет в памяти, иногда закрепляют устаревшие предположения о пользователе, постепенно складываются в некий персональный профиль и порой включают неточные сведения. Всё это затем влияет на последующие ответы модели.
Из‑за этого такие записи могут незаметно менять контекст, на который опирается ChatGPT при формировании ответа. В итоге появляются искажения или неверные выводы. Даже мелкие детали со временем накапливаются и начинают влиять на то, как система интерпретирует запросы пользователя.
Ключевые факты
OpenAI заявила, что функция памяти ChatGPT улучшается.
Проведенные тесты показали, что память ChatGPT может сохранять устаревшие предположения о пользователе.
Тесты также выявили элементы персонального профилирования и наличие неверных деталей в памяти, что может искажать ответы ChatGPT.