Обновление памяти в ChatGPT может приводить к искажению ответов

OpenAI сообщила, что функция памяти в ChatGPT стала более продвинутой и теперь лучше учитывает прошлые взаимодействия с пользователем. Предполагается, что благодаря этому модель сможет давать более персонализированные и релевантные ответы, опираясь на ранее сохранённую информацию.

Однако тесты автора ZDNet показали и обратную сторону такого подхода. По его наблюдениям, данные, которые система сохраняет в памяти, иногда закрепляют устаревшие предположения о пользователе, постепенно складываются в некий персональный профиль и порой включают неточные сведения. Всё это затем влияет на последующие ответы модели.

Из‑за этого такие записи могут незаметно менять контекст, на который опирается ChatGPT при формировании ответа. В итоге появляются искажения или неверные выводы. Даже мелкие детали со временем накапливаются и начинают влиять на то, как система интерпретирует запросы пользователя.