Anthropic открыла публичную бету Message Threads на платформе Claude. Функция предназначена для ИИ-агентов с длинными активными сессиями: вместо повторной передачи всей переписки приложение может отправлять только новые сообщения и идентификатор предыдущего ответа.
Раньше при каждом обращении через API агент заново передавал накопленный контекст, включая сообщения, результаты работы инструментов и содержимое файлов. В сессиях на сотни запросов объём этих данных может достигать сотен тысяч токенов и увеличивать задержку перед ответом.
По измерениям Anthropic, при запросах с контекстом от 500 тысяч до 1 млн токенов медианное время до первого токена сократилось примерно на 35%. Показатель описывает ожидание первого фрагмента ответа, а не продолжительность выполнения всей задачи.
Читайте также
Первый запрос по-прежнему содержит полную историю и создаёт поток. В следующих запросах клиент передаёт новые сообщения и идентификатор предыдущего ответа. Между обращениями Anthropic хранит поток в оперативной памяти в зашифрованном виде и, по заявлению компании, не записывает его на диск.
Поток закрывается после пяти минут бездействия. При возобновлении работы клиент должен снова передать всю историю и создать новый поток. Поэтому функция рассчитана прежде всего на интенсивные сессии, в которых запросы следуют один за другим.
Расход токенов не сокращается: Claude читает полную историю на каждом шаге. Стандартные тарифы и лимиты остаются прежними, уменьшаются только объём повторно передаваемых данных и задержка перед началом ответа.
Anthropic относит к основным сценариям агентов для программирования и управления компьютером, а также работу с большими документами и изображениями. Для большинства пользователей Claude Code потоки включены по умолчанию. Остальные разработчики могут подключить их параметром thread в Messages API.
Бета доступна на платформе Claude и через предложения Anthropic в AWS, Microsoft Foundry и Google Cloud. Прямой доступ к продуктам Anthropic из России не поддерживается, включая API и перечисленные облачные каналы.