Amazon Science описал подход к проектированию взаимодействия человека и агентных ИИ

В материале Amazon Science разбирают проблему проектирования взаимодействия человека с agentic AI. Такие системы умеют писать код, проводить исследования, планировать поездки и обрабатывать запросы службы поддержки. Но главный вопрос не только в том, на что способны агенты. Не менее важно, как устроена человеческая сторона работы с ними. В отличие от обычного ПО, agentic AI может вести себя проактивно и разговаривать с пользователем, сам инициирует действия и принимает решения. Из‑за этого проектирование пользовательского опыта становится сложнее.

Центральная UX‑задача, по мнению авторов, состоит в координации между действиями пользователя, тем, что он видит в интерфейсе, и тем, что делает ИИ, включая фоновую работу системы. Эту координацию предлагают описывать через три измерения: Human involvement, сколько усилий и внимания человек тратит на управление или контроль ИИ; AI salience, насколько заметным ощущается ИИ в процессе; AI activity, какие действия выполняет система, независимо от того, видит ли их пользователь.

Взаимодействие также предлагают рассматривать через три «зоны» координации. Done with me (mutually collaborative) предполагает плотную совместную работу человека и ИИ на этапах initiation, monitoring, updating и completion. Такой режим возможен, например, при совместной работе над сложным документом или research project. Done for me (heavily automated) описывает задачи, где пользователь только запускает процесс и затем проверяет результат. Основная работа проходит вне поля зрения, примером служит агент, который researches competitors и готовит summary report. В зоне Done under me (discreetly assisted) ИИ действует тихо в фоне: сюда относят smart sorting, predictive text, а также персонализированные content и navigation menus.

Авторы подчеркивают, что эти зоны не жесткие категории, а скорее ориентиры. Они помогают выбрать степень координации между человеком и системой. Подходящий баланс зависит от конкретной задачи, контекста и опыта пользователя. Поэтому при проектировании agentic AI важно не просто задавать уровень автономности, а осознанно настраивать саму модель взаимодействия.