MIT Technology Review: какие элементы ИИ-архитектуры компании считают устойчивыми для масштабирования

Компании все активнее внедряют ИИ и переходят к agentic-системам, но из-за быстрого развития технологий бизнесу все сложнее определяться с долгосрочными ИТ-инвестициями. Как пишет MIT Technology Review, более устойчивым подходом для ИТ-руководителей может стать опора на базовые элементы ИИ-архитектуры, то есть инфраструктуру для развертывания и управления надежными интегрированными ИИ-системами в масштабе компании.

В материале выделяют четыре ключевых направления. Первое связано с подготовкой данных для ИИ на уровне всей компании. CIO Elastic Аднан Адил называет данные «устойчивой частью ИИ-архитектуры», потому что без них модели не способны обеспечивать корректный контекст и нужный уровень сервиса. При этом многие компании до сих пор работают с устаревшими системами, разрозненными структурами данных и неполными наборами информации. Низкое качество данных, как отмечается в тексте, приводит к галлюцинациям, предвзятости и ненадежным ответам моделей.

Второй элемент, context engineering. Он отвечает за подбор и организацию релевантной информации для каждого запроса. В отличие от prompt engineering, этот подход охватывает всю информационную среду вокруг модели: от извлечения нужных данных до их структурированной подачи в машиночитаемом виде. В статье подчеркивается, что избыток контекста может повышать затраты и замедлять ответы моделей. Для эффективной работы критически важны «минимальный контекст, корректные и актуальные данные». Среди обязательных компонентов также упоминаются retrieval augmented generation (RAG) и векторные базы данных.

Третье направление связано со встроенным управлением ИИ и наблюдаемостью LLM-систем с самого начала внедрения. Такие механизмы должны помогать компаниям контролировать использование данных, отслеживать производительность моделей и выявлять проблемы еще до того, как они начнут влиять на рабочие процессы.