К содержанию
Новости

InfoWorld: компании переходят от выбора одной LLM к управлению слоями работы с моделями

InfoWorld: компании переходят от выбора одной LLM к управлению слоями работы с моделями
Фото: InfoWorld

Обсуждение инструментов для разработки вокруг LLM постепенно уходит от споров о «лучшей модели» к более практичным вопросам: как управлять их использованием внутри команд. Как отмечает InfoWorld, компании сначала тестируют разные модели перед внедрением, а затем нередко приходят не к одной системе, а к набору решений под разные задачи.

На фоне этого разработчики начали добавлять промежуточные слои между пользователем и самой моделью. В материале упоминаются GStack и Superpowers: они формируют базовые инструкции и контекст перед отправкой запросов в LLM. Такой подход называют context engineering, то есть дополнительным уровнем поверх обычного чат-интерфейса.

Автор сравнивает нынешние споры вокруг моделей для программирования с более ранними «языковыми войнами» между Delphi и Visual Basic. Но, по его наблюдению, команды все чаще переключаются с идеологических дискуссий на более прикладные вопросы: как организовать работу с LLM и контролировать расходы на их использование.

Ключевые факты

  • Компании тестируют разные модели перед выбором инструментов для своих команд

  • Многие команды используют не одну модель, а семейство моделей для разных задач

  • GStack и Superpowers упоминаются как инструменты со слоем базовых инструкций и контекста для работы с LLM

  • В материале context engineering описывается как дополнительный уровень поверх обычного интерфейса чата