Битрикс24 описал компромиссы между MaaS и собственной ИИ-инфраструктурой

Компании, которые внедряют ИИ в свои продукты, обычно выбирают между двумя подходами: арендовать модели через API или строить собственную инфраструктуру. По данным опросов, около 70% российских компаний уже используют ИИ в том или ином виде. Как сообщает ComNews, о сильных сторонах и ограничениях обоих вариантов рассказал директор по облачной инфраструктуре Битрикс24 Александр Демидов.

В материале MaaS представлен как способ быстро запустить работу с ИИ. Сервис дает возможность подключать внешние модели через API и платить только за использованные токены, без необходимости владеть собственным оборудованием. Среди плюсов называют автоматическое масштабирование, доступ к актуальным моделям через API, выбор между несколькими моделями без экспериментов с open-source, а также готовые операционные гарантии со стороны провайдера, включая SLA, мониторинг и фильтрацию контента.

Александр Демидов отмечает, что аренда особенно удобна на этапе MVP, при тестировании гипотез и в сценариях с непредсказуемой нагрузкой. Если компания переходит к собственной инфраструктуре, ей приходится самостоятельно решать инженерные задачи: запускать модели на выбранном инференс-фреймворке, выстраивать собственное API, обеспечивать единую точку входа с аутентификацией, лимитами и биллингом, а также управлять распределением GPU-ресурсов между командами.