Компании, которые внедряют ИИ в свои продукты, обычно выбирают между двумя подходами: арендовать модели через API или строить собственную инфраструктуру. По данным опросов, около 70% российских компаний уже используют ИИ в том или ином виде. Как сообщает ComNews, о сильных сторонах и ограничениях обоих вариантов рассказал директор по облачной инфраструктуре Битрикс24 Александр Демидов.
В материале MaaS представлен как способ быстро запустить работу с ИИ. Сервис дает возможность подключать внешние модели через API и платить только за использованные токены, без необходимости владеть собственным оборудованием. Среди плюсов называют автоматическое масштабирование, доступ к актуальным моделям через API, выбор между несколькими моделями без экспериментов с open-source, а также готовые операционные гарантии со стороны провайдера, включая SLA, мониторинг и фильтрацию контента.
Александр Демидов отмечает, что аренда особенно удобна на этапе MVP, при тестировании гипотез и в сценариях с непредсказуемой нагрузкой. Если компания переходит к собственной инфраструктуре, ей приходится самостоятельно решать инженерные задачи: запускать модели на выбранном инференс-фреймворке, выстраивать собственное API, обеспечивать единую точку входа с аутентификацией, лимитами и биллингом, а также управлять распределением GPU-ресурсов между командами.
Ключевые факты
Около 70% российских компаний уже используют ИИ в том или ином виде
MaaS предполагает оплату только за потребленные токены без владения оборудованием
Провайдер MaaS берет на себя SLA, мониторинг, обновления и фильтрацию контента
Для собственной ИИ-инфраструктуры требуется организовать аутентификацию, лимиты доступа и биллинг для распределения GPU-ресурсов