#介绍

推理服务是 Alauda AI 平台的核心功能，专注于将 LLM 模型高效部署为在线推理服务，支持 HTTP API 和 gRPC 等多种调用方式。通过推理服务，用户可以快速构建 LLM 应用，并对外提供稳定、高性能的 LLM 能力。