#介绍

推理服务是Alauda AI平台的核心功能，专注于高效地将LLM模型部署为在线推理服务，支持HTTP API和gRPC等多种调用方式。通过推理服务，用户可以快速构建LLM应用，并对外提供稳定、高性能的LLM能力。