安装
目录
硬件要求
- 至少两台节点,总计16核CPU和32 GB内存。
- 运行时服务的额外资源根据实际业务规模确定:同时运行10个7B规模的LLM推理实例,至少需要10个GPU及相应的CPU、内存、磁盘存储和对象存储。
- 每个工作节点需有200G的可用磁盘空间。
安装
安装Alauda AI涉及以下高级任务:
- 确认并配置您的集群以满足所有要求。请参阅Pre-installation Configuration。
- 安装Alauda AI Essentials。请参阅Install Alauda AI Essentials。
- 安装Alauda AI。请参阅Install Alauda AI。
完成后,Alauda AI的核心能力即已成功部署。如果您想快速体验该产品,请参阅Quick Start。