介绍

模型管理

模型库是一个版本化存储和管理中心,专为 Alauda AI 平台上的 LLM 模型设计。基于 Git LFS 技术,它提供了高效可靠的模型存储解决方案,涵盖了推理服务部署、模型训练微调和模型评估等关键阶段。通过模型库,用户可以轻松管理模型版本、共享模型资产,并实现模型的全生命周期管理。

推理服务

推理服务是 Alauda AI 平台的核心功能,致力于高效地将 LLM 模型作为在线推理服务部署,支持多种调用方式,如 HTTP API 和 gRPC。通过推理服务,用户能够快速构建 LLM 应用并向外提供稳定、高性能的 LLM 能力。