#Введение

#Управление моделями

Репозиторий моделей — это версия хранения и управления, специально разработанная для моделей LLM на платформе Alauda AI. Основанный на технологии Git LFS, он предоставляет эффективное и надежное решение для хранения моделей, охватывающее критические этапы, такие как развертывание службы вывода, настройка обучения модели и оценка модели. С помощью Репозитория моделей пользователи могут легко управлять версиями моделей, делиться активами модели и осуществлять управление жизненным циклом моделей.

#Служба вывода

Служба вывода — это ключевая функция платформы Alauda AI, предназначенная для эффективного развертывания моделей LLM в качестве онлайн-служб вывода, поддерживающая различные методы вызова, такие как HTTP API и gRPC. С помощью Службы вывода пользователи могут быстро создавать приложения LLM и предоставлять внешние стабильные и высокопроизводительные возможности LLM.