#Особенности

#Управление моделями

• Репозиторий моделей на основе Git
  Полное решение для хранения под управлением Git, поддерживающее:

  • Управление репозиториями: Создание/удаление репозиториев с метаданными (имя/описание/видимость) и проверка зависимостей
  • Операции с файлами: Веб-UI загрузка для небольших файлов + CLI/Git LFS для больших файлов (например, *.h5, *.bin)
  • Управление версиями: Полные возможности Git, включая:
    • Ветвление (например, main/experimental)
    • Тегирование (например, v1.0)
    • Автоматическая синхронизация метаданных из README.md

• Интеграция MLOps
  Бесперебойные связи рабочего процесса:

  • Развертывание в один клик для сервисов вывода

#Сервис вывода

• Прямое развертывание модели для сервисов вывода

  • Позволяет пользователям напрямую выбирать конкретные версии модели из репозитория и указывать образ времени выполнения вывода для быстрого развертывания онлайн-сервиса. Система автоматически загружает, кэширует и загружает модель, а затем запускает сервис вывода. Это упрощает процесс развертывания и снижает операционную сложность.

• Развертывание пользовательского образа для сервисов вывода

  • Поддерживает пользователей в написании Dockerfile для упаковки моделей и их зависимостей в пользовательские образы, а затем развертывание сервисов вывода через стандартные развертывания Kubernetes. Этот подход предоставляет большую гибкость, позволяя пользователям настраивать среду вывода в соответствии с их потребностями.

• Опыт работы с сервисом вывода

  • Поддерживает пакетные операции на нескольких сервисах вывода, такие как пакетный запуск, остановка, обновление и удаление.
  • Способен поддерживать создание, мониторинг и экспорт результатов пакетных задач вывода.
  • Предоставляет управление ресурсами пакетами, которое может выделять и настраивать ресурсы сервисов вывода пакетами.