logo
Alauda AI
English
Русский
English
Русский
logo
Alauda AI
Навигация

Обзор

Введение
Быстрый старт
Примечания к выпуску

Установка

Предварительная настройка
Установка Alauda AI Essentials
Установка Alauda AI

Обновление

Обновление с AI 1.3

Удаление

Удаление

Управление инфраструктурой

Управление устройствами

О Alauda Build of Hami
О плагине устройства NVIDIA GPU от Alauda Build

Мультиарендность

Руководства

Управление пространствами имён

Рабочее пространство

Обзор

Введение
Установка
Обновление

Как сделать

Создание WorkspaceKind
Создание Workbench

Развертывание модели и вывод

Обзор

Введение
Features

Сервис вывода

Введение

Руководства

Inference Service

Как сделать

Extend Inference Runtimes
Configure External Access for Inference Services
Configure Scaling for Inference Services

Устранение неполадок

Проблемы с таймаутами сервиса инференса при использовании MLServer Runtime
Служба инференса не переходит в состояние Running

Управление моделями

Введение

Руководства

Model Repository

Мониторинг и операции

Обзор

Введение
Features Overview

Ведение журналов и трассировка

Введение

Руководства

Логирование

Мониторинг ресурсов

Введение

Руководства

Мониторинг ресурсов

Справочник API

Введение

Kubernetes APIs

Inference Service APIs

ClusterServingRuntime [serving.kserve.io/v1alpha1]
InferenceService [serving.kserve.io/v1beta1]

Workbench APIs

Workspace Kind [kubeflow.org/v1beta1]
Workspace [kubeflow.org/v1beta1]

Manage APIs

AmlNamespace [manage.aml.dev/v1alpha1]

Operator APIs

AmlCluster [amlclusters.aml.dev/v1alpha1]
Глоссарий

Введение#

Предыдущая страницаОбзор
Следующая страницаБыстрый старт

Добро пожаловать в Alauda AI! Alauda AI представляет лучшие практики для больших моделей и платформ MLOps, помогая вам эффективно выполнять задачи в различных сценариях, таких как приложения с большими моделями, AI-приложения и машинное обучение. Используя Alauda AI, вы можете быстро выполнять следующие распространённые задачи:

  • Управление хранением и версионированием моделей
  • Выпуск и эксплуатация сервиса вывода моделей (больших моделей)
  • Оркестрация агентов, разработка и выпуск AI-приложений

В этом руководстве пользователя мы познакомим вас с различными функциями платформы Alauda AI, чтобы вы могли максимально эффективно использовать предоставляемые нами инструменты и сервисы. Независимо от того, являетесь ли вы дата-сайентистом, инженером по машинному обучению или разработчиком приложений, мы уверены, что наша платформа принесёт удобство и эффективность в вашу работу!

#Введение в MLOps и LLMOps

MLOps (Machine Learning Operations) определяет набор принципов и инструментальных форм в процессах разработки, обучения, выпуска, эксплуатации и сопровождения машинного обучения, больших моделей или других AI-приложений, становясь лучшей практикой для эффективного, точного и отслеживаемого выпуска AI-приложений.

Alauda AI охватывает не только инструментальную поддержку ключевых процессов в MLOps, но и предоставляет более лаконичный пользовательский интерфейс для практики LLMOps (Large Language Model Operations). От выпуска сервисов вывода больших моделей до создания интеллектуальных агентов и приложений — всё это выполняется в безкодовом режиме.