logo
Alauda AI
English
Русский
English
Русский
logo
Alauda AI
Навигация

Обзор

Введение
Быстрый старт
Примечания к выпуску

Установка

Предварительная настройка
Установка Alauda AI Essentials
Установка Alauda AI

Обновление

Обновление с AI 1.3

Удаление

Удаление

Управление инфраструктурой

Управление устройствами

О Alauda Build of Hami
О плагине устройства NVIDIA GPU от Alauda Build

Мультиарендность

Руководства

Управление пространствами имён

Рабочее пространство

Обзор

Введение
Установка
Обновление

Как сделать

Создание WorkspaceKind
Создание Workbench

Развертывание модели и вывод

Обзор

Введение
Features

Сервис вывода

Введение

Руководства

Inference Service

Как сделать

Extend Inference Runtimes
Configure External Access for Inference Services
Configure Scaling for Inference Services

Устранение неполадок

Проблемы с таймаутами сервиса инференса при использовании MLServer Runtime
Служба инференса не переходит в состояние Running

Управление моделями

Введение

Руководства

Model Repository

Мониторинг и операции

Обзор

Введение
Features Overview

Ведение журналов и трассировка

Введение

Руководства

Логирование

Мониторинг ресурсов

Введение

Руководства

Мониторинг ресурсов

Справочник API

Введение

Kubernetes APIs

Inference Service APIs

ClusterServingRuntime [serving.kserve.io/v1alpha1]
InferenceService [serving.kserve.io/v1beta1]

Workbench APIs

Workspace Kind [kubeflow.org/v1beta1]
Workspace [kubeflow.org/v1beta1]

Manage APIs

AmlNamespace [manage.aml.dev/v1alpha1]

Operator APIs

AmlCluster [amlclusters.aml.dev/v1alpha1]
Глоссарий
Предыдущая страницаОбзор
Следующая страницаУстановка

#Введение

#Содержание

#Workbench

Workbench управляет экземплярами веб-IDE, такими как Jupyter Notebooks, code-server или RStudio. Разработчики AI/ML и дата-сайентисты могут использовать ресурсы кластера (например, GPU) и подключаться к сервисам внутри кластера для создания общих ML-задач и пайплайнов.

Workbench использует "Kubeflow Notebook 2.0" в качестве бэкенда для создания контейнеров облачной IDE. Если вы знакомы с "Kubeflow Notebook", начать работу с Workbench будет легко.

Некоторые ключевые возможности включают:

  • Нативная поддержка JupyterLab, Visual Studio Code (code-server) и RStudio (в будущем).
  • Пользователи могут создавать контейнеры с ноутбуками непосредственно в кластере, а не локально на своих рабочих станциях.
  • Администраторы могут предоставлять стандартные образы ноутбуков для своей организации с предустановленными необходимыми пакетами.
  • Контроль доступа управляется через RBAC Kubeflow, что облегчает совместное использование ноутбуков в организации.

#WorkspaceKind

  • это ресурс, который создают администраторы кластера
  • он задаёт шаблон для Workspace (например, "JupyterLab", "VSCode", "RStudio")
  • изначально мы будем поддерживать только тип "podTemplate", который очень похож на существующий Notebook CRD, но в будущем можем поддержать другие типы шаблонов (например, "helmTemplate")