logo
Alauda AI
English
Русский
English
Русский
logo
Alauda AI
Навигация

Обзор

Введение
Быстрый старт
Примечания к выпуску

Установка

Предварительная настройка
Установка Alauda AI Essentials
Установка Alauda AI

Обновление

Обновление с AI 1.3

Удаление

Удаление

Управление инфраструктурой

Управление устройствами

О Alauda Build of Hami
О плагине устройства NVIDIA GPU от Alauda Build

Мультиарендность

Руководства

Управление пространствами имён

Рабочее пространство

Обзор

Введение
Установка
Обновление

Как сделать

Создание WorkspaceKind
Создание Workbench

Развертывание модели и вывод

Обзор

Введение
Features

Сервис вывода

Введение

Руководства

Inference Service

Как сделать

Extend Inference Runtimes
Configure External Access for Inference Services
Configure Scaling for Inference Services

Устранение неполадок

Проблемы с таймаутами сервиса инференса при использовании MLServer Runtime
Служба инференса не переходит в состояние Running

Управление моделями

Введение

Руководства

Model Repository

Мониторинг и операции

Обзор

Введение
Features Overview

Ведение журналов и трассировка

Введение

Руководства

Логирование

Мониторинг ресурсов

Введение

Руководства

Мониторинг ресурсов

Справочник API

Введение

Kubernetes APIs

Inference Service APIs

ClusterServingRuntime [serving.kserve.io/v1alpha1]
InferenceService [serving.kserve.io/v1beta1]

Workbench APIs

Workspace Kind [kubeflow.org/v1beta1]
Workspace [kubeflow.org/v1beta1]

Manage APIs

AmlNamespace [manage.aml.dev/v1alpha1]

Operator APIs

AmlCluster [amlclusters.aml.dev/v1alpha1]
Глоссарий
Предыдущая страницаУстановка
Следующая страницаУстановка Alauda AI Essentials

#Предварительная настройка

#Содержание

#Развертывание Service Mesh

Поскольку Alauda AI использует возможности Service Mesh для сервисов инференса моделей, Service Mesh должен быть развернут в кластере до развертывания Alauda AI. Для подробных инструкций по развертыванию обратитесь к .

INFO

После выполнения Prerequisites на странице Create Service Mesh перейдите на страницу Creating a Service Mesh и следуйте инструкциям на экране для завершения развертывания Service Mesh.

#Подготовка сервиса GitLab

В Alauda AI GitLab является ключевым компонентом для Model Management. Перед развертыванием Alauda AI необходимо подготовить сервис GitLab.

#Варианты развертывания

#1. Требования к сервису GitLab

Независимо от способа развертывания, все инстансы GitLab должны соответствовать следующим требованиям:

  • Версия: должна быть v15 или выше.
  • Протокол: должен использоваться HTTPS. Инструкции по настройке доступны в .
  • Git LFS: должен быть включен. Инструкции по настройке доступны в .
  • Хостинг: должен быть самостоятельно размещённым (публичные облачные сервисы GitLab не поддерживаются).
  • Токены доступа: необходимо отключить срок действия для токенов доступа.

#2. Использование плагина, предоставленного платформой

Разверните новый сервис GitLab с помощью плагина 'Alauda Build of GitLab'. Инструкции доступны по ссылке: .

#3. Использование собственного сервиса GitLab

Альтернативно, можно использовать самостоятельно управляемый инстанс GitLab, но он должен соответствовать требованиям к сервису GitLab.

#Настройка GitLab

Перед развертыванием Alauda AI выполните следующие шаги настройки GitLab после получения сервиса.

#1. Отключение срока действия для токенов доступа

Если GitLab работает на версии v17.0 или выше, необходимо отключить срок действия для токенов доступа.

WARNING

Если срок действия для токенов доступа остаётся включённым, потребуется вручную обновлять админский токен как минимум раз в год, иначе функциональность Alauda AI может прекратиться.

Чтобы отключить срок действия для новых токенов доступа:

  1. В левой боковой панели внизу выберите Admin.
  2. Выберите Settings > General.
  3. Разверните раздел Account and limit.
  4. Снимите галочку с опции Personal / Project / Group access token expiration.
  5. Нажмите Save changes.

#2. Создание нового токена

Чтобы создать токен имитации для администратора:

  1. В левой боковой панели внизу выберите Admin.
  2. Выберите Overview > Users.
  3. Выберите пользователя администратора (например, Administrator).
  4. В верхней навигационной панели выберите Impersonation Tokens.
  5. Нажмите Add new token.
  6. В появившейся форме:
    1. Введите Token name для Alauda AI (например, aml-root).
    2. Уберите Expiration Date (нажмите на иконку "x" для удаления срока действия).
    3. Отметьте ВСЕ области доступа (особенно область api) в разделе Select scopes.
  7. Нажмите Create impersonation token.
  8. Сохраните новый токен, отображаемый под Your new impersonation token, он понадобится позже.
WARNING

Обязательно сохраните вновь созданный токен — повторно получить его будет невозможно.

#3. Создание kubernetes-секрета для админского токена

Далее создайте секрет для админского токена GitLab с именем aml-gitlab-admin-token в пространстве имён cpaas-system:

# Пожалуйста, замените ${TOKEN} на реальный токен, сохранённый ранее
kubectl create secret generic aml-gitlab-admin-token \
  --from-literal="password=${TOKEN}" \
  -n cpaas-system
  1. Создайте секрет с админским токеном GitLab с именем aml-gitlab-admin-token
  2. Токен сохраняется под ключом password, замените ${TOKEN} на реальный токен, сохранённый ранее.
  3. Секрет создаётся в пространстве имён cpaas-system.