#Установка Alauda AI

#Загрузка инструмента violet

Сначала нужно скачать инструмент violet, если он отсутствует на машине.

Войдите в Web Console и переключитесь в режим Administrator:

1. Нажмите Marketplace / Upload Packages.
2. Нажмите Download Packaging and Listing Tool.
3. Найдите подходящую ОС / архитектуру CPU в разделе Execution Environment.
4. Нажмите Download для загрузки инструмента violet.
5. Выполните chmod +x ${PATH_TO_THE_VIOLET_TOOL}, чтобы сделать инструмент исполняемым.

#Загрузка пакета

Сохраните следующий скрипт в файл uploading-ai-cluster-packages.sh, затем прочитайте комментарии ниже для настройки переменных окружения в этом скрипте.

#!/usr/bin/env bash
export PLATFORM_ADDRESS=https://platform-address  
export PLATFORM_ADMIN_USER=<admin>
export PLATFORM_ADMIN_PASSWORD=<admin-password>
export CLUSTER=<cluster-name>

export AI_CLUSTER_OPERATOR_NAME=<path-to-aml-operator-tarball>
export KNATIVE_OPERATOR_PKG_NAME=<path-to-knative-operator-tarball>

VIOLET_EXTRA_ARGS=()
IS_EXTERNAL_REGISTRY=

# Если тип реестра образов целевого кластера не является встроенным в платформу (внешний приватный или публичный репозиторий).
# Требуется дополнительная настройка (раскомментируйте следующую строку):
# IS_EXTERNAL_REGISTRY=true
if [[ "${IS_EXTERNAL_REGISTRY}" == "true" ]]; then
    REGISTRY_ADDRESS=<external-registry-url>
    REGISTRY_USERNAME=<registry-username>
    REGISTRY_PASSWORD=<registry-password>

    VIOLET_EXTRA_ARGS+=(
        --dst-repo "${REGISTRY_ADDRESS}"
        --username "${REGISTRY_USERNAME}"
        --password "${REGISTRY_PASSWORD}"
    )
fi

# Отправка пакета оператора **Alauda AI Cluster** в целевой кластер
violet push \
    ${AI_CLUSTER_OPERATOR_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

# Отправка пакета **Knative Operator** в целевой кластер
violet push \
    ${KNATIVE_OPERATOR_PKG_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

После настройки выполните скрипт командой bash ./uploading-ai-cluster-packages.sh для загрузки обоих пакетов — Alauda AI и Knative Operator.

#Процедура

В режиме Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли в выпадающем списке Cluster выберите целевой кластер, в который хотите установить Alauda AI.

3. Выберите Alauda AI, затем нажмите Install.

   Откроется окно Install Alauda AI.

4. В окне Install Alauda AI:

5. Оставьте Channel без изменений.

6. Проверьте, что Version соответствует версии Alauda AI, которую вы хотите установить.

7. Оставьте Installation Location без изменений, по умолчанию это aml-operator.

8. Выберите Manual для Upgrade Strategy.

9. Нажмите Install.

#Проверка

Убедитесь, что плитка Alauda AI отображает одно из следующих состояний:

• Installing: установка в процессе; дождитесь изменения на Installed.
• Installed: установка завершена.

#Процедура

В режиме Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли в выпадающем списке Cluster выберите целевой кластер для установки.

3. Найдите и выберите Knative Operator, затем нажмите Install.

   Откроется окно Install Knative Operator.

4. В окне Install Knative Operator:

5. Оставьте Channel без изменений.

6. Проверьте, что Version соответствует версии Knative Operator, которую хотите установить.

7. Оставьте Installation Location без изменений.

8. Выберите Manual для Upgrade Strategy.

9. Нажмите Install.

#Проверка

Убедитесь, что плитка Knative Operator отображает одно из следующих состояний:

• Installing: установка в процессе; дождитесь изменения на Installed.
• Installed: установка завершена.

#Процедура

1. Создайте пространство имён knative-serving.

   kubectl create ns knative-serving

2. В режиме Administrator перейдите в раздел Operators -> Installed Operators.

3. Выберите Knative Operator.

4. В разделе Provided APIs найдите KnativeServing и нажмите Create Instance.

5. Переключитесь в YAML view.

6. Замените содержимое на следующий YAML:

7. Нажмите Create.

   apiVersion: operator.knative.dev/v1beta1
   kind: KnativeServing
   metadata:
     name: knative-serving
     namespace: knative-serving
   spec:
     # Для ACP 4.0 используйте версию 1.18.1
     # Для ACP 4.1 и выше используйте версию 1.19.6
     version: "1.18.1"
     config:
       deployment:
         registries-skipping-tag-resolving: kind.local,ko.local,dev.local,private-registry
       domain:
         example.com: ""
       features:
         kubernetes.podspec-affinity: enabled
         kubernetes.podspec-hostipc: enabled
         kubernetes.podspec-hostnetwork: enabled
         kubernetes.podspec-init-containers: enabled
         kubernetes.podspec-nodeselector: enabled
         kubernetes.podspec-persistent-volume-claim: enabled
         kubernetes.podspec-persistent-volume-write: enabled
         kubernetes.podspec-securitycontext: enabled
         kubernetes.podspec-tolerations: enabled
         kubernetes.podspec-volumes-emptydir: enabled
         queueproxy.resource-defaults: enabled
       network:
         domain-template: '{{.Name}}.{{.Namespace}}.{{.Domain}}'
         ingress-class: kourier.ingress.networking.knative.dev
     ingress:
       kourier:
         enabled: true

#Процедура

В режиме Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли в выпадающем списке Cluster выберите целевой кластер для установки оператора Alauda AI.

3. Выберите Alauda AI, затем нажмите Click.

4. На странице Alauda AI перейдите на вкладку All Instances.

5. Нажмите Create.

   Откроется окно Select Instance Type.

6. Найдите плитку AmlCluster в окне Select Instance Type и нажмите Create.

   Откроется форма Create AmlCluster.

7. Оставьте default без изменений в поле Name.

8. Выберите Deploy Flavor из выпадающего списка:

   1. single-node для развертываний без HA.
   2. ha-cluster для HA-кластеров (Рекомендуется для продакшена).

9. Установите KServe Mode в значение Managed.

10. Введите корректный домен в поле Domain.

    INFO

    Этот домен используется ingress-шлюзом для экспонирования сервисов обслуживания моделей. Скорее всего, вы захотите использовать wildcard-домен, например *.example.com.

    Вы можете указать следующие типы сертификатов, обновив поле Domain Certificate Type:

    • Provided
    • SelfSigned
    • ACPDefaultIngress

    По умолчанию используется тип сертификата SelfSigned для защиты трафика ingress в вашем кластере, сертификат хранится в секрете knative-serving-cert, указанном в поле Domain Certificate Secret.

11. (Опционально) Если хотите включить функциональность Knative, в разделе Serverless Configuration установите Knative Serving Provider в значение Operator.

    INFO

    Если вы установили Knative Operator для включения безсерверной функциональности на предыдущих шагах, укажите следующие параметры для интеграции:

    • APIVersion: operator.knative.dev/v1beta1
    • Kind: KnativeServing
    • Name: knative-serving
    • Namespace: knative-serving

    Если вы не используете функциональность Knative, оставьте Knative Serving Provider как Removed (или пустым), а остальные параметры — пустыми.

12. В разделе Gitlab:

    1. Введите URL вашего self-hosted Gitlab в поле Base URL.
    2. Введите cpaas-system в поле Admin Token Secret Namespace.
    3. Введите aml-gitlab-admin-token в поле Admin Token Secret Name.

13. Проверьте настройки и нажмите Create.

#Проверка

Проверьте поле статуса ресурса AmlCluster с именем default:

kubectl get amlcluster default

Должен вернуть Ready:

NAME      READY   REASON
default   True    Succeeded

#Процедура

В режиме Administrator:

1. Нажмите Marketplace / OperatorHub.
2. В верхней части консоли в выпадающем списке Cluster выберите целевой кластер, где установлен Alauda AI.
3. Выберите Alauda AI, затем перейдите на вкладку All Instances.
4. Найдите экземпляр default и нажмите Update.
5. В форме обновления найдите раздел Serverless Configuration.
6. Установите BuiltIn Knative Serving в значение Removed.
7. Нажмите Update для применения изменений.