#Установка Alauda AI

#Загрузка инструмента violet

Сначала нужно скачать инструмент violet, если он отсутствует на машине.

Войдите в Web Console и переключитесь на вид Administrator:

1. Нажмите Marketplace / Upload Packages.
2. Нажмите Download Packaging and Listing Tool.
3. Выберите подходящую ОС / архитектуру CPU в разделе Execution Environment.
4. Нажмите Download для загрузки инструмента violet.
5. Выполните chmod +x ${PATH_TO_THE_VIOLET_TOOL}, чтобы сделать инструмент исполняемым.

#Загрузка пакетов

Сохраните следующий скрипт в файл uploading-ai-cluster-packages.sh, затем ознакомьтесь с комментариями ниже для настройки переменных окружения в этом скрипте.

#!/usr/bin/env bash
export PLATFORM_ADDRESS=https://platform-address  
export PLATFORM_ADMIN_USER=<admin>
export PLATFORM_ADMIN_PASSWORD=<admin-password>
export CLUSTER=<cluster-name>

export AI_CLUSTER_OPERATOR_NAME=<path-to-aml-operator-tarball>
export KNATIVE_OPERATOR_PKG_NAME=<path-to-knative-operator-tarball>

VIOLET_EXTRA_ARGS=()
IS_EXTERNAL_REGISTRY=

# Если тип реестра образов целевого кластера не встроенный в платформу (внешний приватный или публичный репозиторий).
# Требуется дополнительная конфигурация (раскомментируйте следующую строку):
# IS_EXTERNAL_REGISTRY=true
if [[ "${IS_EXTERNAL_REGISTRY}" == "true" ]]; then
    REGISTRY_ADDRESS=<external-registry-url>
    REGISTRY_USERNAME=<registry-username>
    REGISTRY_PASSWORD=<registry-password>

    VIOLET_EXTRA_ARGS+=(
        --dst-repo "${REGISTRY_ADDRESS}"
        --username "${REGISTRY_USERNAME}"
        --password "${REGISTRY_PASSWORD}"
    )
fi

# Отправка пакета оператора **Alauda AI Cluster** в целевой кластер
violet push \
    ${AI_CLUSTER_OPERATOR_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

# Отправка пакета оператора **Knative Operator** в целевой кластер
violet push \
    ${KNATIVE_OPERATOR_PKG_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

После настройки выполните скрипт командой bash ./uploading-ai-cluster-packages.sh для загрузки пакетов Alauda AI и Knative Operator.

#Процедура

В виде Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли выберите из выпадающего списка Cluster целевой кластер для установки Alauda AI.

3. Выберите Alauda AI, затем нажмите Install.

   Откроется окно Install Alauda AI.

4. В окне Install Alauda AI:

5. Оставьте Channel без изменений.

6. Проверьте, что Version соответствует версии Alauda AI, которую вы хотите установить.

7. Оставьте Installation Location без изменений, по умолчанию это aml-operator.

8. Выберите Manual для Upgrade Strategy.

9. Нажмите Install.

#Проверка

Убедитесь, что плитка Alauda AI отображает одно из следующих состояний:

• Installing: установка в процессе; дождитесь изменения на Installed.
• Installed: установка завершена.

#Процедура

В виде Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли выберите из выпадающего списка Cluster целевой кластер для установки.

3. Найдите и выберите Knative Operator, затем нажмите Install.

   Откроется окно Install Knative Operator.

4. В окне Install Knative Operator:

5. Оставьте Channel без изменений.

6. Проверьте, что Version соответствует версии Knative Operator, которую вы хотите установить.

7. Оставьте Installation Location без изменений.

8. Выберите Manual для Upgrade Strategy.

9. Нажмите Install.

#Проверка

Убедитесь, что плитка Knative Operator отображает одно из следующих состояний:

• Installing: установка в процессе; дождитесь изменения на Installed.
• Installed: установка завершена.

#Процедура

1. Создайте namespace knative-serving.

   kubectl create ns knative-serving

2. В виде Administrator перейдите в Operators -> Installed Operators.

3. Выберите Knative Operator.

4. В разделе Provided APIs найдите KnativeServing и нажмите Create Instance.

5. Переключитесь в YAML view.

6. Замените содержимое следующим YAML:

7. Нажмите Create.

   apiVersion: operator.knative.dev/v1beta1
   kind: KnativeServing
   metadata:
     name: knative-serving
     namespace: knative-serving
   spec:
     # Для ACP 4.0 используйте версию 1.18.1
     # Для ACP 4.1 и выше используйте версию 1.19.6
     version: "1.18.1"
     config:
       deployment:
         registries-skipping-tag-resolving: kind.local,ko.local,dev.local,private-registry
       domain:
         example.com: ""
       features:
         kubernetes.podspec-affinity: enabled
         kubernetes.podspec-hostipc: enabled
         kubernetes.podspec-hostnetwork: enabled
         kubernetes.podspec-init-containers: enabled
         kubernetes.podspec-nodeselector: enabled
         kubernetes.podspec-persistent-volume-claim: enabled
         kubernetes.podspec-persistent-volume-write: enabled
         kubernetes.podspec-securitycontext: enabled
         kubernetes.podspec-tolerations: enabled
         kubernetes.podspec-volumes-emptydir: enabled
         queueproxy.resource-defaults: enabled
       network:
         domain-template: '{{.Name}}.{{.Namespace}}.{{.Domain}}'
         ingress-class: kourier.ingress.networking.knative.dev
     ingress:
       kourier:
         enabled: true

#Процедура

В виде Administrator:

1. Нажмите Marketplace / OperatorHub.

2. В верхней части консоли выберите из выпадающего списка Cluster целевой кластер для установки оператора Alauda AI.

3. Выберите Alauda AI, затем нажмите.

4. На странице Alauda AI перейдите на вкладку All Instances.

5. Нажмите Create.

   Откроется окно Select Instance Type.

6. Найдите плитку AmlCluster в окне Select Instance Type, затем нажмите Create.

   Откроется форма Create AmlCluster.

7. Оставьте default без изменений в поле Name.

8. Выберите Deploy Flavor из выпадающего списка:

   1. single-node для развертываний без HA.
   2. ha-cluster для HA кластеров (Рекомендуется для продакшена).

9. Установите KServe Mode в значение Managed.

10. Введите действительный домен в поле Domain.

    INFO

    Этот домен используется ingress gateway для экспонирования сервисов model serving. Скорее всего, вы захотите использовать wildcard-имя, например *.example.com.

    Вы можете указать следующие типы сертификатов, обновив поле Domain Certificate Type:

    • Provided
    • SelfSigned
    • ACPDefaultIngress

    По умолчанию используется тип сертификата SelfSigned для защиты ingress-трафика в вашем кластере, сертификат хранится в секрете knative-serving-cert, указанном в поле Domain Certificate Secret.

11. (Опционально) Если вы хотите включить функциональность Knative, в разделе Serverless Configuration установите Knative Serving Provider в значение Operator.

    INFO

    Если вы установили Knative Operator для включения serverless функциональности на предыдущих шагах, укажите следующие параметры для интеграции:

    • APIVersion: operator.knative.dev/v1beta1
    • Kind: KnativeServing
    • Name: knative-serving
    • Namespace: knative-serving

    Если вы не используете функциональность Knative, оставьте Knative Serving Provider как Removed (или пустым), а остальные параметры пустыми.

12. В разделе Gitlab:

    1. Введите URL self-hosted Gitlab в поле Base URL.
    2. Введите cpaas-system в поле Admin Token Secret Namespace.
    3. Введите aml-gitlab-admin-token в поле Admin Token Secret Name.

13. Проверьте настройки и нажмите Create.

#Проверка

Проверьте поле статуса ресурса AmlCluster с именем default:

kubectl get amlcluster default

Должен вернуть Ready:

NAME      READY   REASON
default   True    Succeeded

#Процедура

В виде Administrator:

1. Нажмите Marketplace / OperatorHub.
2. В верхней части консоли выберите из выпадающего списка Cluster целевой кластер, где установлен Alauda AI.
3. Выберите Alauda AI, затем перейдите на вкладку All Instances.
4. Найдите экземпляр default и нажмите Update.
5. В форме обновления найдите раздел Serverless Configuration.
6. Установите BuiltIn Knative Serving в значение Removed.
7. Нажмите Update для применения изменений.