#Обновление Alauda AI

#Установка компонентов кластера Alauda AI

Пожалуйста, посетите Alauda AI Cluster для:

1. Загрузка пакетов операторов для Alauda AI Cluster и KServeless.
2. Загрузка пакетов операторов в целевой кластер.
3. Для обновления следуйте описанному ниже процессу.

#Предварительные операции перед обновлением

#Аннотирование остановленных сервисов вывода

Начиная с версии 2.0, платформа использует нативную возможность остановки, предоставляемую KServe. Для обеспечения плавного обновления все сервисы вывода, находящиеся в состоянии остановлено, должны быть явно аннотированы перед обновлением.

1. Выведите список всех сервисов вывода, которые в данный момент остановлены:

   kubectl get inferenceservices --all-namespaces

2. Для каждого остановленного сервиса вывода добавьте следующую аннотацию:

   kubectl annotate inferenceservice <name> -n <namespace> serving.kserve.io/stop='true'

   Либо отредактируйте ресурс напрямую, добавив аннотацию в metadata.annotations:

   apiVersion: serving.kserve.io/v1beta1
   kind: InferenceService
   metadata:
     name: <name>
     annotations:
       serving.kserve.io/stop: 'true'

3. Повторите этот шаг для всех остановленных сервисов вывода во всех пространствах имён.

#Обновление

Ниже описана процедура обновления с версии Alauda AI 1.5 до 2.0.

#Обновление Alauda AI Essentials

Обновите Alauda AI Essentials на вкладке Функциональные компоненты глобального кластера.

В режиме Administrator перейдите в Clusters / Cluster в левом меню, найдите кластер global в правой панели и нажмите кнопку Upgrade на вкладке Functional Components, чтобы запустить обновление.

После завершения обновления убедитесь, что статус Alauda AI Essentials в списке — Running, а версия — v2.0.x.

#Обновление операторов Alauda AI

Процедура обновления обоих операторов практически идентична, отличается только целевой компонент.

#Обновление плагинов кластера

Процедура обновления плагинов кластера включает загрузку новых версий пакетов и последующее обновление через Web Console. Следующие плагины требуют обновления:

• Alauda AI Workbench
• Alauda AI MLflow
• Alauda AI Volcano

#Загрузка плагинов кластера

Загрузите новые пакеты плагинов кластера в глобальный кластер. Подробные инструкции по загрузке плагинов кластера смотрите в Uploading Cluster Plugins.

Повторите процесс загрузки для каждого развернутого плагина.

#Проверка новой версии

Перейдите в Administrator > Marketplace > Upload Packages и переключитесь на вкладку Cluster Plugin. Найдите каждый загруженный плагин и убедитесь, что отображается новая версия.

#Обновление через Web Console

1. Перейдите в Administrator > Clusters > Clusters.
2. Нажмите на кластер, в котором развернуты плагины.
3. Перейдите на вкладку Functional Components на странице деталей кластера.
4. Найдите плагины кластера, для которых доступны обновления — рядом с ними будет отображён значок обновления.
5. Нажмите кнопку Upgrade для нужного плагина.
6. Ознакомьтесь с информацией об обновлении в всплывающем окне, подтвердите версию плагина для обновления и нажмите Upgrade для запуска процесса.

Повторите этот процесс для каждого развернутого плагина.

#Операции после обновления

#Обновление существующих сервисов вывода

Из-за несовместимых изменений в определении product mode KServe и ресурсе InferenceService, введённых в версии 2.0, все сервисы вывода, существовавшие до обновления, должны быть обновлены вручную.

Для каждого существующего сервиса вывода выполните следующие действия:

1. Перейдите на страницу деталей сервиса вывода.

2. Нажмите Update Inference Service.

3. На странице обновления нажмите кнопку переключения YAML в правом верхнем углу, чтобы перейти в режим редактирования YAML.

4. Найдите поле spec.predictor.model.name.

5. Полностью удалите поле name и его значение.

   Например, если YAML содержит:

   spec:
     predictor:
       model:
         name: kserve-container
         modelFormat:
           name: sklearn

   После удаления должно быть:

   spec:
     predictor:
       model:
         modelFormat:
           name: sklearn

6. Нажмите Save для применения изменений.

7. Повторите этот процесс для всех сервисов вывода, существовавших до обновления.

#Проверка

kubectl get amlcluster default

NAME      READY   REASON
default   True    Succeeded

kubectl get KnativeServing.components.aml.dev default-knative-serving

NAME                      DEPLOYED   REASON
default-knative-serving   True       UpgradeSuccessful