Alauda AI
  • Русский

    • Установка TrustyAI

    В этом документе описывается, как установить оператор TrustyAI.

    Содержание

    Загрузка оператораУстановка оператораСледующие шаги

    Загрузка оператора

    Скачайте файл установки оператора TrustyAI (например, trustyai-service-operator.alpha.ALL.xxxx.tgz).

    Используйте команду violet для публикации в репозиторий платформы:

    violet push --platform-address=platform-access-address --platform-username=platform-admin --platform-password=platform-admin-password trustyai-service-operator.alpha.ALL.xxxx.tgz

    Установка оператора

    1. Перейдите в представление Administrator в Alauda Container Platform.

    2. В левой навигации выберите Marketplace / Operator Hub.

    3. В правой панели найдите Alauda Build of TrustyAI и нажмите Install.

    4. Оставьте все параметры по умолчанию и завершите установку.

    Следующие шаги

    После установки оператора пользователи могут использовать CRD, такие как TrustyAIService, LMEvalJob, GuardrailsOrchestrator и NemoGuardrails для развертывания мониторинга вывода (TrustyAI Service), запуска задач оценки моделей и управления оркестрацией AI guardrails (как FMS Guardrails, так и NeMo Guardrails).

    Подробности смотрите в разделах TrustyAI Service (TAS), Evaluate LLM, AI Guardrails for LLM safety и NeMo Guardrails.