#Введение

#TrustyAI

Alauda Build of TrustyAI основан на операторе TrustyAI для Kubernetes.
Оператор упрощает развертывание и управление компонентами TrustyAI в Kubernetes, включая объяснимость моделей, мониторинг справедливости, оценку LLM и защитные механизмы AI.

Основные компоненты и возможности включают:

• TrustyAI Service: сервис, который разворачивается вместе с моделями KServe и собирает данные инференса. Обеспечивает объяснимость моделей, мониторинг справедливости и отслеживание дрейфа.
• LM-Eval: архитектура на основе заданий для развертывания и управления оценками LLM, основанная на lm-evaluation-harness от EleutherAI. Оператор предоставляет CRD LMEvalJob для запуска и управления задачами оценки. Подробнее см. Evaluate LLM.
• AI Guardrails (FMS-Guardrails): модульная платформа для защиты LLM. Оператор предоставляет CRD GuardrailsOrchestrator для оркестрации политик и компонентов защитных механизмов. Подробнее см. AI Guardrails for LLM safety.

Для установки на платформе см. Install TrustyAI.

Для использования LMEvalJob и GuardrailsOrchestrator после установки см. разделы, ссылки на которые приведены выше.

#Документация

Документация TrustyAI upstream и репозиторий оператора:

• TrustyAI Operator (upstream): https://github.com/trustyai-explainability/trustyai-service-operator — обзор, установка и использование оператора Kubernetes.
• TrustyAI Documentation: https://trustyai.org/ — документация проекта TrustyAI.