Установка
Содержание
Аппаратные требования
- Не менее двух узлов с общим количеством 16 ядер и 32 ГБ памяти.
- Дополнительные ресурсы для выполнения runtime определяются фактическим масштабом бизнеса: 10 одновременных инстансов инференса LLM размера 7B требуют как минимум 10 GPU и соответствующие CPU, память, дисковое пространство и объектное хранилище.
- 200 ГБ свободного дискового пространства на каждом рабочем узле.
Установка
Установка Alauda AI включает следующие основные задачи:
- Подтвердить и настроить ваш кластер в соответствии со всеми требованиями. См. Pre-installation Configuration.
- Установить Alauda AI Essentials. См. Install Alauda AI Essentials.
- Установить Alauda AI. См. Install Alauda AI.
После этого основные возможности Alauda AI будут успешно развернуты. Если вы хотите быстро ознакомиться с продуктом, пожалуйста, обратитесь к разделу Quick Start.