#Введение

#Что такое HAMi?

Heterogeneous AI Computing Virtualization Middleware (HAMi), ранее известный как k8s-vGPU-scheduler, — это универсальный чарт, предназначенный для управления гетерогенными AI-вычислительными устройствами в кластере k8s. Он обеспечивает возможность совместного использования гетерогенных AI-устройств между задачами.

#Почему HAMi

#Совместное использование устройств

• Поддержка нескольких гетерогенных AI-вычислительных устройств
• Поддержка совместного использования устройств для контейнеров с несколькими устройствами

#Контроль памяти устройств

• Жесткое ограничение внутри контейнера
• Поддержка динамического распределения памяти устройств
• Поддержка выделения памяти в МБ или в процентах

#Спецификация устройств

• Поддержка указания типа определенных гетерогенных AI-вычислительных устройств
• Поддержка указания конкретных гетерогенных AI-вычислительных устройств с использованием UUID устройства

#Легко попробовать

• Прозрачно для задач внутри контейнера
• Установка/удаление с помощью helm, просто и безопасно

#Открытость и нейтральность

• Совместная инициатива представителей интернета, финансов, производства, облачных провайдеров и др.
• Цель — открытое управление с CNCF