#Введение

#Что такое HAMi?

Heterogeneous AI Computing Virtualization Middleware (HAMi), ранее известный как k8s-vGPU-scheduler, — это chart «все в одном», предназначенный для управления гетерогенными устройствами для AI-вычислений в кластере Kubernetes. Он позволяет совместно использовать гетерогенные AI-устройства между задачами.

#Зачем нужен HAMi

#Совместное использование устройств

• Поддерживает несколько гетерогенных устройств для AI-вычислений
• Поддерживает совместное использование устройств для контейнеров с несколькими устройствами

#Управление памятью устройства

• Жесткий лимит внутри контейнера
• Поддерживает динамическое выделение памяти устройства
• Поддерживает выделение памяти в MB или в процентах

#Указание устройства

• Поддерживает указание типа устройства для гетерогенных устройств AI-вычислений
• Поддерживает выбор конкретного гетерогенного устройства AI-вычислений по UUID

#Простота опробования

• Прозрачен для задач внутри контейнера
• Установка и удаление через Helm — просто и аккуратно

#Открытость и нейтральность

• Совместно инициирован участниками из сфер интернет, финансов, производства и облачных провайдеров
• Ориентирован на открытое управление через CNCF