Понимание MetalLB

Содержание

Терминология

ТерминОписание
VIPВиртуальный IP-адрес (VIP) — это IP-адрес, назначаемый MetalLB для внутренней маршрутизации типа LoadBalancer, обеспечивающий единый точку доступа для внешнего трафика к сервисам внутри кластера.
ARPПротокол разрешения адресов (ARP) используется для сопоставления IP-адресов сетевого уровня с MAC-адресами канального уровня.
GARPGratuitous ARP (GARP) — это специальный ARP-запрос, используемый для информирования других узлов в сети о привязке IP-адреса к MAC-адресу. В отличие от обычных ARP-запросов, GARP не ожидает ответов, а активно рассылает информацию по сети.
ARP ResponderКомпонент MetalLB, отвечающий на ARP-запросы, сопоставляя VIP с MAC-адресом узла. Когда узлу необходимо связаться с VIP, он отправляет ARP-запросы для получения MAC-адреса, соответствующего VIP. Каждый доступный узел имеет ARP Responder, который отвечает на эти запросы, сопоставляя VIP с MAC-адресом узла.
ControllerКомпонент MetalLB, который динамически выделяет VIP из пула внешних адресов для внутренней маршрутизации типа LoadBalancer. Controller отслеживает события создания и удаления внутренних маршрутов в кластере для выделения или освобождения VIP по мере необходимости.
SpeakerКомпонент MetalLB, который на основе политик или алгоритмов определяет, должны ли узлы размещать VIP и отправлять GARP. Он обеспечивает определённый уровень баланса между узлами, и когда узел становится недоступен, другие узлы могут взять на себя VIP и отправить GARP, обеспечивая тем самым высокую доступность.

Принципы высокой доступности в MetalLB

По умолчанию платформа использует ARP-режим MetalLB, а конкретный процесс реализации и принципы следующие:

  • Компонент Controller MetalLB выбирает IP-адрес из пула внешних адресов и выделяет его для внутренней маршрутизации типа LoadBalancer в качестве VIP.

  • MetalLB выбирает доступный узел в качестве лидера для размещения VIP на основе алгоритма, который затем перенаправляет трафик.

  • Компонент Speaker на этом узле активно отправляет GARP, устанавливая связь между VIP и MAC-адресом на всех узлах.

    • Узлы в одной подсети, узнав сопоставление между VIP и MAC-адресом доступного узла, будут напрямую взаимодействовать с этим узлом при обращении к VIP.

    • Узлы в разных подсетях сначала направляют трафик на шлюз своей подсети, который затем перенаправляет трафик на узел, размещающий VIP.

  • При сбое этого узла MetalLB выбирает другого лидера для размещения VIP и отправляет GARP для обновления MAC-адреса IP-сервиса, обеспечивая тем самым высокую доступность.

  • По достижении узла Kube-Proxy перенаправляет трафик соответствующему Pod.

Алгоритм выбора узлов-хозяев VIP

Выбор «лидера» (узла, который будет рекламировать IP) для конкретного IP-адреса балансировщика нагрузки является статeless и работает следующим образом:

  • каждый speaker собирает список потенциальных объявителей данного IP, учитывая активных speakers, политику внешнего трафика, активные endpoints, селекторы узлов и другие параметры.
  • каждый speaker выполняет одинаковый расчёт: получает отсортированный список хэшей элементов «node+VIP» и объявляет сервис, если он является первым элементом списка.

Это устраняет необходимость хранить память о том, какой speaker отвечает за рекламу данного IP.

Формула расчёта

Формула: Количество пулов внешних адресов = ceil(n-vip / n-node), где ceil — округление вверх.

Примечание: При использовании виртуальных машин количество виртуальных машин = Количество пулов внешних адресов * n. Здесь n должно быть больше 2, с допущением отказа не более одного узла.

  • n-vip: количество VIP.

  • n-node: количество VIP, которое может обслуживать один узел.

Пример применения

Если в компании 10 VIP, и каждый доступный узел может обслуживать 5 VIP, при допущении отказа одного узла, как компании спланировать количество пулов внешних адресов и доступных узлов?

Анализ:

Требуется всего два пула внешних адресов и четыре доступных узла.

  • Каждый доступный узел может обслуживать максимум 5 VIP, значит один пул внешних адресов может вместить 5 VIP, следовательно, для 10 VIP нужны два пула внешних адресов.

  • При допущении отказа одного узла каждый пул адресов должен включать один узел с VIP и один резервный узел, что даёт два доступных узла для каждого из двух пулов внешних адресов.

Дополнительные ресурсы