Устанавливаем балансировщик нагрузки haproxy на centos

введение в Haproxy

Haproxy — это обратный прокси-сервер TCP / HTTP с открытым исходным кодом и программное обеспечение для балансировки нагрузки, особенно подходящее для сред высокой доступности. Реализует управляемую событиями, однопроцессную модель, которая поддерживает очень большие одновременные соединения, потому что управляемая событиями модель имеет лучшее пространство пользователя для управления ресурсами и временем для реализации этих сервисов.

Очень мощная балансировка нагрузки на уровне 7 (поддержка отслеживания файлов cookie, перезапись заголовка и т. Д.) Поддержка горячего резервного копирования для двух машин Поддержка виртуального хоста поддерживает проверку работоспособности Он также предоставляет интуитивно понятную страницу мониторинга, которая может четко отслеживать состояние работы кластера служб в режиме реального времени. также поддерживает System Epoll в ядре Linux 2.6, что значительно улучшает производительность сетевого ввода-вывода за счет упрощения системных вызовов.

Passing a Request to a Proxied Server

When NGINX proxies a request, it sends the request to a specified proxied server, fetches the response, and sends it back to the client. It is possible to proxy requests to an HTTP server (another NGINX server or any other server) or a non-HTTP server (which can run an application developed with a specific framework, such as PHP or Python) using a specified protocol. Supported protocols include FastCGI, uwsgi, SCGI, and memcached.

To pass a request to an HTTP proxied server, the directive is specified inside a . For example:

This example configuration results in passing all requests processed in this location to the proxied server at the specified address. This address can be specified as a domain name or an IP address. The address may also include a port:

Note that in the first example above, the address of the proxied server is followed by a URI, . If the URI is specified along with the address, it replaces the part of the request URI that matches the location parameter. For example, here the request with the URI will be proxied to . If the address is specified without a URI, or it is not possible to determine the part of URI to be replaced, the full request URI is passed (possibly, modified).

To pass a request to a non-HTTP proxied server, the appropriate directive should be used:

• passes a request to a FastCGI server
• passes a request to a uwsgi server
• passes a request to an SCGI server
• passes a request to a memcached server

Note that in these cases, the rules for specifying addresses may be different. You may also need to pass additional parameters to the server (see the reference documentation for more detail).

The directive can also point to a of servers. In this case, requests are distributed among the servers in the group according to the specified method.

Что такое HAProxy?

HAProxy, или High Availability Proxy, является программным балансировщиком нагрузки TCP/HTTP. Он распределяет рабочую нагрузку по серверам для обеспечения максимальной производительности и оптимизации использования ресурсов. HAProxy поддерживает гибко настраиваемые методы проверки доступности, обработки отказов и восстановления после них.

Приложение, использующее базу данных, может легко перенасытить ее слишком большим количеством одновременно работающих соединений. HAProxy обеспечивает организацию очереди и регулирование соединений с одним или несколькими серверами MySQL и предотвращает перегрузку одного сервера слишком большим количеством запросов. Все клиенты подключаются к экземпляру HAProxy, а обратный прокси-сервер пересылает подключение к одному из доступных серверов MySQL на основе используемого алгоритма распределения нагрузки.

В одном из вариантов настройки HAProxy устанавливается на каждом сервере приложений, выполняющем запросы к базе данных. Такой вариант отлично подходит при наличии нескольких серверов, что позволяет контролировать нагрузку и скрыть организацию кластера СУБД. Приложение подключается к локальному HAProxy (например, устанавив mysql-соединение на 127.0.0.1:3306) и может получить доступ ко всем серверам базы данных. Веб-сервер и HAProxy вместе образуют рабочий блок, поэтому веб-сервер не будет работать, если HAProxy недоступен.

Использование HAProxy для балансировки нагрузки дает следующие преимущества:

• Все приложения получают доступ к кластеру через указанные IP-адреса. Внутренняя топология кластера базы данных скрывается за HAProxy.
• Соединения MySQL распределены между доступными узлами БД.
• Можно добавлять или удалять узлы базы данных без необходимости внесения каких-либо изменений в приложения.
• Как только достигается максимальное количество соединений с базой данных, новые соединения ставятся в очередь. Это удобный способ ограничения количества запросов на соединение с базой данных, обеспечивающий защиту от перегрузки.

ClusterControl поддерживает развертывание HAProxy из пользовательского интерфейса, поддерживая стандартные алгоритмы балансировки, предоставляемые HAProxy:

• Round Robin. Каждый сервер получает запросы пропорционально своему весу, при этом веса серверов могут меняться на лету.
• Least Connection. Выбирается сервер с наименьшим количеством активных соединений.
• Source Hash Scheduling. Сервер для соединения назначается на основе хэша IP-адреса отправителя запроса и весов серверов.

Настройка Nginx

Пример с настройкой Nginx будет включать самый распространённый случай, когда backend это LAMP с каким-то сайтом. Конфигурация Nginx содержит блок https, SSL сертификат которого уже был заранее выдан.

Обновление CentOS и добавление репозитория epel

yum -y install epel-release nano && yum -y update

установка Nginx

yum install nginx

mkdir /etc/nginx/{sites-available,sites-enabled,ssl}

адаптация конфигурацию nginx

nano /etc/nginx/nginx.conf

добавить в директиву http

include /etc/nginx/sites-enabled/*.conf;

и комментируем блок server. Настройка Nginx virtual host сводится к определению конфигурационных файлов

nano /etc/nginx/sites-available/disk.topnet.conf

# Redirect Options
server {
listen 80;
server_name disk.topnet.com.ua;
# enforce https
return 301 https://$server_name$request_uri;
}
server {
listen 443 ssl;
# SSL config
ssl on;
ssl_certificate /etc/nginx/ssl/disk.topnet.com.ua/fullchain.pem;
ssl_certificate_key /etc/nginx/ssl/disk.topnet.com.ua/privkey.pem;
server_name disk.topnet.com.ua;
set $upstream 192.168.5.250;
location / {
proxy_pass_header Authorization;
proxy_pass https://$upstream;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_buffering off;
client_max_body_size 0;
proxy_read_timeout 36000s;
proxy_redirect off;
proxy_ssl_session_reuse off;
}
}

Поддержи автора статьи, просмотри рекламу ↓↓↓

создание символьный ссылки

ln -s /etc/nginx/sites-available/disk.topnet.conf /etc/nginx/sites-enabled/

проверка конфигурации Nginx

nginx -t

systemctl start nginx
systemctl enable nginx

добавлений правил FireWall в CentOS

firewall-cmd --add-service=http
firewall-cmd --add-service=https
firewall-cmd --runtime-to-permanent

4 ответа

Решение

2019 обновление:

Это стабильные и зрелые продукты. HAProxy предназначен для балансировки нагрузки и лучше в этом, тогда как nginx является веб-сервером, который может выступать в качестве балансировщика нагрузки.

И то и другое:

• Поддержка HTTPS
• Поддержка веб-сокетов
• Стабильные, зрелые и очень эффективные продукты
• Может обрабатывать 10 тыс. Соединений с минимальной настройкой или без настройки

HAProxy:

• Балансировка нагрузки TCP, TCP-SSL, HTTP и HTTPS
• Больше гибкости при проверках работоспособности и условиях отработки отказа
• Базовое кеширование (v1.8 — 2017)
• Настраиваемый формат журнала, чтобы импортировать журналы доступа в kibana/splunk/graylog
• Подробная страница состояния, чтобы увидеть активные запросы и состояние серверов
• Экспортируемые метрики для интеграции с решениями для мониторинга (графит / прометей / данные)
• Более ориентированный на высокую производительность. Лучше указывать на обработку 100 тыс. Соединений или 40 GbE-интерфейсов.

Nginx:

• Балансировка нагрузки HTTP и HTTPS (TCP — UDP в платной версии)
• Больше гибкости при кэшировании
• Настраиваемый формат журнала, чтобы импортировать журналы доступа в kibana/splunk/graylog
• Нет страницы статуса (только платная версия)
• Нет экспортируемых метрик (только платная версия)
• Может обслуживать локальные файлы
• Может обслуживать приложения FastCGI (не CGI)

HAProxy — это бесплатное программное обеспечение с полностью открытым исходным кодом. Они зарабатывают деньги, продавая аппаратное устройство с предустановленной HAProxy.

Nginx является открытым ядром, и многие функции доступны только в платной версии. Примечательно, что ему не хватает страницы состояния и показателей мониторинга, что является большим НЕТ НЕТ для работы балансировщика нагрузки.

3

2019-03-13 01:08

HAProxy — это просто балансировщик нагрузки / обратный прокси. Nginx — это веб-сервер, который также может работать как обратный прокси-сервер.

Вот некоторые отличия:

HAProxy:

• Поддерживает ли TCP и HTTP-прокси (SSL добавлен с 1.5-dev12)
• Больше вариантов ограничения скорости
• Автор отвечает на вопросы здесь о сбое сервера;-)

Nginx:

• Поддерживает SSL напрямую
• Также есть кеширующий сервер

В Stack Overflow мы в основном используем HAProxy с nginx для разгрузки SSL, поэтому HAProxy — моя рекомендация.

40

2011-02-03 15:23

Я использую nginx для внешнего интерфейса HAProxy, но только для завершения SSL.

HAProxy — гораздо более настраиваемый и управляемый балансировщик нагрузки (по моему опыту).

Я также включил Varnish для кэширования статических объектов. (как специфический бэкэнд HAProxy)

Смотрите этот вопрос о сбое сервера для получения дополнительной информации. Заказ nginx/ лака /haproxy

11

2011-02-03 05:49

При необходимости только для балансировки нагрузки лучше прокси HA. Но сочетание nginix и HA-прокси может быть более полезным, поскольку nginix быстро предоставляет статический контент, он будет обслуживать все запросы статических данных, а затем отправлять все запросы HA-прокси, которые служат для балансировки нагрузки, и отправлять запросы на веб-сервер для обслуживания. запрос по балансировке нагрузки.

5

2012-10-16 15:40

Testing Protocols and Metrics Collected

We used the load‑generation program to emulate a client, making continuous requests over HTTPS during a defined period. The system under test – HAProxy or NGINX – acted as a reverse proxy, establishing encrypted connections with the clients simulated by threads, forwarding requests to a backend web server running NGINX Plus R22, and returning the response generated by the web server (a file) to the client.

Each of the three components (client, reverse proxy, and web server) ran Ubuntu 20.04.1 LTS on a c5n.2xlarge Amazon Machine Image (AMI) in EC2.

As mentioned, we collected the full latency percentile distribution from each test run. Latency is defined as the amount of time between the client generating the request and receiving the response. A latency percentile distribution sorts the latency measurements collected during the testing period from highest (most latency) to lowest.

Устранение проблемы прокси-сервера Nginx

На предыдущем скриншоте см. эту информацию:

Первая и вторая строки указывают на возможность разрешения локальных проблем и подключения в розетке. Поэтому nginx должен быть запущен. Чтобы убедиться в этом, можно выполнить команду.

Третья строка указывает источник проблемы. Вы получаете сообщение об ошибке http 502 Bad Gateway. Плохой шлюз HTTP 502 связан с прокси-сайтами. Это означает, что обратный прокси не может подключиться к заднему приложению. В этом случае это ваше ASP.NET Core приложение, которое должно запускаться и прослушиваться в порте 5000 для запросов. Необходимо проверить, запущено ли также веб-приложение.

Чтобы начать устранение неполадок, запустите ту же команду, что и раньше. На этот раз используйте grep для фильтрации порта приложения 5000. Затем запустите .

Этот пример показывает, что в порту 5000 ничего не прослушивается. Таким образом, это является причиной ответа HTTP 502, который приходит из Nginx, так как он может найти процесс, который прослушивается в порту 5000.

Решение заключается в запуске ASP.NET Core приложения. Однако, прежде чем ходить дальше, вы можете просмотреть другой подход для устранения этой проблемы. Не каждая проблема так же проста в исправлении, как простое просмотр нескольких строк контента журнала и поиск первопричины. Иногда необходимо глубоко погрузиться в другие журналы систем и приложений.

Поскольку вы тесно работаете с Nginx при ASP.NET Core приложений в Linux, мы предлагаем узнать, какие журналы Nginx и операционная система обеспечивают устранение неполадок.

Управление службами с помощью systemctl

Если вы не видите, что nginx запущен, вы можете начать его явно с помощью запуска . Хотя это упражнение будет демонстрировать команды для Nginx, эти команды используются для настройки веб-приложения для автоматического запуска в качестве daemon.

После завершения установки Nginx уже настроен для автоматического запуска. Nginx выполняется как daemon. Состояние деймона можно проверить с помощью systemctl.

Команда используется для управления «службами» для таких задач, как отображение состояния службы или ее запуск и остановка. Некоторые доступные параметры: запуск, остановка, перезапуск, включить, отключить и состояние. Чтобы проверить состояние Nginx, запустите .

Эта команда создает некоторые полезные сведения. Как показано на этом скриншоте, Nginx находится в состоянии, а iD процесса экземпляра Nginx — 8539

Кроме того, обратите внимание на и заявления. означает, что этот daemon начнется при перезапуске машины и означает, что nginx включен по умолчанию при установке

Поэтому при запуске сервера Nginx запустится автоматически.

Использование Nginx в качестве обратного прокси

Чтобы настроить Nginx в качестве обратного прокси для HTTP-сервера, откройте файл конфигурации блока сервера домена и укажите в нем расположение и прокси-сервер:

URL-адрес проксируемого сервера устанавливается с директивы и может использовать или качестве протокола, доменного имени или IP-адреса, а также необязательного порта и URI в качестве адреса.

Приведенная выше конфигурация указывает Nginx передавать все запросы в прокси-серверу по адресу .

В дистрибутивах на основе Ubuntu и Debian файлы серверных блоков хранятся в каталоге , а в CentOS — в .

Чтобы лучше проиллюстрировать, как директивы и , рассмотрим следующий пример:

Если посетитель обращается к , Nginx передаст этот запрос по прокси на .

Когда адрес проксируемого сервера содержит URI, ( ), URI запроса, который передается на проксируемый сервер, заменяется URI, указанным в директиве. Если адрес прокси-сервера указан без URI, полный URI запроса передается на прокси-сервер.

параметры команд systemctl

Службами или daemons можно управлять с помощью команды. Для запуска, остановки или внесения изменений требуется доступ к суперустановке. Поэтому необходимо добавить префикс в эти команды.

Перезапустите daemons

Может потребоваться время от времени перезапустить daemons. Чтобы перезапустить daemon, запустите . Чтобы перезапустить Nginx, запустите . Убедитесь, что вы проверяете состояние Nginx до и после запуска этой команды, чтобы отслеживать изменения в ID процесса.

Stop daemons

Чтобы остановить деймон, запустите . Чтобы остановить Nginx, запустите, а затем проверьте состояние Nginx, снова забегая. На этот раз служба отображается как неактивной (мертвой), но включенной. Это означает, что, хотя служба не запущена, она будет запущена автоматически после перезапуска сервера.

Примечание

Команда также отображает несколько строк предыдущих записей журнала для daemon.

После остановки Nginx запустите снова.

Примечание

Подключение отказано, так как для входящих трафика в порту 80 не прослушивается ничего.

Отключение деймонов

Отключение деймона отличается от остановки деймона. Деймон с отключенным доступом может работать, но он не будет автоматически запущен после перезапуска сервера. Чтобы отключить daemon Nginx, запустите, а затем проверьте состояние Nginx.

На этом скриншоте показано, что Nginx не работает и отключен. Это означает, что Nginx не будет автоматически запускаться после перезапуска.

Запуск daemons

Чтобы запустить daemon, запустите . Чтобы запустить Nginx, запустите службу и снова проверьте состояние службы.

На этом скриншоте показано, что Nginx запущен, но по-прежнему отключен. Несмотря на то, что служба запущена, Nginx не будет автоматически запускаться после перезапуска, так как это отключенная служба.

Включить daemons

Включение службы означает, что она будет запускаться автоматически после перезапуска. Чтобы включить Nginx, запустите и снова проверьте состояние Nginx.

На этом скриншоте показано, что Nginx запущен, и он будет запущен после перезапуска сервера.

Резервирование серверов

Теперь сделаем так, чтобы один и тот же запрос ходил по следующим правилам:

• /xxx – проксируем на http://172.30.93.84/test/ – если он доступен;
• а если не доступен, то проксируем на http://172.30.93.83/test/.

Для этого поправим наш конфиг /etc/nginx/sites-enabled/proxy и перед блоком server добавим блок upstream:

# nano /etc/nginx/sites-enabled/proxy
upstream backend {
        server 192.168.5.84:80 fail_timeout=120s max_fails=3;
        server 192.168.5.83:80 backup;
}

server {
        listen 80 default_server;

*** сократил ***

В этом блоке указываем оба web-сервера. При этом webбудет основным сервером. Но если proxy в течении 120 секунд получит три ошибки при обращении к web1, то на 120 секунд все запросы пойдут на web2.

Ниже в блоке server, где мы указывали что на что проксировать (блоки location), поменяем записи. Вместо ip-адреса web-сервера укажем название апстрима, которое мы придумали выше (backend). Второй блок (location /yyy) – удаляем. Получится так:

# проксируем запрос /xxx
location /xxx {
         proxy_pass http://backend/test/;
}

Полностью конфиг будет выглядеть так:

upstream backend {
        server 192.168.5.84:80 fail_timeout=3s max_fails=2;
        server 192.168.5.83:80 backup;
}

server {
        listen 80 default_server;
        listen :80 default_server;
        root /var/www/html;
        index index.html index.htm index.nginx-debian.html;
        server_name proxy;

        # Управление заголовками на прокси сервере
        proxy_set_header X-Scheme https;
        proxy_set_header X-Forwarded-Proto https;
        proxy_set_header Host $http_host;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Real-PORT $remote_port;
        proxy_set_header X-Real-IP $remote_addr;

        # настройка буфера для прокси сервера
        proxy_buffering  on;
        proxy_buffer_size 32k;
        proxy_buffers 20 512k;

        location / {
                # вначале попытаемся обработать запрос как файл,
                # затем как каталог, затем вернём ошибку 404
                try_files $uri $uri/ =404;
        }

        # проксируем запрос /xxx
        location /xxx {
                proxy_pass http://backend/test/;
        }
}

Перезапустим nginx:

# service nginx restart

Проверка резервирования

В браузере, используя адрес прокси сервера, открываем /xxx:

Затем отключаем сервер web1 и обновляем страничку:

Как видим мы перешли на второй сервер. Теперь включим обратно первый сервер и обновим страничку еще раз:

Теперь мы вернулись на первый сервер.

Таким образом вы можете создать два одинаковых веб сайта и в случае неисправности первого сервера, ваш сайт продолжит работать на втором сервере. Клиенты могут даже ничего не заметить.

5: Настройка контейнера HAProxy

Теперь нужно настроить контейнер обратного прокси-сервера HAProxy.

Направьте трафик в контейнеры с помощью доменных имен.

Примечание: В руководстве используются условные домены. Первый веб-сайт доступен по доменам example.com и www.example.com, а второй сайт – по www2.example.com.

Войдите в контейнер haproxy:

Обновите список пакетов и установите HAProxy:

Затем нужно настроить HAProxy. Конфигурационный файл HAProxy находится в /etc/haproxy/haproxy.cfg.

Внесите пару поправок в раздел defaults. Добавьте опцию forwardfor, чтобы сохранить исходный IP клиента. Опция http-server-close позволяет повторно использовать сессии и уменьшить задержку.

Затем нужно направить фронтэнд на контейнеры бэкэнда. Добавьте раздел www_frontend:

Команды acl указывают имена хостов веб-серверов и перенаправляют запросы в соответствующий раздел backend.

Затем добавьте разделы backend для веб-серверов (они будут называться web1_cluster и web2_cluster).

Параметр balance определяет стратегию балансировки нагрузки. В этом случае выбрано наименьшее количество подключений. Опция http-request устанавливает HTTP-заголовок с реальным IP-адресом веб-клиента. Без этого заголовка веб-сервер записывал бы IP-адрес HAProxy в качестве исходного IP всех соединений, что затрудняло бы анализ происхождения трафик. Опция server  задает имя сервера (web1), за которым следует имя хоста и порт сервера.

LXD предоставляет DNS-сервер для контейнеров. Потому web1.lxd разрешается на IP-адрес, связанный с контейнером web1. У других контейнеров есть свои имена хостов (web2.lxd и haproxy.lxd).

С помощью параметра check HAPRoxy поддерживает проверки состояния веб-серверов.

Убедитесь, что настройка работает должным образом:

Команда должна вернуть:

Перезапустите HAProxy:

Закройте контейнер и вернитесь в среду хоста.

Теперь HAProxy работает как обратный прокси-сервер, который передаёт соединения, поступающие на порт 80, соответствующему контейнеру. Убедитесь, что haproxy может перенаправлять соединения.

Эта команда создаст запрос HAProxy и установит HTTP-заголовок host, который HAProxy должен использовать для перенаправления соединения на соответствующий веб-сервер.

Команда должна вернуть:

Прокси-сервер HAProxy правильно понял запрос и отправил его в контейнер web2. Там веб-сервер обслужил страницу по умолчанию, которую вы отредактировали ранее, и вывел соответствующий текст. Теперь нужно направить внешние запросы в HAProxy, чтобы внешние клиенты могли получить доступ к веб-сайтам.