Nginx负载均衡最全详解(4大算法原理机制)

Nginx在大型网站架构很重要,也是大厂重点考察方向,今天我就重点来详解Nginx负载均衡@mikechen

本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。

Nginx负载均衡

Nginx负载均衡能够将客户端请求,分发到多个后端服务器(比如:应用1、应用2...应用N服务器),从而分散负载,提升应用的可用性、和性能。

如下图所示:

Nginx负载均衡,通过横向扩展,不仅可以添加、或移除后端服务器,以应对流量变化,实现动态扩展。

除此之外,负载均衡器可以作为系统的第一道防线,通过过滤和分发流量,帮助防御攻击...等等。

还可以,通过将请求分发到多个服务器上,从而,避免了Nginx 单点故障,还可以提高了系统的可靠性、和可用性。

Nginx负载均衡算法

Nginx 提供了多种“负载均衡算法”,经常使用的包括:随机、轮询、权重...等模式,下面我分别来详解原理与使用@mikechen

1、轮循(默认)

这是默认的Nginx负载均衡算法,Nginx 将请求按顺序轮流分配给每个后端服务器,如下图所示:

轮询算法的工作原理非常简单:

  • 负载均衡器维护一个后端服务器列表,并在其中循环遍历;
  • 每当有新的请求到来时,负载均衡器按顺序选择列表中的下一个服务器进行分发;
  • 当遍历到列表的末尾时,重新回到列表的起点,继续按顺序分配请求。

配置轮询算法非常简单,只需要在配置文件中定义上游服务器列表即可。

如下所示:

http {
    upstream myapp {
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

轮询:适用于大多数基本负载均衡需求,但是,当应用场景复杂,需要考虑服务器负载时,可以选择,比如:加权轮询、最少连接数等。

2.加权轮询

加权轮询是一种改进的轮询算法,主要作用是:根据后端服务器的处理能力(权重)来分配请求。

如下图所示:

加权轮询的工作原理如下:

每个后端服务器分配一个权重值(weight),权重值越高,服务器处理的请求数量越多;

例如:权重值为“3”的服务器,接收到的请求次数,将是权重值为1的服务器的三倍。

配置如下:

http {
    upstream myapp {
        server backend1.example.com weight=3;
        server backend2.example.com weight=2;
        server backend3.example.com weight=1;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

具体来说,backend1.example.com 接收到的请求数量,将是 backend3.example.com 的三倍。

这种算法适用于:后端服务器性能不一致的情况。

通过加权分配,使得处理能力更强的服务器承担更多的请求,从而优化整体系统性能、和资源利用。

3.ip_hash模式

IP哈希负载均衡算法,主要作用是:基于客户端IP地址的哈希值将请求分配给后端服务器。

如下图所示:

此算法的主要优点在于:它能够实现会话保持(Session Persistence),即确保来自同一客户端的所有请求,都分配到同一个后端服务器。

这种方式保证了会话的连续性,即同一客户端的所有请求,都能访问同一个后端服务器。

配置,如下所示:

http {
    upstream myapp {
        ip_hash;
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

这种方式,适用于:需要保持用户状态、或会话信息的一些应用,比如:购物车、支付...等。

但是也要注意:如果某台服务器宕机,负载均衡器需要重新计算哈希值,将请求分配到其他服务器,因此,健康检查机制非常重要。

4、最少连接

最少连接数(Least Connections),主要作用是:将新的请求分配给当前活动连接数最少的后端服务器。

如下图所示:

配置如下:

http {
    upstream myapp {
        least_conn;
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

最少连接数算法:能够有效避免某些服务器过载。

能够根据实际负载情况动态调整请求分配,适用于请求处理时间不一致的场景。

本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。

相关文章

Nginx架构最全详解(图文全面总结)

Nginx是大型架构的必备中间件,也是高并发架构的关键点,下面我重点详解Nginx架构@mikechen本文作者:陈睿|mikechen文章来源:mikechen.ccNginxNginx是一款高性能...

【Nginx】史上最全的Nginx配置详解

Nginx服务器配置中最频繁的部分,代理、缓存和日志定义等绝大多数功能和第三方模块的配置都在这里,http块又包括http全局块和server块。Nginx是非常重要的负载均衡中间件,被广泛应用于大型...

Nginx最全教程(万字图文总结)

大家好,我是mikechen。Nginx是非常重要的中间件,被广泛应用于大型网站架构,各大厂基本都在使用,下面我就全面来详解:Nginx@mikechen本篇已收于mikechen原创超30万字《阿里...

Nginx配置最全详解(万字图文总结)

[TOC]Nginx 也是我们比较常见的“玩具”了,不过有的小伙伴对 Nginx 配置不熟悉,每次使用的时候都要搜索,松哥在本文中给出一些常见的配置案例,小伙伴们可以收藏备用。一 什么是 NginxN...

Nginx/OpenResty详解,Nginx Lua编程,重定向与内部子请求

重定向与内部子请求Nginx的rewrite指令不仅可以在Nginx内部的server、location之间进行跳转,还可以进行外部链接的重定向。通过ngx_lua模块的Lua函数除了能实现Nginx...

Nginx 详细介绍及使用方法

Nginx 详细介绍及使用方法Nginx(发音为 "engine-x")是一个高性能的HTTP和反向代理服务器,也可以用作IMAP/POP3/SMTP代理服务器。它以其高并发连接处理能...