負(fù)載均衡原理
彈性負(fù)載均衡是如何工作的
彈性負(fù)載均衡的工作原理如下:
1、客戶端向您的應(yīng)用程序發(fā)出請(qǐng)求。
2、負(fù)載均衡器中的監(jiān)聽器接收與您配置的協(xié)議和端口匹配的請(qǐng)求。
3、監(jiān)聽器再根據(jù)您的配置將請(qǐng)求轉(zhuǎn)發(fā)至相應(yīng)的后端服務(wù)器組。如果配置了轉(zhuǎn)發(fā)策略,監(jiān)聽器會(huì)根據(jù)您配置的轉(zhuǎn)發(fā)策略評(píng)估傳入的請(qǐng)求,如果匹配,請(qǐng)求將被轉(zhuǎn)發(fā)至相應(yīng)的后端服務(wù)器組。
4、后端服務(wù)器組中健康檢查正常的后端服務(wù)器將根據(jù)分配策略和您在監(jiān)聽器中配置的轉(zhuǎn)發(fā)策略的路由規(guī)則接收流量,處理流量并返回客戶端。
請(qǐng)求的流量分發(fā)與負(fù)載均衡器所綁定的監(jiān)聽器配置的轉(zhuǎn)發(fā)策略和后端服務(wù)器組配置的分配策略類型相關(guān)。
分配策略類型
獨(dú)享型負(fù)載均衡支持加權(quán)輪詢算法、加權(quán)最少連接、源IP算法、連接ID算法,共享型負(fù)載均衡支持加權(quán)輪詢算法、加權(quán)最少連接、源IP算法。
加權(quán)輪詢算法:根據(jù)后端服務(wù)器的權(quán)重,按順序依次將請(qǐng)求分發(fā)給不同的服務(wù)器。它用相應(yīng)的權(quán)重表示服務(wù)器的處理性能,按照權(quán)重的高低以及輪詢方式將請(qǐng)求分配給各服務(wù)器,權(quán)重大的后端服務(wù)器被分配的概率高。相同權(quán)重的服務(wù)器處理相同數(shù)目的連接數(shù)。常用于短連接服務(wù),例如HTTP等服務(wù)。
加權(quán)最少連接:最少連接是通過當(dāng)前活躍的連接數(shù)來(lái)估計(jì)服務(wù)器負(fù)載情況的一種動(dòng)態(tài)調(diào)度算法。加權(quán)最少連接就是在最少連接數(shù)的基礎(chǔ)上,根據(jù)服務(wù)器的不同處理能力,給每個(gè)服務(wù)器分配不同的權(quán)重,使其能夠接受相應(yīng)權(quán)值數(shù)的服務(wù)請(qǐng)求。常用于長(zhǎng)連接服務(wù),例如數(shù)據(jù)庫(kù)連接等服務(wù)。
源IP算法:將請(qǐng)求的源IP地址進(jìn)行一致性Hash運(yùn)算,得到一個(gè)具體的數(shù)值,同時(shí)對(duì)后端服務(wù)器進(jìn)行編號(hào),按照運(yùn)算結(jié)果將請(qǐng)求分發(fā)到對(duì)應(yīng)編號(hào)的服務(wù)器上。這可以使得對(duì)不同源IP的訪問進(jìn)行負(fù)載分發(fā),同時(shí)使得同一個(gè)客戶端IP的請(qǐng)求始終被派發(fā)至某特定的服務(wù)器。該方式適合負(fù)載均衡無(wú)cookie功能的TCP協(xié)議。
連接ID算法:利用報(bào)文里的連接ID字段進(jìn)行一致性hash算法,得到一個(gè)具體的數(shù)值,同時(shí)對(duì)后端服務(wù)器進(jìn)行編號(hào),按照運(yùn)算結(jié)果將請(qǐng)求分發(fā)到對(duì)應(yīng)編號(hào)的服務(wù)器上。這可以使得對(duì)不同連接ID的訪問進(jìn)行負(fù)載分發(fā),同時(shí)使得同一個(gè)連接ID的請(qǐng)求始終被派發(fā)至某特定的服務(wù)器。該方式適合于負(fù)載均衡QUIC協(xié)議應(yīng)用的報(bào)文流。
說明:當(dāng)前僅獨(dú)享型負(fù)載均衡支持連接ID算法。
影響負(fù)載均衡的因素
一般情況下,影響負(fù)載均衡分配的因素包括分配策略、會(huì)話保持、長(zhǎng)連接、權(quán)重等。換言之,最終是否均勻分配不僅與分配策略相關(guān),還與使用的長(zhǎng)短連接、后端的性能負(fù)載等相關(guān)。
假設(shè)可用區(qū)內(nèi)有2臺(tái)權(quán)重相同且不為0的后端服務(wù)器,流量分配策略選擇“加權(quán)最少連接”,未開啟會(huì)話保持,ECS 01已有100個(gè)連接,ECS 02已有50個(gè)連接。
如果有客戶端A使用長(zhǎng)連接訪問了ECS 01,長(zhǎng)連接未斷開期間,客戶端A的業(yè)務(wù)流量將持續(xù)轉(zhuǎn)發(fā)到ECS 01,其他客戶端的業(yè)務(wù)流量則根據(jù)分配策略優(yōu)先分配到ECS 02。
說明:后端服務(wù)器健康檢查異常或權(quán)重設(shè)置為0時(shí),ELB不會(huì)轉(zhuǎn)發(fā)業(yè)務(wù)流量到該后端服務(wù)器。
配置流量分配策略請(qǐng)參考流量分配策略。
檢查請(qǐng)求不均衡請(qǐng)參考如何檢查請(qǐng)求不均衡?。
負(fù)載均衡的優(yōu)勢(shì)
獨(dú)享型負(fù)載均衡的優(yōu)勢(shì)
共享型負(fù)載均衡的優(yōu)勢(shì)
負(fù)載均衡搭建相關(guān)文檔
-
獨(dú)享型負(fù)載均衡與共享型彈性負(fù)載均衡的區(qū)別
彈性負(fù)載均衡有不同的負(fù)載均衡,分別是獨(dú)享型負(fù)載均衡、共享型負(fù)載均衡,便于用戶根據(jù)不同的應(yīng)用場(chǎng)景和功能需求選擇合適的負(fù)載均衡器類型。
彈性負(fù)載均衡有不同的負(fù)載均衡,分別是獨(dú)享型負(fù)載均衡、共享型負(fù)載均衡,便于用戶根據(jù)不同的應(yīng)用場(chǎng)景和功能需求選擇合適的負(fù)載均衡器類型。
-
負(fù)載均衡搭建-權(quán)限管理
如果您需要對(duì)華為云上購(gòu)買的彈性負(fù)載均衡資源,給企業(yè)中的員工設(shè)置不同的訪問權(quán)限,以達(dá)到不同員工之間的權(quán)限隔離,您可以使用統(tǒng)一身份認(rèn)證服務(wù)進(jìn)行精細(xì)的權(quán)限管理。
如果您需要對(duì)華為云上購(gòu)買的彈性負(fù)載均衡資源,給企業(yè)中的員工設(shè)置不同的訪問權(quán)限,以達(dá)到不同員工之間的權(quán)限隔離,您可以使用統(tǒng)一身份認(rèn)證服務(wù)進(jìn)行精細(xì)的權(quán)限管理。
-
負(fù)載均衡搭建-ELB網(wǎng)絡(luò)流量路徑說明
負(fù)載均衡將來(lái)自客戶端的請(qǐng)求通過負(fù)載均衡器分發(fā)至后端服務(wù)器,后端服務(wù)器再將響應(yīng)通過內(nèi)網(wǎng)返回給負(fù)載均衡。負(fù)載均衡器和后端服務(wù)器之間是通過內(nèi)網(wǎng)進(jìn)行通信的。
負(fù)載均衡將來(lái)自客戶端的請(qǐng)求通過負(fù)載均衡器分發(fā)至后端服務(wù)器,后端服務(wù)器再將響應(yīng)通過內(nèi)網(wǎng)返回給負(fù)載均衡。負(fù)載均衡器和后端服務(wù)器之間是通過內(nèi)網(wǎng)進(jìn)行通信的。
-
負(fù)載均衡搭建-計(jì)費(fèi)說明(共享型)
彈性負(fù)載均衡提供兩種類型的負(fù)載均衡:分為公網(wǎng)負(fù)載均衡和私網(wǎng)負(fù)載均衡
彈性負(fù)載均衡提供兩種類型的負(fù)載均衡:分為公網(wǎng)負(fù)載均衡和私網(wǎng)負(fù)載均衡
-
負(fù)載均衡搭建-計(jì)費(fèi)說明(獨(dú)享型)
自2021年4月1日起,彈性負(fù)載均衡獨(dú)享型實(shí)例在不同Region分批次開始收費(fèi)。本章節(jié)主要介紹獨(dú)享型ELB實(shí)例的計(jì)費(fèi)詳情。
自2021年4月1日起,彈性負(fù)載均衡獨(dú)享型實(shí)例在不同Region分批次開始收費(fèi)。本章節(jié)主要介紹獨(dú)享型ELB實(shí)例的計(jì)費(fèi)詳情。
-
負(fù)載均衡搭建-查看流量使用情況
已經(jīng)正常運(yùn)行了一段時(shí)間的負(fù)載均衡器。關(guān)聯(lián)的后端服務(wù)器在關(guān)機(jī)、故障、刪除狀態(tài),無(wú)法在云監(jiān)控中查看其監(jiān)控指標(biāo)。當(dāng)后端服務(wù)器再次啟動(dòng)或恢復(fù)后,即可正常查看。
已經(jīng)正常運(yùn)行了一段時(shí)間的負(fù)載均衡器。關(guān)聯(lián)的后端服務(wù)器在關(guān)機(jī)、故障、刪除狀態(tài),無(wú)法在云監(jiān)控中查看其監(jiān)控指標(biāo)。當(dāng)后端服務(wù)器再次啟動(dòng)或恢復(fù)后,即可正常查看。
-
負(fù)載均衡搭建-使用訪問日志定位異常后端服務(wù)器
您可以通過云日志服務(wù),查看訪問七層共享型負(fù)載均衡請(qǐng)求的詳細(xì)日志記錄,分析負(fù)載均衡的響應(yīng)狀態(tài)碼,快速定位異常的后端服務(wù)器。
您可以通過云日志服務(wù),查看訪問七層共享型負(fù)載均衡請(qǐng)求的詳細(xì)日志記錄,分析負(fù)載均衡的響應(yīng)狀態(tài)碼,快速定位異常的后端服務(wù)器。
-
負(fù)載均衡搭建-API概覽
通過使用彈性負(fù)載均衡服務(wù)所提供的接口,您可以完整的使用彈性負(fù)載均衡服務(wù)的所有功能。
通過使用彈性負(fù)載均衡服務(wù)所提供的接口,您可以完整的使用彈性負(fù)載均衡服務(wù)的所有功能。
-
負(fù)載均衡搭建-SDK概述
負(fù)載均衡搭建幫助視頻
創(chuàng)建彈性負(fù)載均衡實(shí)例
04:32
配置彈性負(fù)載均衡訪問日志
02:44
如何排查健康檢查異常
06:24