W3Cschool
恭喜您成為首批注冊(cè)用戶
獲得88經(jīng)驗(yàn)值獎(jiǎng)勵(lì)
之前的文章“一分鐘了解負(fù)載均衡的一切”引起了不少同學(xué)的關(guān)注,評(píng)論中大家爭(zhēng)論的比較多的一個(gè)技術(shù)點(diǎn)是接入層負(fù)載均衡技術(shù),部分同學(xué)持這樣的觀點(diǎn):
1)nginx前端加入lvs和keepalived可以替代“DNS輪詢”
2)F5能搞定接入層高可用、擴(kuò)展性、負(fù)載均衡,可以替代“DNS輪詢”
“DNS輪詢”究竟是不是過時(shí)的技術(shù),是不是可以被其他方案替代,接入層架構(gòu)技術(shù)演進(jìn),是本文將要細(xì)致討論的內(nèi)容。
nginx、lvs、keepalived、f5、DNS輪詢,每每提到這些技術(shù),往往討論的是接入層的這樣幾個(gè)問題:
1)可用性:任何一臺(tái)機(jī)器掛了,服務(wù)受不受影響
2)擴(kuò)展性:能否通過增加機(jī)器,擴(kuò)充系統(tǒng)的性能
3)反向代理+負(fù)載均衡:請(qǐng)求是否均勻分?jǐn)偟胶蠖说牟僮鲉卧獔?zhí)行
由于每個(gè)技術(shù)人的背景和知識(shí)域不同,上面那些名詞縮寫(運(yùn)維的同學(xué)再熟悉不過了),還是花1分鐘簡(jiǎn)單說(shuō)明一下(詳細(xì)請(qǐng)自行“百度”):
1)nginx:一個(gè)高性能的web-server和實(shí)施反向代理的軟件
2)lvs:Linux Virtual Server,使用集群技術(shù),實(shí)現(xiàn)在linux操作系統(tǒng)層面的一個(gè)高性能、高可用、負(fù)載均衡服務(wù)器
3)keepalived:一款用來(lái)檢測(cè)服務(wù)狀態(tài)存活性的軟件,常用來(lái)做高可用
4)f5:一個(gè)高性能、高可用、負(fù)載均衡的硬件設(shè)備(聽上去和lvs功能差不多?)
5)DNS輪詢:通過在DNS-server上對(duì)一個(gè)域名設(shè)置多個(gè)ip解析,來(lái)擴(kuò)充web-server性能及實(shí)施負(fù)載均衡的技術(shù)
【裸奔時(shí)代(0)單機(jī)架構(gòu)】
裸奔時(shí)代的架構(gòu)圖如上:
1)瀏覽器通過DNS-server,域名解析到ip
2)瀏覽器通過ip訪問web-server
缺點(diǎn):
1)非高可用,web-server掛了整個(gè)系統(tǒng)就掛了
2)擴(kuò)展性差,當(dāng)吞吐量達(dá)到web-server上限時(shí),無(wú)法擴(kuò)容
注:?jiǎn)螜C(jī)不涉及負(fù)載均衡的問題
【簡(jiǎn)易擴(kuò)容方案(1)DNS輪詢】
假設(shè)tomcat的吞吐量是1000次每秒,當(dāng)系統(tǒng)總吞吐量達(dá)到3000時(shí),如何擴(kuò)容是首先要解決的問題,DNS輪詢是一個(gè)很容易想到的方案:
此時(shí)的架構(gòu)圖如上:
1)多部署幾份web-server,1個(gè)tomcat抗1000,部署3個(gè)tomcat就能抗3000
2)在DNS-server層面,域名每次解析到不同的ip
優(yōu)點(diǎn):
1)零成本:在DNS-server上多配幾個(gè)ip即可,功能也不收費(fèi)
2)部署簡(jiǎn)單:多部署幾個(gè)web-server即可,原系統(tǒng)架構(gòu)不需要做任何改造
3)負(fù)載均衡:變成了多機(jī),但負(fù)載基本是均衡的
缺點(diǎn):
1)非高可用:DNS-server只負(fù)責(zé)域名解析ip,這個(gè)ip對(duì)應(yīng)的服務(wù)是否可用,DNS-server是不保證的,假設(shè)有一個(gè)web-server掛了,部分服務(wù)會(huì)受到影響
2)擴(kuò)容非實(shí)時(shí):DNS解析有一個(gè)生效周期
3)暴露了太多的外網(wǎng)ip
【簡(jiǎn)易擴(kuò)容方案(2)nginx】
tomcat的性能較差,但nginx作為反向代理的性能就強(qiáng)多了,假設(shè)線上跑到1w,就比tomcat高了10倍,可以利用這個(gè)特性來(lái)做擴(kuò)容:
此時(shí)的架構(gòu)圖如上:
1)站點(diǎn)層與瀏覽器層之間加入了一個(gè)反向代理層,利用高性能的nginx來(lái)做反向代理
2)nginx將http請(qǐng)求分發(fā)給后端多個(gè)web-server
優(yōu)點(diǎn):
1)DNS-server不需要?jiǎng)?/span>
2)負(fù)載均衡:通過nginx來(lái)保證
3)只暴露一個(gè)外網(wǎng)ip,nginx->tomcat之間使用內(nèi)網(wǎng)訪問
4)擴(kuò)容實(shí)時(shí):nginx內(nèi)部可控,隨時(shí)增加web-server隨時(shí)實(shí)時(shí)擴(kuò)容
5)能夠保證站點(diǎn)層的可用性:任何一臺(tái)tomcat掛了,nginx可以將流量遷移到其他tomcat
缺點(diǎn):
1)時(shí)延增加+架構(gòu)更復(fù)雜了:中間多加了一個(gè)反向代理層
2)反向代理層成了單點(diǎn),非高可用:tomcat掛了不影響服務(wù),nginx掛了怎么辦?
【高可用方案(3)keepalived】
為了解決高可用的問題,keepalived出場(chǎng)了(之前的文章“使用shadow-master保證系統(tǒng)可用性”詳細(xì)介紹過):
此時(shí):
1)做兩臺(tái)nginx組成一個(gè)集群,分別部署上keepalived,設(shè)置成相同的虛IP,保證nginx的高可用
2)當(dāng)一臺(tái)nginx掛了,keepalived能夠探測(cè)到,并將流量自動(dòng)遷移到另一臺(tái)nginx上,整個(gè)過程對(duì)調(diào)用方透明
優(yōu)點(diǎn):
1)解決了高可用的問題
缺點(diǎn):
1)資源利用率只有50%
2)nginx仍然是接入單點(diǎn),如果接入吞吐量超過的nginx的性能上限怎么辦,例如qps達(dá)到了50000咧?
【scale up擴(kuò)容方案(4)lvs/f5】
nginx畢竟是軟件,性能比tomcat好,但總有個(gè)上限,超出了上限,還是扛不住。
lvs就不一樣了,它實(shí)施在操作系統(tǒng)層面;f5的性能又更好了,它實(shí)施在硬件層面;它們性能比nginx好很多,例如每秒可以抗10w,這樣可以利用他們來(lái)擴(kuò)容,常見的架構(gòu)圖如下:
此時(shí):
1)如果通過nginx可以擴(kuò)展多個(gè)tomcat一樣,可以通過lvs來(lái)擴(kuò)展多個(gè)nginx
2)通過keepalived+VIP的方案可以保證可用性
99.9999%的公司到這一步基本就能解決接入層高可用、擴(kuò)展性、負(fù)載均衡的問題。
這就完美了嘛?還有潛在問題么?
好吧,不管是使用lvs還是f5,這些都是scale up的方案,根本上,lvs/f5還是會(huì)有性能上限,假設(shè)每秒能處理10w的請(qǐng)求,一天也只能處理80億的請(qǐng)求(10w秒吞吐量*8w秒),那萬(wàn)一系統(tǒng)的日PV超過80億怎么辦呢?(好吧,沒幾個(gè)公司要考慮這個(gè)問題)
【scale out擴(kuò)容方案(5)DNS輪詢】
如之前文章所述,水平擴(kuò)展,才是解決性能問題的根本方案,能夠通過加機(jī)器擴(kuò)充性能的方案才具備最好的擴(kuò)展性。
facebook,google,baidu的PV是不是超過80億呢,它們的域名只對(duì)應(yīng)一個(gè)ip么,終點(diǎn)又是起點(diǎn),還是得通過DNS輪詢來(lái)進(jìn)行擴(kuò)容:
此時(shí):
1)通過DNS輪詢來(lái)線性擴(kuò)展入口lvs層的性能
2)通過keepalived來(lái)保證高可用
3)通過lvs來(lái)擴(kuò)展多個(gè)nginx
4)通過nginx來(lái)做負(fù)載均衡,業(yè)務(wù)七層路由
聊了這么多,稍微做一個(gè)簡(jiǎn)要的總結(jié):
1)接入層架構(gòu)要考慮的問題域?yàn)?/strong>:高可用、擴(kuò)展性、反向代理+擴(kuò)展均衡
2)nginx、keepalived、lvs、f5可以很好的解決高可用、擴(kuò)展性、反向代理+擴(kuò)展均衡的問題
3)水平擴(kuò)展scale out是解決擴(kuò)展性問題的根本方案,DNS輪詢是不能完全被nginx/lvs/f5所替代的
末了,上一篇文章有同學(xué)留言問58到家采用什么方案,58到家目前部署在阿里云上,前端購(gòu)買了SLB服務(wù)(可以先粗暴的認(rèn)為是一個(gè)lvs+keepalived的高可用負(fù)載均衡服務(wù)),后端是nginx+tomcat。
接入層講了這么多,下一章,準(zhǔn)備講講服務(wù)層“異構(gòu)服務(wù)的負(fù)載均”(牛逼的機(jī)器應(yīng)該分配更多的流量,如何做到?)。
Copyright©2021 w3cschool編程獅|閩ICP備15016281號(hào)-3|閩公網(wǎng)安備35020302033924號(hào)
違法和不良信息舉報(bào)電話:173-0602-2364|舉報(bào)郵箱:jubao@eeedong.com
掃描二維碼
下載編程獅App
編程獅公眾號(hào)
聯(lián)系方式:
更多建議: