【溫馨提醒】文章內(nèi)容僅供參考,海外服務(wù)器租用\托管方案,請(qǐng)咨詢YINGSOO客服,24小時(shí)免費(fèi)電話400-630-3752

　　【熱門主機(jī)】香港服務(wù)器丨香港云主機(jī)

　　【熱搜問題】香港虛擬空間哪個(gè)好

　　前言：

　　在實(shí)際項(xiàng)目中，曾經(jīng)遭遇過線上5w+Qps的峰值，也在壓測(cè)狀態(tài)下經(jīng)歷過10w+Qps的大流量請(qǐng)求，主要就是自己對(duì)高并發(fā)流量控制的一點(diǎn)思考。

　　應(yīng)對(duì)大流量的一些思路

　　首先，我們來說一下什么是大流量？

　　大流量，我們很可能會(huì)冒出：tps（每秒事務(wù)量），Qps（每秒請(qǐng)求量），1w+，5w+，10w+，100w+...。其實(shí)并沒有一個(gè)絕對(duì)的數(shù)字，如果這個(gè)量造成了系統(tǒng)的壓力，影響了系統(tǒng)的性能，那么這個(gè)量就可以稱之為大流量了。

　　其次，應(yīng)對(duì)大流量的一些常見手段是什么？

　　緩存：說白了，就是讓數(shù)據(jù)盡早進(jìn)入緩存，離程序近一點(diǎn)，不要大量頻繁的訪問db。

　　降級(jí)：如果不是核心鏈路，那么就把這個(gè)服務(wù)降級(jí)掉。打個(gè)比喻，現(xiàn)在的App都講究千人千面，拿到數(shù)據(jù)后，做個(gè)性化排序展示，如果在大流量下，這個(gè)排序就可以降級(jí)掉！

　　限流：大家都知道，北京地鐵早高峰，地鐵站都會(huì)做一件事情，就是限流了！想法很直接，就是想在一定時(shí)間內(nèi)把請(qǐng)求限制在一定范圍內(nèi)，保證系統(tǒng)不被沖垮，同時(shí)盡可能提升系統(tǒng)的吞吐量。

　　注意到，有些時(shí)候，緩存和降級(jí)是解決不了問題的，比如，電商的雙十一，用戶的購買，下單等行為，是涉及到大量寫操作，而且是核心鏈路，無法降級(jí)的，這個(gè)時(shí)候，限流就比較重要了。

　　那么接下來，我們重點(diǎn)說一下，限流。

　　限流的常用方式

　　限流的常用處理手段有：計(jì)數(shù)器、滑動(dòng)窗口、漏桶、令牌。

　　計(jì)數(shù)器

　　計(jì)數(shù)器是一種比較簡(jiǎn)單的限流算法，用途比較廣泛，在接口層面，很多地方使用這種方式限流。在一段時(shí)間內(nèi)，進(jìn)行計(jì)數(shù)，與閥值進(jìn)行比較，到了時(shí)間臨界點(diǎn)，將計(jì)數(shù)器清0。

　　代碼實(shí)例

　　這里需要注意的是，存在一個(gè)時(shí)間臨界點(diǎn)的問題。舉個(gè)栗子，在12:01:00到12:01:58這段時(shí)間內(nèi)沒有用戶請(qǐng)求，然后在12:01:59這一瞬時(shí)發(fā)出100個(gè)請(qǐng)求，oK，然后在12:02:00這一瞬時(shí)又發(fā)出了100個(gè)請(qǐng)求。

　　這里你應(yīng)該能感受到，在這個(gè)臨界點(diǎn)可能會(huì)承受惡意用戶的大量請(qǐng)求，甚至超出系統(tǒng)預(yù)期的承受。

　　滑動(dòng)窗口

　　由于計(jì)數(shù)器存在臨界點(diǎn)缺陷，后來出現(xiàn)了滑動(dòng)窗口算法來解決。

　　滑動(dòng)窗口的意思是說把固定時(shí)間片，進(jìn)行劃分，并且隨著時(shí)間的流逝，進(jìn)行移動(dòng)，這樣就巧妙的避開了計(jì)數(shù)器的臨界點(diǎn)問題。也就是說這些固定數(shù)量的可以移動(dòng)的格子，將會(huì)進(jìn)行計(jì)數(shù)判斷閥值，因此格子的數(shù)量影響著滑動(dòng)窗口算法的精度。

　　漏桶

　　雖然滑動(dòng)窗口有效避免了時(shí)間臨界點(diǎn)的問題，但是依然有時(shí)間片的概念，而漏桶算法在這方面比滑動(dòng)窗口而言，更加先進(jìn)。

　　有一個(gè)固定的桶，進(jìn)水的速率是不確定的，但是出水的速率是恒定的，當(dāng)水滿的時(shí)候是會(huì)溢出的。

　　代碼實(shí)現(xiàn)

　　令牌桶

　　注意到，漏桶的出水速度是恒定的，那么意味著如果瞬時(shí)大流量的話，將有大部分請(qǐng)求被丟棄掉（也就^{[泰國物理服務(wù)器]}是所謂的溢出）。為了解決這個(gè)問題，令牌桶進(jìn)行了算法改進(jìn)。

　　生成令牌的速度是恒定的，而請(qǐng)求去拿令牌是沒有速度限制的。這意味，面對(duì)瞬時(shí)大流量，該算法可以在短時(shí)間內(nèi)請(qǐng)求拿到大量令牌，而且拿令牌的過程并不是消耗很大的事情。（有一點(diǎn)^{[ddos防御方案]}生產(chǎn)令牌，消費(fèi)令牌的意味）

　　不論是對(duì)于令牌桶拿不到令牌被拒絕，還是漏桶的水滿了溢出，都是為了保證大部分流量的正常使用，而犧牲掉了少部分流量，這是合理的，如果因?yàn)闃O少部分流量需要保證的話，那么就可能導(dǎo)致系統(tǒng)達(dá)到極限而掛掉，得不償失。

　　代碼實(shí)現(xiàn)

　　限流神器：guava RateLimiter

　　guava不僅僅在集合、緩存、異步回調(diào)等方面功能強(qiáng)大，而且還給我們封裝好了限流的Api！

　　guava RateLimiter基于令牌桶算法，我們只需要告訴RateLimiter系統(tǒng)限制的Qps是多少，那么RateLimiter將以這個(gè)速度往桶里面放入令牌，然后請(qǐng)求的時(shí)候，通過tryAcquire()方法向RateLimiter獲取許可（令牌）。

　　代碼示例

　　分布式場(chǎng)景下的限流

　　上面所說的限流的一些方式，都是針對(duì)單機(jī)而言的，其實(shí)大部分的場(chǎng)景，單機(jī)的限流已經(jīng)足夠了。分布式下限流的手段常常需要多種技術(shù)相結(jié)合，比如nginx+Lua，Redis+Lua等去做。

　　本文主要討論的是單機(jī)的限流，這里就不在詳細(xì)介紹分布式場(chǎng)景下的限流了。

　　一句話，讓系統(tǒng)的流量，先到隊(duì)列中排隊(duì)、限流，不要讓流量直接打到系統(tǒng)上。

　　本公司在全球超過120個(gè)國家部署數(shù)據(jù)中心,提供海外全球多個(gè)國家服務(wù)器租用,所有服務(wù)器均可根據(jù)需求配置大帶寬大流量,美國g口獨(dú)享大帶寬服務(wù)器,從此告別網(wǎng)絡(luò)擁堵;

　　美國服務(wù)器的訪問速度快^{[區(qū)塊鏈服務(wù)商]}么

　　美國機(jī)房在硬件設(shè)備和服務(wù)器的硬件配置上都是比較好的，美國也是屬于數(shù)據(jù)處理的一個(gè)中心地區(qū)。那么美國服務(wù)器的訪問速度快么?

　　提到美國服務(wù)器的訪問速度的問題，相信很多人的第一反應(yīng)就是，美國服務(wù)器的訪問速度很慢。當(dāng)然說道訪問速度，還是得從使用者的位置和服務(wù)器的帶寬大小來定義。

　　影響因素一：物理距離

　　這個(gè)物理距離是用戶相對(duì)于美國距離來定的，物理距離越遠(yuǎn)訪問速度也會(huì)相對(duì)要慢一些，對(duì)于距離美國物理距離較近的用戶，在訪問速度也會(huì)相對(duì)快一些。例如：美國地區(qū)的用戶直接訪問美國本地的服務(wù)器，大陸用戶訪問美國服務(wù)器，在訪問速度上就會(huì)因?yàn)槲锢砭嚯x的原因存在快慢一說。

　　影響因素二：帶寬配置

　　使用過服務(wù)器的站長應(yīng)該了解，一臺(tái)服務(wù)器的帶寬配置大小會(huì)直接影響到服務(wù)器的訪問穩(wěn)定性及訪問速度。如果帶寬充足的情況下，用戶訪問主機(jī)時(shí)也會(huì)更穩(wěn)定快速一些。帶寬過小，就會(huì)造成用戶訪問速度慢或訪問卡頓，無法訪問的情況。所以帶寬的大小配置也是比較關(guān)鍵的，目前對(duì)于帶寬配置，美國機(jī)房有推出無限流量的服務(wù)器配置，在流量的使用上會(huì)更便捷一些。

　　針對(duì)于以上兩個(gè)影響因素，再去思考美國服務(wù)器的訪問速度的快慢問題，這^{[廣州服務(wù)器]}樣是否會(huì)更清晰一些了呢。當(dāng)然關(guān)于物理距離因素導(dǎo)致的大陸用戶訪問過慢的問題，也是可以通過使用美國直連大陸的CN2線路來解決的哦。

　　YINGSOO官網(wǎng)：www.sddonglingsh.com

　　熱門文章：【lol從聊天服務(wù)器斷開】【香港服務(wù)器國內(nèi)加速】【2U服務(wù)器托管】【美國10G口大帶寬服務(wù)器速度快到想不到】【硬盤陣列故障】【宿遷IDC】【使用美國高防服務(wù)器建外貿(mào)網(wǎng)站的優(yōu)缺點(diǎn)】【亞馬遜微軟都在華投資】【云服務(wù)器品牌】【私服服務(wù)器】【ntp服務(wù)器】【云服務(wù)器有哪些系統(tǒng)】【買個(gè)服務(wù)器需要多少錢】【Core i3】【為什么選擇美國虛擬主機(jī)】【共享虛擬主機(jī)能干嘛】【vps 國外服務(wù)器】【帶寬配置費(fèi)用】【500M便宜服務(wù)器】【傳奇服務(wù)器維護(hù)】【高防服務(wù)器多少錢一套】【香港站群服務(wù)器應(yīng)用】【機(jī)架式服務(wù)器和刀片式服務(wù)器的區(qū)別】【騰訊云服務(wù)器云服務(wù)器】【做游戲選擇什么服務(wù)器】【美國虛擬主機(jī)空間】【臺(tái)灣服務(wù)器租用價(jià)格貴不貴】【帶寬租用】【集群服務(wù)器】【國外網(wǎng)頁代理服務(wù)器】

　　YINGSOO美國網(wǎng)站主機(jī)租用_免費(fèi)CC防御流量_無需備案

　　美國網(wǎng)站主機(jī)租用美國vps超寬國際出口 , 一手資源 , 重裝系統(tǒng) , 10MB獨(dú)享帶寬 ,在線有重啟 , 無極網(wǎng)絡(luò) , 高速穩(wěn)定,年付8.3折優(yōu)惠

　　http://www.sddonglingsh.com/products/cloud-us.html

　　YINGSOO韓國不限流主機(jī)3天免費(fèi)試用,注冊(cè)享特惠!

　　韓國不限流主機(jī)控制面板自主管理,5分鐘交付,KT高品質(zhì)機(jī)房,平均延遲低至80ms,2019年韓國不限流主機(jī)銷量再度破表,1200家企業(yè)共同選擇,高達(dá)95%的續(xù)約率印證YINGSOO品質(zhì)

　　http://www.sddonglingsh.com/products/cloud-kr.html

版權(quán)聲明：本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請(qǐng)保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來，僅供學(xué)習(xí)參考，不代表本站立場(chǎng)，如有內(nèi)容涉嫌侵權(quán)，請(qǐng)聯(lián)系alex-e#qq.com處理。