高并發(fā):高并發(fā)下如何縮短響應(yīng)時(shí)間?
【小編提示】本文部分內(nèi)容摘自網(wǎng)絡(luò),僅供參考!如需了解服務(wù)器租用\托管相關(guān)問(wèn)題,請(qǐng)咨詢(xún)YINGSOO專(zhuān)業(yè)客服,享受1V1貼心服務(wù)!免費(fèi)熱線(xiàn)400-630-3752
【本周熱銷(xiāo)】香港高防服務(wù)器丨香港云服務(wù)器租用丨美國(guó)云主機(jī)丨美國(guó)主機(jī)租用
【選購(gòu)幫助】租用國(guó)外服務(wù)器能干嘛?要注意什么?

一、定義
網(wǎng)站響應(yīng)時(shí)間是指系統(tǒng)對(duì)請(qǐng)求作出響應(yīng)的時(shí)間。通俗來(lái)講,就是我們把網(wǎng)址輸入進(jìn)瀏覽器然后敲回車(chē)鍵開(kāi)始一直到瀏覽器把網(wǎng)站的內(nèi)容呈現(xiàn)給用戶(hù)的這段時(shí)間。網(wǎng)站響應(yīng)時(shí)間越短越好,因?yàn)榫W(wǎng)站頁(yè)面打開(kāi)速度越快,就意味著我們的用戶(hù)可以更快地訪(fǎng)問(wèn)站點(diǎn)或者我們的服務(wù)器。一般網(wǎng)站的響應(yīng)時(shí)間保持在100~1000ms即可,1s=1000ms,打開(kāi)速度越快對(duì)用戶(hù)體驗(yàn)度越好。
響應(yīng)時(shí)間并不能直接反映網(wǎng)站性能的高低,但是在一定程度上反應(yīng)了網(wǎng)站系統(tǒng)的處理能力,也是給用戶(hù)最直觀(guān)的感受。如果網(wǎng)站的響應(yīng)時(shí)間過(guò)長(zhǎng),比如10秒以上,用戶(hù)的流失率會(huì)大大增加,所以把響應(yīng)時(shí)間控制在一定范圍內(nèi)是提高用戶(hù)體驗(yàn)度的第一要素。
二、解決方案
當(dāng)用戶(hù)請(qǐng)求一個(gè)網(wǎng)站數(shù)據(jù)的時(shí)候,實(shí)際上是發(fā)送了一個(gè)Htt[英國(guó)vps]p請(qǐng)求,在宏觀(guān)上可以分為兩個(gè)部分:
Http請(qǐng)求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之前;
Http請(qǐng)求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之后。
如果忽略其中硬件部分和部分細(xì)節(jié),請(qǐng)求一個(gè)網(wǎng)站數(shù)據(jù)的大體過(guò)程如下圖所示(其中cdn和緩存部分可以省略):
我們要想縮短一個(gè)網(wǎng)站的響應(yīng)時(shí)間,本質(zhì)上是提高數(shù)據(jù)的返回速度,說(shuō)的直白一點(diǎn)就是要把請(qǐng)求數(shù)據(jù)過(guò)程中的各個(gè)步驟提高速度,這樣整體下來(lái)響應(yīng)時(shí)間就會(huì)縮短。
把數(shù)據(jù)放在離用戶(hù)越近的地方響應(yīng)時(shí)間越快。
客戶(hù)端
客戶(hù)端是發(fā)起一個(gè)網(wǎng)站請(qǐng)求的源頭,其實(shí)這個(gè)源頭可以施加一定的策略來(lái)大大縮短某些數(shù)據(jù)的獲取時(shí)間。其中最為常用的就是緩存,一些常用的、很少變動(dòng)的資源緩存在客戶(hù)端,不但能縮短獲取資源的時(shí)間,而且在很大程度上能減輕服務(wù)端的壓力。比如一些圖片、css、Js文件,甚至一些接口的數(shù)據(jù)或者整個(gè)網(wǎng)頁(yè)內(nèi)容都可以在客戶(hù)端做緩存。另外Http請(qǐng)求的合并也可以減少對(duì)服務(wù)端的請(qǐng)求次數(shù),在一定程度上可以縮短請(qǐng)求的響應(yīng)時(shí)間。
dns
一般網(wǎng)站的訪(fǎng)問(wèn)方式都采用域名的方式(很少見(jiàn)ip方式),既然是域名就涉及到dns解析速度的問(wèn)題,如果dns服務(wù)解析的速度比較慢,整體過(guò)程的響應(yīng)時(shí)間也會(huì)加長(zhǎng),不過(guò)這個(gè)過(guò)程其實(shí)很少出現(xiàn)慢的問(wèn)題(不是說(shuō)沒(méi)有)。
網(wǎng)絡(luò)
客戶(hù)端獲取到網(wǎng)站ip之后通過(guò)網(wǎng)卡把Http請(qǐng)求發(fā)送出去,目標(biāo)地址為相應(yīng)的網(wǎng)站服務(wù)器。在這個(gè)過(guò)程當(dāng)中如果客戶(hù)端和服務(wù)器端有一方帶寬比較小的話(huà),就會(huì)加大響應(yīng)時(shí)間。我司曾經(jīng)就因?yàn)榉?wù)器帶寬過(guò)小導(dǎo)致客戶(hù)端響應(yīng)時(shí)間很長(zhǎng)的情況,當(dāng)時(shí)排查[云服務(wù)器托管]了很長(zhǎng)時(shí)間才發(fā)現(xiàn)。
當(dāng)然網(wǎng)絡(luò)是不可靠的,這個(gè)過(guò)程的響應(yīng)時(shí)間其實(shí)取決于很多因素,比如路由器的路由策略是否最優(yōu),整個(gè)過(guò)程通過(guò)的網(wǎng)關(guān)數(shù)據(jù)量等。所以有很多網(wǎng)站其實(shí)是多地區(qū)多機(jī)房部署的,目的就是為了讓用戶(hù)通過(guò)很短的網(wǎng)絡(luò)路徑就能到達(dá)網(wǎng)站(其實(shí)這個(gè)過(guò)程運(yùn)營(yíng)商的選擇也有影響)。
網(wǎng)站
當(dāng)一個(gè)請(qǐng)求到達(dá)網(wǎng)站服務(wù)器,服務(wù)器便開(kāi)始處理請(qǐng)求,一般會(huì)有專(zhuān)門(mén)處理業(yè)務(wù)請(qǐng)求的一個(gè)業(yè)務(wù)層,有的體現(xiàn)為Rpc協(xié)議的微服務(wù),有的體現(xiàn)為簡(jiǎn)單的一個(gè)代碼分層。最終請(qǐng)求的數(shù)據(jù)會(huì)通過(guò)查詢(xún)數(shù)據(jù)庫(kù)來(lái)返回。
其實(shí)這個(gè)過(guò)程和車(chē)站購(gòu)票流程一樣,每個(gè)窗口的處理能力是有限的,對(duì)應(yīng)到服務(wù)器處理能力。由于這個(gè)原因,所以誕生了負(fù)載均衡的策略,核心思想就是:分。一臺(tái)服務(wù)器不夠,那就兩臺(tái)、三臺(tái)、四臺(tái)..... 直到并發(fā)的所有請(qǐng)求的響應(yīng)時(shí)間都在可控范圍之內(nèi)。
數(shù)據(jù)庫(kù)的情況類(lèi)似,一個(gè)數(shù)據(jù)庫(kù)扛不住壓力,就加到n個(gè)數(shù)據(jù)庫(kù)分散壓力。一個(gè)表扛不住壓力,就把這個(gè)表拆分開(kāi),拆分成多個(gè)表,甚至拆分到多個(gè)不同服務(wù)器數(shù)據(jù)庫(kù),這就是我們常用的拆表策略。有的時(shí)候在同一個(gè)數(shù)據(jù)庫(kù)中進(jìn)行表拆分,性能的提升并非最大化,因?yàn)橐慌_(tái)服務(wù)器的磁盤(pán)io是有上限的,就算拆成100個(gè)表,還是在同一個(gè)物理磁盤(pán)上,當(dāng)然這樣可緩解鎖單表的情況。
現(xiàn)在有很多的場(chǎng)景采用nosQL代替關(guān)系型數(shù)據(jù)庫(kù)來(lái)縮短響應(yīng)時(shí)間,在正常情況下,由于關(guān)系型數(shù)據(jù)庫(kù)的本身因素在特定場(chǎng)景下的讀寫(xiě)速度比nosQL要慢很多,所以系統(tǒng)設(shè)計(jì)初期,可以考慮采用關(guān)系型數(shù)據(jù)庫(kù)和nosQL混用的方案。
緩存
當(dāng)并發(fā)的請(qǐng)求到達(dá)一定程度,瓶頸大部分情況下發(fā)生在db層面,甚至db無(wú)論怎么優(yōu)化總有上限。為了避免頻繁查詢(xún)數(shù)據(jù)庫(kù)產(chǎn)生瓶頸,誕生了緩存。在訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)之前加入了緩存層,當(dāng)然這里的緩存采用的方案在數(shù)據(jù)的響應(yīng)時(shí)間上要比數(shù)據(jù)庫(kù)小很多,比如常用的Redis、memcache,但是這些第三方的緩存組件還是要走網(wǎng)絡(luò),比起進(jìn)程內(nèi)的緩存還是要慢的多。
現(xiàn)在一般流行的設(shè)計(jì)在網(wǎng)站層和服務(wù)層都有緩存策略,只不過(guò)緩存的數(shù)據(jù)和策略有所不同,但是最終目的都是為了加快請(qǐng)求的響應(yīng)。當(dāng)然加了緩存之后,數(shù)據(jù)的一致性需要仔細(xì)設(shè)計(jì)才可以,如果發(fā)生數(shù)據(jù)不一致的情況,程序員可能要背鍋了。
緩解數(shù)據(jù)庫(kù)壓力并不是引入緩存的唯一因素。
cdn加速
一些小廠(chǎng)可能用不到cdn,但是cdn帶來(lái)的加速還是很客觀(guān)的。cdn依靠部署在各地的邊緣服務(wù)器,通過(guò)中心平臺(tái)的負(fù)載均衡、內(nèi)容分發(fā)、調(diào)度等功能模塊,使用戶(hù)就近獲取所需內(nèi)容,降低網(wǎng)絡(luò)擁塞,提高用戶(hù)訪(fǎng)問(wèn)響應(yīng)速度和命中率。cdn就是把離用戶(hù)最近的數(shù)據(jù)返回給用戶(hù)。
三、寫(xiě)在最后
程序異步化其實(shí)并不能縮短響應(yīng)時(shí)間,但是對(duì)提高吞吐量有很大作用。以及,開(kāi)頭的那些電影我真的都看過(guò)了。
香港服務(wù)器怎么選
香港服務(wù)器幾乎已經(jīng)成為了外貿(mào)電商行業(yè)最常見(jiàn)的業(yè)務(wù)搭建平臺(tái)之一了。為了確保租用的香港服務(wù)器比較好,需要通過(guò)硬件設(shè)備、網(wǎng)絡(luò)穩(wěn)定等多個(gè)因素來(lái)確定。那么需要租用香港服務(wù)器的話(huà)該怎么選到適合的香港服務(wù)器呢?
1、選擇獨(dú)立的服務(wù)器
香港服務(wù)器通常在選擇上有兩種選擇,一種就是云服務(wù)器或者香港VPS,一種就是獨(dú)立的服務(wù)器,第一種服務(wù)器是屬于資源共享性質(zhì)的,在使用時(shí),服務(wù)器內(nèi)的資源是與他人共享的。第二種則是自己獨(dú)享服務(wù)器資源的。這兩種類(lèi)別的服務(wù)器在使用時(shí),通常獨(dú)立的服務(wù)器在性能上和[服務(wù)器租用和服務(wù)器托管有什么區(qū)別]穩(wěn)定性上要更好一些。
2、服務(wù)器的配置
在配置上通常,我們常會(huì)[大量美國(guó)vps]看的配置有處理器、內(nèi)存、帶寬和硬盤(pán)。當(dāng)您將您的業(yè)務(wù)大致介紹后,IDC運(yùn)營(yíng)商會(huì)根據(jù)您的實(shí)際需求來(lái)進(jìn)行相應(yīng)的配置上的建議。這些配置的好壞以及適合與否會(huì)直接關(guān)系到您后期業(yè)務(wù)運(yùn)營(yíng)上的穩(wěn)定性的問(wèn)題。
3、數(shù)據(jù)中心服務(wù)的好壞
租用服務(wù)器時(shí)需要了解服務(wù)器所托管的數(shù)據(jù)中心的服務(wù)質(zhì)量的。數(shù)據(jù)中心的好壞會(huì)關(guān)系到網(wǎng)絡(luò)延時(shí)的問(wèn)題。通常一個(gè)比較好的香港服務(wù)器租用服務(wù)是需要確保數(shù)據(jù)中心電源和網(wǎng)絡(luò)冗余的。網(wǎng)絡(luò)延遲都是受數(shù)據(jù)中心位置和線(xiàn)路質(zhì)量影響的。由于香港距離中國(guó)大陸比較近,所以大陸訪(fǎng)問(wèn)香港服務(wù)器的速度是可以超越其他海外服務(wù)器的。
YINGSOO熱線(xiàn):400-630-3752
熱門(mén)文章:【香港服務(wù)器會(huì)被墻嗎】【服務(wù)器殺毒】【云計(jì)算在2020年將會(huì)有哪些趨勢(shì)】【韓國(guó)cn2服務(wù)器】【YINGSOO香港新世界機(jī)房環(huán)境怎么樣】【給大家推薦永久免費(fèi)的服務(wù)器】【云虛擬主機(jī)】【高清視頻服務(wù)器】【國(guó)外便宜的云服務(wù)器】【云主機(jī)服務(wù)器哪家好】【免備案香港服務(wù)器的優(yōu)勢(shì)有哪些】【韓國(guó)虛擬主機(jī)好還是美國(guó)】【服務(wù)器海外】【香港獨(dú)立ip云主機(jī)怎么樣】【工信部】【手游修改ip】【香港云主機(jī)高防如何看】【DHCP是什么】【深圳服務(wù)器機(jī)房】【高速香港服務(wù)器速度快不快看四點(diǎn)】
香港的主機(jī)推介,就選YINGSOO,用了都說(shuō)好
9年香港的主機(jī)推介業(yè)務(wù)運(yùn)營(yíng)經(jīng)驗(yàn),連續(xù)3年香港的主機(jī)推介業(yè)務(wù)名列前茅.香港寬頻,HKT機(jī)房核心合作伙伴,1200家企業(yè)客戶(hù)共同選擇,24小時(shí)在線(xiàn)服務(wù)
http://maisonbaluchon.cn/products/cloud-hk.html
虛擬主機(jī)香港?9年香港云服務(wù)器租用業(yè)務(wù)運(yùn)營(yíng)經(jīng)驗(yàn),1200家企業(yè)客戶(hù)共同選擇;香港寬頻,PCCW機(jī)房核心合作伙伴,連續(xù)3年香港云服務(wù)器租用,24小時(shí)在線(xiàn)服務(wù).
http://maisonbaluchon.cn/products/cloud-hk.html
版權(quán)聲明:本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái),僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。
關(guān)注官方微信