mysql聚合統(tǒng)計(jì)數(shù)據(jù)查詢緩慢的優(yōu)化方法
寫(xiě)在前面
在我們?nèi)粘2僮鲾?shù)據(jù)庫(kù)的時(shí)候,比如訂單表、訪問(wèn)記錄表、商品表的時(shí)候。
經(jīng)常會(huì)處理計(jì)算數(shù)據(jù)列總和、數(shù)據(jù)行數(shù)等統(tǒng)計(jì)問(wèn)題。
隨著業(yè)務(wù)發(fā)展,這些表會(huì)越來(lái)越大,如果處理不當(dāng),查詢統(tǒng)計(jì)的速度也會(huì)越來(lái)越慢,直到業(yè)務(wù)無(wú)法再容忍。
所以,我們需要先了解、思考這些場(chǎng)景知識(shí)點(diǎn),在設(shè)計(jì)之初,便預(yù)留一些優(yōu)化空間支撐業(yè)務(wù)發(fā)展。
sql聚合函數(shù)
在mysql等數(shù)據(jù)中,都會(huì)支持聚合函數(shù),方便我們計(jì)算數(shù)據(jù)。
常見(jiàn)的有以下方法
取平均值 AVG()
求和 SUM()
最大值 MAX()
最小值 MIN()
行數(shù) COUNT()
演示幾個(gè)簡(jiǎn)單使用的sql語(yǔ)句:
查詢u_id為100的訂單總數(shù)
select count(id) from orders where u_id = 100;
查詢u_id為100的訂單消費(fèi)總和
select sum(order_amount) from orders where u_id = 100;
查詢銷量最高的商品
select max(sell_num) from goods
統(tǒng)計(jì)7月份的訂單數(shù)量、金額總和
select count(id) as count, sum(order_amount) as total_amount from orders where order_date between 20190701 and 20190731 and is_pay = 1
如果此時(shí),訂單表的總數(shù)是1億條。并且此條sql運(yùn)行很慢,我們應(yīng)該如何排查優(yōu)化?
有的同學(xué)會(huì)說(shuō)了:行數(shù)多,在日期字段上加 索引,這樣子篩選就很快了。
總數(shù)1億條,假設(shè)7月份的訂單有1000萬(wàn)條,加了索引的時(shí)候,篩選速度自然會(huì)提升不少。但是此時(shí)我們的問(wèn)題真的解決了嗎?
在這種聚合函數(shù)中,結(jié)果需要 遍歷每一條 數(shù)據(jù)來(lái)計(jì)算,比如我們統(tǒng)計(jì)訂單總和,就需要每一行都讀取訂單金額,然后加起來(lái)。
也就是說(shuō)在這條統(tǒng)計(jì)sql中,需要先從1億數(shù)據(jù)中篩選1000萬(wàn)條數(shù)據(jù),然后再遍歷這些數(shù)據(jù)來(lái)計(jì)算。 此時(shí)就會(huì)非常慢了。
增加索引并不能解決聚合函數(shù)統(tǒng)計(jì)慢的問(wèn)題
優(yōu)化聚合統(tǒng)計(jì)的方案
提前預(yù)算
建立 統(tǒng)計(jì)數(shù)據(jù)表,以日期區(qū)分,如:20190801一天,銷售了多少訂單、金額等等數(shù)據(jù)。
當(dāng)訂單產(chǎn)生(支付完成后 可統(tǒng)計(jì)數(shù)據(jù))時(shí),便在統(tǒng)計(jì)數(shù)據(jù)表中對(duì)應(yīng)的日期增加金額、數(shù)量。
需要注意的是,如果有退款等場(chǎng)景會(huì)影響減少數(shù)據(jù),記得也相應(yīng)地做操作處理
當(dāng)我們需要統(tǒng)計(jì)8月份的數(shù)據(jù)時(shí)候,則只需要遍歷計(jì)算這一個(gè)月的三十來(lái)行數(shù)據(jù)。
定時(shí)落地
我們可以使用easyswoole、計(jì)劃任務(wù)等。來(lái)定時(shí)(比如每20分鐘一次)計(jì)算總和,然后更新到 統(tǒng)計(jì)數(shù)據(jù)表 中。
優(yōu)點(diǎn):做的處理比較少,也無(wú)需改動(dòng)退款操作等api,只需要依賴 原訂單 表的數(shù)據(jù),定時(shí)統(tǒng)計(jì)、刷新統(tǒng)計(jì)數(shù)據(jù)。
需要注意的是,根據(jù)不同的訂單熱度,來(lái)設(shè)置不同的落地頻率,比如 一周內(nèi)的數(shù)據(jù)變化幾率比較大,可能20分鐘落地。而一年前的數(shù)據(jù)則變化幾率很小,可以選擇某天同步一次,甚至確保不會(huì)變動(dòng)時(shí),則不再刷新。
總結(jié)
索引并不能解決統(tǒng)計(jì)聚合數(shù)據(jù)慢的sql語(yǔ)句問(wèn)題
聚合函數(shù)謹(jǐn)慎用 最好不用,因?yàn)槲覀儫o(wú)法預(yù)算以后的數(shù)據(jù)量需要掃描多少行數(shù)據(jù)來(lái)計(jì)算
優(yōu)化方案離不開(kāi)統(tǒng)計(jì)表,都需要按一定的周期儲(chǔ)存運(yùn)算好的統(tǒng)計(jì)數(shù)據(jù)
到此這篇關(guān)于mysql聚合統(tǒng)計(jì)數(shù)據(jù)查詢緩慢的文章就介紹到這了,更多相關(guān)mysql聚合統(tǒng)計(jì)數(shù)據(jù)查詢緩慢內(nèi)容請(qǐng)搜索本站以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持本站!
版權(quán)聲明:本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái),僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。
關(guān)注官方微信