讓gzip壓縮速度加快的解決方案：使用支持多核CPU多線程并發(fā)壓縮的pigz
發(fā)布日期：2022-03-11 11:22 | 文章來源：源碼中國
pig是個啥東東？
官網(wǎng)：http://zlib.net/pigz
一句話簡介：
復(fù)制代碼
代碼如下:A parallel implementation of gzip for modernmulti-processor, multi-core machines。
簡單的說，就是支持并行的gzip。廢話不多說，開始測試。
pig默認(rèn)用當(dāng)前邏輯cpu個數(shù)來并發(fā)壓縮，無法檢測個數(shù)的話，則并發(fā)8個線程。
一、測試壓縮包文件1
復(fù)制代碼
代碼如下:壓縮前
-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p> <p>1、gzip測試
壓縮耗時，CPU最高：101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p> <p>解壓縮耗時，CPU最高：101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p> <p>壓縮后
-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p> <p>2、pigz測試
并發(fā)8線程(默認(rèn))：
壓縮耗時，CPU最高：832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p> <p>解壓縮耗時，CPU最高：199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p> <p>并發(fā)4線程：
壓縮耗時，CPU最高：427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p> <p>解壓縮耗時，CPU最高：202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p> <p>壓縮后
-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p> <p>二、測試壓縮包文件2
壓縮前
-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p> <p>1、gzip測試
壓縮耗時，CPU最高：101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p> <p>解壓縮耗時，CPU最高： 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p> <p>壓縮后
-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p> <p>2、pigz測試
并發(fā)8線程(默認(rèn))：
壓縮耗時，CPU最高： 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p> <p>解壓縮耗時，CPU最高：179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p> <p>并發(fā)4線程：
壓縮耗時，CPU最高： 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p> <p>解壓縮耗時，CPU最高： 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p> <p>壓縮后
-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz
結(jié)論：
1、pigz默認(rèn)用法(默認(rèn)并發(fā)線程是邏輯cpu個數(shù))可比gzip快5.3倍，CPU消耗則是gzip的8倍，壓縮比則相當(dāng)；
2、并發(fā)8線程對比4線程提升：41.2%，16線程對比8線程提升：27.9%，32線程對比16線程提升：3%；
3、在對壓縮效率要求較高、但對短時間內(nèi)CPU消耗較高不受影響的場景，使用pigz非常合適。
版權(quán)聲明：本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來，僅供學(xué)習(xí)參考，不代表本站立場，如有內(nèi)容涉嫌侵權(quán)，請聯(lián)系alex-e#qq.com處理。
相關(guān)文章
關(guān)注官方微信