Mysql提升大數(shù)據(jù)表拷貝效率的解決方案
本文主要給大家介紹了關(guān)于Mysql提升大數(shù)據(jù)表拷貝效率的相關(guān)內(nèi)容,分享出來供大家參考學(xué)習(xí),我們大家在工作上會(huì)經(jīng)常遇到量級(jí)比較大的數(shù)據(jù)表 ;
場(chǎng)景: 該數(shù)據(jù)表需要進(jìn)行alter操作 比如增加一個(gè)字段,減少一個(gè)字段. 這個(gè)在一個(gè)幾萬級(jí)別數(shù)據(jù)量的數(shù)據(jù)表可以直接進(jìn)行alter表操作,但是要在一個(gè)接近1000W的數(shù)據(jù)表進(jìn)行操作,不是一件容易的事;
可能情況:
1.導(dǎo)致數(shù)據(jù)庫崩潰或者卡死
2.導(dǎo)致其他進(jìn)程 進(jìn)行數(shù)據(jù)庫讀寫I/O變慢
3.還有一個(gè)可能就是數(shù)據(jù)格式不一致 導(dǎo)致數(shù)據(jù)無法寫入(比如一個(gè)varchar類型要改為int類型,當(dāng)數(shù)據(jù)長度過大時(shí)會(huì)報(bào)錯(cuò))
解決方案:--
1.重新創(chuàng)建一張數(shù)據(jù)表 create new_table select * from old_table 這種形式相當(dāng)于復(fù)制一張新的數(shù)據(jù)表 ----(不建議): 這里面僅僅復(fù)制數(shù)據(jù)表的字段和數(shù)據(jù) , 但是表結(jié)構(gòu) 主鍵,索引和默認(rèn)值都不會(huì)拷貝過來
2.分成兩個(gè)步驟
1). create new_table like old_table 創(chuàng)建一個(gè)新表,表結(jié)構(gòu)和old_table一致(包含主鍵,索引和默認(rèn)值等)
2). insert into new_table select * from old_table 把old_table的數(shù)據(jù)全部拷貝到new_table里面去
----(如果數(shù)據(jù)量少的話,在幾萬行左右建議使用此方案, 如果數(shù)據(jù)量到達(dá)數(shù)百萬 上千萬時(shí), 這個(gè)也是不適用的)
擴(kuò)展: 如果你只要拷貝一部分?jǐn)?shù)據(jù)表的話,可以指定 insert into new_table (字段1,字段2) select 字段1,字段2 from old_table [limit n,m] ;
3.
1).通過select from into outfile 命令來導(dǎo)出數(shù)據(jù)表數(shù)據(jù)
2).通過load data infile into 命令來導(dǎo)入數(shù)據(jù)表數(shù)據(jù)
不多廢話 直接看圖,感受下100萬左右的數(shù)據(jù)量 方案2 和 方案3 處理速度相差多少
>select * from money_info into outfile '/var/lib/mysql-files/money.txt'; >create table money_info_cyq11 like money_info; >load data infile '/var/lib/mysql-files/money.txt' into table money_info_cyq11;
>create table money_info_cyq22 like money_info; >insert into money_info_cyq22 select * from money_info;


速度在4倍左右,網(wǎng)上說的20倍還沒體驗(yàn)到[捂臉]
注:這里還存在一個(gè)問題

outfile的目錄是有要求的
>show variables like '%secure%';
通過這條命令可以看到secure_file_priv 對(duì)應(yīng)out_file的目錄在哪個(gè)位置 , 指定這個(gè)位置導(dǎo)出即可;

總結(jié)
以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,如果有疑問大家可以留言交流,謝謝大家對(duì)本站的支持。
版權(quán)聲明:本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。
關(guān)注官方微信