淺談sqlserver下float的不確定性
很多時候,大家都知道,浮點型這個東西,本身存儲就是一個不確定的數(shù)值,你永遠無法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時候沒有問題,但是有時候做統(tǒng)計的時候,就會看出端倪
簡單的舉個例子,就知道統(tǒng)計的時候,有可能出現(xiàn)意外的效果,導致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理,所以在此其實我是推薦使用Numeric來替代float進行一個替代使用,避免一個sum ,然后明明明細看每一條數(shù)據(jù)都是正常的2,3位小數(shù),一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
( Va )
VALUES ( 0.60000000)
GO 100
SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1
----------------------
60.0000000000001
(1 行受影響)
---------------------------------------
60.000000000
(1 行受影響)
總結
以上就是本文關于淺談sqlserver下float的不確定性的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以參閱本站:簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術要點解析、MYSQL子查詢和嵌套查詢優(yōu)化實例解析等,有什么問題可以隨時留言,小編會及時回復大家。感謝各位對本站的支持!
版權聲明:本站文章來源標注為YINGSOO的內(nèi)容版權均為本站所有,歡迎引用、轉載,請保持原文完整并注明來源及原文鏈接。禁止復制或仿造本網(wǎng)站,禁止在非maisonbaluchon.cn所屬的服務器上建立鏡像,否則將依法追究法律責任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學習參考,不代表本站立場,如有內(nèi)容涉嫌侵權,請聯(lián)系alex-e#qq.com處理。
關注官方微信