本文首發(fā)于 vivo互聯(lián)網(wǎng)技×××鏈接:https://mp.weixin.qq.com/s/2kea7-jACCJmSYBQAwXyIg
作者:劉洋我們提供的服務(wù)有:成都網(wǎng)站設(shè)計(jì)、做網(wǎng)站、微信公眾號開發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、施甸ssl等。為成百上千家企事業(yè)單位解決了網(wǎng)站和推廣的問題。提供周到的售前咨詢和貼心的售后服務(wù),是有科學(xué)管理、有技術(shù)的施甸網(wǎng)站制作公司
在 js 中進(jìn)行數(shù)學(xué)的運(yùn)算時(shí),會出現(xiàn)0.1+0.2=0.300000000000000004的結(jié)果,一開始認(rèn)為是浮點(diǎn)數(shù)的二進(jìn)制存儲導(dǎo)致的精度問題,但這似乎不能很好的解釋為什么在同樣的存儲方式下0.3+0.4=0.7可以得到正確的結(jié)果。本文主要通過浮點(diǎn)數(shù)的二進(jìn)制存儲及運(yùn)算,和IEEE754下的舍入規(guī)則,解釋為何會出現(xiàn)這種情況。
JavaScript遵循IEEE754標(biāo)準(zhǔn),在64位中存儲一個(gè)數(shù)據(jù)的有效數(shù)字形式。
其中,第0位為符號位,0表示正數(shù)1表示負(fù)數(shù);第1到11位存儲指數(shù)部分;第12到63位存小數(shù)部分(尾數(shù)部分)(即有效數(shù)字)。由于二進(jìn)制的有效數(shù)字總是表示為 1.xxx…的形式,尾數(shù)部分在規(guī)約形式下的第一位默認(rèn)為1,故存儲時(shí)第一位省略不寫,尾數(shù)部分f存儲有效數(shù)字小數(shù)點(diǎn)后的xxx...,最長52位。因此,JavaScript提供的有效數(shù)字最長為53個(gè)二進(jìn)制位(尾數(shù)部分52位+被省略的1位)。
以0.1、0.2、0.3、0.4和0.7的二進(jìn)制形式為例:
0.1->0.0001100110011...(0011無限循環(huán))->0-01111111011-(1 .)1001100110011001100110011001100110011001100110011010(入)
0.2->0.001100110011...(0011無限循環(huán))->0-01111111100-(1 .)1001100110011001100110011001100110011001100110011010(入)
0.3->0.01001100110011...(0011無限循環(huán))->0-01111111101-(1 .)0011001100110011001100110011001100110011001100110011(舍)
0.4->0.01100110011...(0011無限循環(huán))->0-01111111101-(1 .)1001100110011001100110011001100110011001100110011010(入)
0.7->0.101100110011...(0011無限循環(huán))->0-01111111110-(1 .)0110011001100110011001100110011001100110011001100110(舍)
對于52位之后進(jìn)行舍入運(yùn)算,此時(shí)可看作0舍1入(具體舍入規(guī)則在第三部分詳細(xì)說明),有精度損失。
由于指數(shù)位數(shù)不同,運(yùn)算時(shí)需要進(jìn)行對階運(yùn)算。對階過程略,0.1+0.2與0.3+0.4的尾數(shù)求和結(jié)果分別如下:
0.1+0.2->10.0110011001100110011001100110011001100110011001100111
0.3+0.4->10.1100110011001100110011001100110011001100110011001101
求和結(jié)果需規(guī)格化(有效數(shù)字表示),右規(guī)導(dǎo)致低位丟失,此時(shí)需對丟失的低位進(jìn)行舍入操作:
0.1+0.2->1.00110011001100110011001100110011001100110011001100111->1.0011001100110011001100110011001100110011001100110100(入)
0.3+0.4->1.01100110011001100110011001100110011001100110011001101->1.0110011001100110011001100110011001100110011001100110(舍)
即:
00111->0100
01101->0110
此處同樣有精度損失。在這里我們可以發(fā)現(xiàn),0.3+0.4對階階運(yùn)算且規(guī)格化后的運(yùn)算結(jié)果與0.7在二進(jìn)制中的存儲尾數(shù)相同(可對照尾數(shù)后幾位),而0.1+0.2的運(yùn)算結(jié)果與0.3的存儲尾數(shù)不同,且0.1+0.2轉(zhuǎn)化為十進(jìn)制時(shí)結(jié)果為0.300000000000000004。
此時(shí),雖然0.1+0.2與0.3+0.4進(jìn)行舍入操作的近似位都為1,但一入一舍導(dǎo)致計(jì)算結(jié)果與“標(biāo)準(zhǔn)答案”的異同。
維基百科對最近偶數(shù)舍入原則的解釋如下:舍入到最接近,在一樣接近的情況下偶數(shù)優(yōu)先(Ties To Even,這是默認(rèn)的舍入方式),即會將結(jié)果舍入為最接近(精度損失最?。┣铱梢员硎镜闹?,但是當(dāng)存在兩個(gè)數(shù)一樣接近的時(shí)候,則取其中的偶數(shù)(在二進(jìn)制中是以0結(jié)尾的)。
首先要注意的是,保留小數(shù)不是只看后面一位或者兩位,而是看保留位后面的所有位。
如圖,可以看到近似需要看三位,保留位(近似后的最低位)、近似位(保留位的后一位)、粘滯位(sticky bit 近似位后的所有位進(jìn)行或運(yùn)算后看作一位)。
當(dāng)粘滯位為1時(shí),舍入規(guī)則可以看作0舍1入,近似位為0舍,近似位為1入(即第一部分小數(shù)二進(jìn)制存儲為52位尾數(shù)時(shí)所進(jìn)行的舍入操作)。
當(dāng)粘滯位為0時(shí),若近似位為0則舍去。
當(dāng)粘滯位為0時(shí),若近似位為1,無論舍入精度損失都相同,故需取舍入兩種結(jié)果中的偶數(shù):保留位為1時(shí)入,保留位為0時(shí)舍(即第二部分對階運(yùn)算規(guī)格化時(shí)的舍入操作)。
由于IEEE754標(biāo)準(zhǔn),這樣的“bug”不止在JavaScript中會出現(xiàn),在所有采用該標(biāo)準(zhǔn)的語言中都會存在,實(shí)際編程中可以通過設(shè)置精度保留位數(shù)等方式解決。
分享名稱:為什么JavaScript中0.1+0.2不等于0.3?
網(wǎng)頁路徑:http://muchs.cn/article44/pjjeee.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、、網(wǎng)站建設(shè)、虛擬主機(jī)、網(wǎng)站制作、軟件開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)