計算機中浮點數(shù)運算的問題

    首先我們來看一下下面一段代碼:

為越城等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計制作服務(wù),及越城網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都網(wǎng)站制作、成都網(wǎng)站設(shè)計、越城網(wǎng)站設(shè)計,以傳統(tǒng)方式定制建設(shè)網(wǎng)站,并提供域名空間備案等一條龍服務(wù),秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!

#include <stdio.h>

int main(int argc, char *argv[])
{
    int i;
    float sum = 0;
    
    for (i = 0; i < 100; i++){
        sum += 0.1;
    } 
    
    printf("sum = %f \n", sum);
    
    return 0;
}

    在32位ubuntu16.10上的執(zhí)行結(jié)果為:

sum = 10.000002

    0.1累加100次,結(jié)果應(yīng)該是10.這里卻多出了0.000002,為什么呢??這主要是與計算機中浮點數(shù)計算方式有關(guān)。

    大家知道計算機是只認識0和1的,也就是所有的運算數(shù)值要轉(zhuǎn)化位二進制后進行運算的,而浮點數(shù)轉(zhuǎn)換成二進制的小數(shù)上就會出現(xiàn)問題。首先介紹下十進制小數(shù)轉(zhuǎn)化成二進制小數(shù)的方法:

    將十進制的整數(shù)轉(zhuǎn)化為二進制時,使用的方法是連續(xù)除2,將余數(shù)從下向上讀,就可以得到二進制數(shù);相反將十進制的小數(shù)轉(zhuǎn)化為二進制小數(shù)時,將小數(shù)部分乘2,直到小數(shù)部分全為0,如將十進制0.125轉(zhuǎn)化為二進制為0.001:

    0   0.125 * 2 = 0.25  (取0.25的整數(shù)部分)

    0   0.25 *2  = 0.5   (取0.5的整數(shù)部分)  

     1   0.5 *2  = 1.0   (取1.0的整數(shù)部分)  

   然而并不是所有的十進制小數(shù)都能轉(zhuǎn)化為二進制小數(shù),如十進制的0.1:

    0   0.1 * 2 = 0.2

     0   0.2 * 2 = 0.4

    0   0.4 * 2 = 0.8

     1   0.8 * 2 = 1.6

    1   0.6 * 2 = 1.2

     0   0.2 * 2 = 0.4

    .

    .

    .

   可以看出將十進制的0.1轉(zhuǎn)化為二進制是0.0001100011...是個無限循環(huán)的小數(shù),所以當我們進行浮點數(shù)進行計算機運算的時候可能出現(xiàn)錯誤。

   常見的解決辦法是:

    1)對于一些精度要求不高的運算可以選擇忽略

    2)對于一些要求較高的科學運算,可以先將十進制的小數(shù)轉(zhuǎn)化為整數(shù)再進行運算,因為計算機對整數(shù)的運算的是準確的。

分享名稱:計算機中浮點數(shù)運算的問題
網(wǎng)頁網(wǎng)址:http://muchs.cn/article22/jephcc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供面包屑導(dǎo)航、電子商務(wù)、網(wǎng)站設(shè)計外貿(mào)建站、搜索引擎優(yōu)化、企業(yè)建站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

網(wǎng)站建設(shè)網(wǎng)站維護公司