float浮點(diǎn)數(shù)為什么會(huì)有誤差 浮點(diǎn)數(shù)最大表示范圍?
浮點(diǎn)數(shù)最大表示范圍?根據(jù)最廣泛使用的IEEE754標(biāo)準(zhǔn),浮點(diǎn)數(shù)據(jù)類型的長度是32位,其中最高的位是符號位,中間的8位是索引位,最后的23位是尾位。因此,浮動(dòng)范圍(-3.4e38)~(3.4e38)很大
浮點(diǎn)數(shù)最大表示范圍?
根據(jù)最廣泛使用的IEEE754標(biāo)準(zhǔn),浮點(diǎn)數(shù)據(jù)類型的長度是32位,其中最高的位是符號位,中間的8位是索引位,最后的23位是尾位。因此,浮動(dòng)范圍(-3.4e38)~(3.4e38)很大,基本上可以滿足我們的需要。然而,一個(gè)問題是精度。23位尾數(shù)的最大范圍是2^23?1=8388607,所以浮點(diǎn)數(shù)的小數(shù)精度只有6-7位,所以使用浮點(diǎn)數(shù)時(shí)要注意其精度。
類似地,double的尾數(shù)從23位擴(kuò)展到52位,順序碼從8位增加到11位。其示值范圍為-1.7e 308~1.7e 308,精度為2^52-1=4503599627370495,為16位,最小精度為15位。