精度是什么意思？簡而言之，采樣精度是采樣可以達(dá)到的最小精度。10位通常記錄為2，10=1024，精度為每單位的1/1024。如果采用電壓采樣，精度為1/1024v=0.0009765925v，約為0.

精度是什么意思？

簡而言之，采樣精度是采樣可以達(dá)到的最小精度。10位通常記錄為2，10=1024，精度為每單位的1/1024。如果采用電壓采樣，精度為1/1024v=0.0009765925v，約為0.98mv。轉(zhuǎn)換數(shù)字精度，數(shù)字10表示最小精度是10-2個(gè)參考電壓之一，也是1024個(gè)點(diǎn)之一，這里如果參考電壓是5V，那么（1024）5個(gè)成員的最小單位就是現(xiàn)在。0為0V，1023為5倍（1023/1024），線性變化。

C語言中數(shù)據(jù)的精度是什么意思？

這是由于浮點(diǎn)數(shù)無法準(zhǔn)確表示。另外，代碼中缺少兩個(gè)等號：int dot=（0）//記錄小數(shù)點(diǎn)狀態(tài)，float current=（55.0889）。將程序中的浮點(diǎn)值改為double可以提高精度。#包括