local test = 0.4
while test > 0 do
test = test - 0.1
if test>0 and test<0.1 then
log("=============shit="..test)
end
end
最終log輸出=============shit=2.7755575615629e-017
知道是精度誤差問題,但是這樣也太容易誤差了吧.才三四次運算就出現誤差了..
以前我們是盡量避免用小數點計算,但是如果非要小數點,這種問題大家有什么解決方法嗎?
uj5u.com熱心網友回復:
可以先乘以100計算結果,然后結果再除以一百。uj5u.com熱心網友回復:
跟運算次數沒有關系,一次就這樣轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/50532.html
標籤:Unity3D
