VB6 寫程式,除錯的時候遇到一個問題:8.16-8-8*0.02,結果等于1.38777878078145E-16 是怎么回事?我又把它寫成8.16-8-0.16,結果還是1.38777878078145E-16 ,不是0,為什么?
uj5u.com熱心網友回復:
? 8.16@-8-8*0.02@
0
? 8.16-8-8*0.02
1.38777878078145E-16
可以考慮用Currency型別
uj5u.com熱心網友回復:
結果不為0是因為浮點轉換的精度問題造成的。uj5u.com熱心網友回復:
1.38777878078145E-16這個就是0,只是有誤差,這個相當于1.3877...x10的-16次方,無限接近0了
轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/7314.html
標籤:VB基礎類
上一篇:向各位大佬尋求幫助
