請教大神們一個問題 :float共32位23位為尾數位根據0舍1入的規則當24位為1的時候第23位要+1這時候float中存盤的數會比正確的數大上一些假設float為8000023那么正確的數小上一些為7999986這樣有效位數不是6位了嘛
uj5u.com熱心網友回復:
參考IEEE 754
uj5u.com熱心網友回復:
參考IEEE 754吧,不過你的那種DSP 芯片,需要float轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/156716.html
標籤:硬件設計
