主頁 > 企業開發 > js 浮點數陷阱

js 浮點數陷阱

2021-01-09 07:25:26 企業開發

眾所周知,JavaScript 浮點數運算時經常遇到會 0.000000001 和 0.999999999 這樣奇怪的結果,如 0.1+0.2=0.300000000000000041-0.9=0.09999999999999998,很多人知道這是浮點數誤差問題,但具體就說不清楚了,本文幫你理清這背后的原理以及解決方案,還會向你解釋JS中的大數危機和四則運算中會遇到的坑,

浮點數的存盤

首先要搞清楚 JavaScript 如何存盤小數,和其它語言如 Java 和 Python 不同,JavaScript 中所有數字包括整數和小數都只有一種型別 — Number,它的實作遵循 IEEE 754 標準,使用 64 位固定長度來表示,也就是標準的 double 雙精度浮點數(相關的還有float 32位單精度),計算機組成原理中有過詳細介紹,如果你不記得也沒關系,

這樣的存盤結構優點是可以歸一化處理整數和小數,節省存盤空間,

64位位元又可分為三個部分:

  • 符號位S:第 1 位是正負數符號位(sign),0代表正數,1代表負數
  • 指數位E:中間的 11 位存盤指數(exponent),用來表示次方數
  • 尾數位M:最后的 52 位是尾數(mantissa),超出的部分自動進一舍零

實際數字就可以用以下公式來計算:
$ V = (-1)^{S}\times M \times 2^{E} $

注意以上的公式遵循科學計數法的規范,在十進制是為0<M<10,到二進行就是0<M<2,也就是說整數部分只能是1,所以可以被舍去,只保留后面的小數部分,如 4.5 轉換成二進制就是 100.1,科學計數法表示是 1.001*2^2,舍去1后 M = 001,E是一個無符號整數,因為長度是11位,取值范圍是 0~2047,但是科學計數法中的指數是可以為負數的,所以再減去一個中間數 1023,[0,1022]表示為負,[1024,2047] 表示為正,如4.5 的指數E = 1025,尾數M為 001,

最終的公式變成:

$ V = (-1)^{S}\times (M+1) \times 2^{E-1023} $

所以 4.5 最終表示為(M=001、E=1025):

 下面再以 0.1 例解釋浮點誤差的原因, 0.1 轉成二進制表示為 0.0001100110011001100(1100回圈),1.100110011001100x2^-4,所以 E=-4+1023=1019;M 舍去首位的1,得到 100110011...,最終就是:

轉化成十進制后為 0.100000000000000005551115123126,因此就出現了浮點誤差,

為什么 0.1+0.2=0.30000000000000004

計算步驟為:

// 0.1 和 0.2 都轉化成二進制后再進行運算
0.00011001100110011001100110011001100110011001100110011010 +
0.0011001100110011001100110011001100110011001100110011010 =
0.0100110011001100110011001100110011001100110011001100111

// 轉成十進制正好是 0.30000000000000004

為什么 x=0.1 能得到 0.1

恭喜你到了看山不是山的境界,因為 mantissa 固定長度是 52 位,再加上省略的一位,最多可以表示的數是 2^53=9007199254740992,對應科學計數尾數是 9.007199254740992,這也是 JS 最多能表示的精度,它的長度是 16,所以可以使用 toPrecision(16) 來做精度運算,超過的精度會自動做湊整處理,于是就有:

0.10000000000000000555.toPrecision(16)
// 回傳 0.1000000000000000,去掉末尾的零后正好為 0.1

// 但你看到的 `0.1` 實際上并不是 `0.1`,不信你可用更高的精度試試:
0.1.toPrecision(21) = 0.100000000000000005551

大數危機

可能你已經隱約感覺到了,如果整數大于 9007199254740992 會出現什么情況呢?
由于 E 最大值是 1023,所以最大可以表示的整數是 2^1024 - 1,這就是能表示的最大整數,但你并不能這樣計算這個數字,因為從 2^1024 開始就變成了 Infinity

> Math.pow(2, 1023)
8.98846567431158e+307

> Math.pow(2, 1024)
Infinity

那么對于 (2^53, 2^63) 之間的數會出現什么情況呢?

  • (2^53, 2^54) 之間的數會兩個選一個,只能精確表示偶數
  • (2^54, 2^55) 之間的數會四個選一個,只能精確表示4個倍數
  • ... 依次跳過更多2的倍數

下面這張圖能很好的表示 JavaScript 中浮點數和實數(Real Number)之間的對應關系,我們常用的 (-2^53, 2^53) 只是最中間非常小的一部分,越往兩邊越稀疏越不精確,

在淘寶早期的訂單系統中把訂單號當作數字處理,后來隨意訂單號暴增,已經超過了
9007199254740992,最終的解法是把訂單號改成字串處理,

要想解決大數的問題你可以參考第三方庫 bignumber.js,原理是把所有數字當作字串,重新實作了計算邏輯,缺點是性能比原生的差很多,所以原生支持大數就很有必要了,現在 TC39 已經有一個 Stage 3 的提案 proposal bigint,大數問題有問徹底解決,

toPrecision vs toFixed

資料處理時,這兩個函式很容易混淆,它們的共同點是把數字轉成字串供展示使用,注意在計算的中間程序不要使用,只用于最終結果,

不同點就需要注意一下:

  • toPrecision 是處理精度,精度是從左至右第一個不為0的數開始數起,
  • toFixed 是小數點后指定位數取整,從小數點開始數起,

兩者都能對多余數字做湊整處理,也有些人用 toFixed 來做四舍五入,但一定要知道它是有 Bug 的,

如:1.005.toFixed(2) 回傳的是 1.00 而不是 1.01

原因: 1.005 實際對應的數字是 1.00499999999999989,在四舍五入時全部被舍去!

解法:使用專業的四舍五入函式 Math.round() 來處理,但 Math.round(1.005 * 100) / 100 還是不行,因為 1.005 * 100 = 100.49999999999999,還需要把乘法和除法精度誤差都解決后再使用 Math.round,可以使用后面介紹的 number-precision#round 方法來解決,

解決方案

回到最關心的問題:如何解決浮點誤差,首先,理論上用有限的空間來存盤無限的小數是不可能保證精確的,但我們可以處理一下得到我們期望的結果,

資料展示類

當你拿到 1.4000000000000001 這樣的資料要展示時,建議使用 toPrecision 湊整并 parseFloat 轉成數字后再顯示,如下:

parseFloat(1.4000000000000001.toPrecision(12)) === 1.4  // True

封裝成方法就是:

function strip(num, precision = 12) {
  return +parseFloat(num.toPrecision(precision));
}

為什么選擇 12 做為默認精度?這是一個經驗的選擇,一般選12就能解決掉大部分0001和0009問題,而且大部分情況下也夠用了,如果你需要更精確可以調高,

資料運算類

對于運算類操作,如 +-*/,就不能使用 toPrecision 了,正確的做法是把小數轉成整數后再運算,以加法為例:

/**
 * 精確加法
 */
function add(num1, num2) {
  const num1Digits = (num1.toString().split('.')[1] || '').length;
  const num2Digits = (num2.toString().split('.')[1] || '').length;
  const baseNum = Math.pow(10, Math.max(num1Digits, num2Digits));
  return (num1 * baseNum + num2 * baseNum) / baseNum;
}

以上方法能適用于大部分場景,遇到科學計數法如 2.3e+1(當數字精度大于21時,數字會強制轉為科學計數法形式顯示)時還需要特別處理一下,

能讀到這里,說明你非常有耐心,那我就放個福利吧,遇到浮點數誤差問題時可以直接使用
github.com/dt-fe/numbe…

完美支持浮點數的加減乘除、四舍五入等運算,非常小只有1K,遠小于絕大多數同類別庫(如Math.js、BigDecimal.js),100%測驗全覆寫,代碼可讀性強,不妨在你的應用里用起來!

參考并轉載于:https://github.com/camsong/blog/issues/9

轉載請註明出處,本文鏈接:https://www.uj5u.com/qiye/246482.html

標籤:其他

上一篇:百度地圖 - 基礎學習(7): 折線構成閉合圖形面積計算

下一篇:水平垂直居中深入挖掘

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • IEEE1588PTP在數字化變電站時鐘同步方面的應用

    IEEE1588ptp在數字化變電站時鐘同步方面的應用 京準電子科技官微——ahjzsz 一、電力系統時間同步基本概況 隨著對IEC 61850標準研究的不斷深入,國內外學者提出基于IEC61850通信標準體系建設數字化變電站的發展思路。數字化變電站與常規變電站的顯著區別在于程序層傳統的電流/電壓互 ......

    uj5u.com 2020-09-10 03:51:52 more
  • HTTP request smuggling CL.TE

    CL.TE 簡介 前端通過Content-Length處理請求,通過反向代理或者負載均衡將請求轉發到后端,后端Transfer-Encoding優先級較高,以TE處理請求造成安全問題。 檢測 發送如下資料包 POST / HTTP/1.1 Host: ac391f7e1e9af821806e890 ......

    uj5u.com 2020-09-10 03:52:11 more
  • 網路滲透資料大全單——漏洞庫篇

    網路滲透資料大全單——漏洞庫篇漏洞庫 NVD ——美國國家漏洞庫 →http://nvd.nist.gov/。 CERT ——美國國家應急回應中心 →https://www.us-cert.gov/ OSVDB ——開源漏洞庫 →http://osvdb.org Bugtraq ——賽門鐵克 →ht ......

    uj5u.com 2020-09-10 03:52:15 more
  • 京準講述NTP時鐘服務器應用及原理

    京準講述NTP時鐘服務器應用及原理京準講述NTP時鐘服務器應用及原理 安徽京準電子科技官微——ahjzsz 北斗授時原理 授時是指接識訓通過某種方式獲得本地時間與北斗標準時間的鐘差,然后調整本地時鐘使時差控制在一定的精度范圍內。 衛星導航系統通常由三部分組成:導航授時衛星、地面檢測校正維護系統和用戶 ......

    uj5u.com 2020-09-10 03:52:25 more
  • 利用北斗衛星系統設計NTP網路時間服務器

    利用北斗衛星系統設計NTP網路時間服務器 利用北斗衛星系統設計NTP網路時間服務器 安徽京準電子科技官微——ahjzsz 概述 NTP網路時間服務器是一款支持NTP和SNTP網路時間同步協議,高精度、大容量、高品質的高科技時鐘產品。 NTP網路時間服務器設備采用冗余架構設計,高精度時鐘直接來源于北斗 ......

    uj5u.com 2020-09-10 03:52:35 more
  • 詳細解讀電力系統各種對時方式

    詳細解讀電力系統各種對時方式 詳細解讀電力系統各種對時方式 安徽京準電子科技官微——ahjzsz,更多資料請添加VX 衛星同步時鐘是我京準公司開發研制的應用衛星授時時技術的標準時間顯示和發送的裝置,該裝置以M國全球定位系統(GLOBAL POSITIONING SYSTEM,縮寫為GPS)或者我國北 ......

    uj5u.com 2020-09-10 03:52:45 more
  • 如何保證外包團隊接入企業內網安全

    不管企業規模的大小,只要企業想省錢,那么企業的某些服務就一定會采用外包的形式,然而看似美好又經濟的策略,其實也有不好的一面。下面我通過安全的角度來聊聊使用外包團的安全隱患問題。 先看看什么服務會使用外包的,最常見的就是話務/客服這種需要大量重復性、無技術性的服務,或者是一些銷售外包、特殊的職能外包等 ......

    uj5u.com 2020-09-10 03:52:57 more
  • PHP漏洞之【整型數字型SQL注入】

    0x01 什么是SQL注入 SQL是一種注入攻擊,通過前端帶入后端資料庫進行惡意的SQL陳述句查詢。 0x02 SQL整型注入原理 SQL注入一般發生在動態網站URL地址里,當然也會發生在其它地發,如登錄框等等也會存在注入,只要是和資料庫打交道的地方都有可能存在。 如這里http://192.168. ......

    uj5u.com 2020-09-10 03:55:40 more
  • [GXYCTF2019]禁止套娃

    git泄露獲取原始碼 使用GET傳參,引數為exp 經過三層過濾執行 第一層過濾偽協議,第二層過濾帶引數的函式,第三層過濾一些函式 preg_replace('/[a-z,_]+\((?R)?\)/', NULL, $_GET['exp'] (?R)參考當前正則運算式,相當于匹配函式里的引數 因此傳遞 ......

    uj5u.com 2020-09-10 03:56:07 more
  • 等保2.0實施流程

    流程 結論 ......

    uj5u.com 2020-09-10 03:56:16 more
最新发布
  • 使用Django Rest framework搭建Blog

    在前面的Blog例子中我們使用的是GraphQL, 雖然GraphQL的使用處于上升趨勢,但是Rest API還是使用的更廣泛一些. 所以還是決定回到傳統的rest api framework上來, Django rest framework的官網上給了一個很好用的QuickStart, 我參考Qu ......

    uj5u.com 2023-04-20 08:17:54 more
  • 記錄-new Date() 我忍你很久了!

    這里給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 大家平時在開發的時候有沒被new Date()折磨過?就是它的諸多怪異的設定讓你每每用的時候,都可能不小心踩坑。造成程式意外出錯,卻一下子找不到問題出處,那叫一個煩透了…… 下面,我就列舉它的“四宗罪”及應用思考 可惡的四宗罪 1. Sa ......

    uj5u.com 2023-04-20 08:17:47 more
  • 使用Vue.js實作文字跑馬燈效果

    實作文字跑馬燈效果,首先用到 substring()截取 和 setInterval計時器 clearInterval()清除計時器 效果如下: 實作代碼如下: <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <meta ......

    uj5u.com 2023-04-20 08:12:31 more
  • JavaScript 運算子

    JavaScript 運算子/運算子 在 JavaScript 中,有一些運算子可以使代碼更簡潔、易讀和高效。以下是一些常見的運算子: 1、可選鏈運算子(optional chaining operator) ?.是可選鏈運算子(optional chaining operator)。?. 可選鏈操 ......

    uj5u.com 2023-04-20 08:02:25 more
  • CSS—相對單位rem

    一、概述 rem是一個相對長度單位,它的單位長度取決于根標簽html的字體尺寸。rem即root em的意思,中文翻譯為根em。瀏覽器的文本尺寸一般默認為16px,即默認情況下: 1rem = 16px rem布局原理:根據CSS媒體查詢功能,更改根標簽的字體尺寸,實作rem單位隨螢屏尺寸的變化,如 ......

    uj5u.com 2023-04-20 08:02:21 more
  • 我的第一個NPM包:panghu-planebattle-esm(胖虎飛機大戰)使用說明

    好家伙,我的包終于開發完啦 歡迎使用胖虎的飛機大戰包!! 為你的主頁添加色彩 這是一個有趣的網頁小游戲包,使用canvas和js開發 使用ES6模塊化開發 效果圖如下: (覺得圖片太sb的可以自己改) 代碼已開源!! Git: https://gitee.com/tang-and-han-dynas ......

    uj5u.com 2023-04-20 08:01:50 more
  • 如何在 vue3 中使用 jsx/tsx?

    我們都知道,通常情況下我們使用 vue 大多都是用的 SFC(Signle File Component)單檔案組件模式,即一個組件就是一個檔案,但其實 Vue 也是支持使用 JSX 來撰寫組件的。這里不討論 SFC 和 JSX 的好壞,這個仁者見仁智者見智。本篇文章旨在帶領大家快速了解和使用 Vu ......

    uj5u.com 2023-04-20 08:01:37 more
  • 【Vue2.x原始碼系列06】計算屬性computed原理

    本章目標:計算屬性是如何實作的?計算屬性快取原理以及洋蔥模型的應用?在初始化Vue實體時,我們會給每個計算屬性都創建一個對應watcher,我們稱之為計算屬性watcher ......

    uj5u.com 2023-04-20 08:01:31 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:01:10 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:00:32 more