主頁 > 軟體工程 > vb s型熱電偶反函式用d1算的時候沒問題,d2/d3/d4算出來的數和分度表比差幾十度

vb s型熱電偶反函式用d1算的時候沒問題,d2/d3/d4算出來的數和分度表比差幾十度

2020-09-17 07:51:06 軟體工程

Function SVtoTemp(V As Double) As Double 'V為mV單位'電壓值轉溫度 S型熱電偶反函式
 
'(-235mV~1874)
 Dim d1(10) As Double
 d1(0) = 0
 d1(1) = 0.18494946
 d1(2) = -0.0000800504062
 d1(3) = 0.00000010223743
 d1(4) = -1.52248592E-10
 d1(5) = 1.88821343E-13
 d1(6) = -1.59085941E-16
 d1(7) = 8.2302788E-20
 d1(8) = -2.34181944E-23
 d1(9) = 2.7978626E-27
 

'(1874~10332)
 Dim d2(10) As Double
 d2(0) = 1.291507177
 d2(1) = 0.1466298863
 d2(2) = -0.00001534713402
 d2(3) = 3.145945973E-09
 d2(4) = -4.163257839E-13
 d2(5) = 3.187863771E-17
 d2(6) = -1.2916375E-21
 d2(7) = 2.183475087E-26
 d2(8) = -1.447379511E-31
 d2(9) = 8.211272125E-36


'(10332~17536)
 Dim d3(6) As Double
 d3(0) = -8.087801117
 d3(1) = 0.1621573104
 d3(2) = -0.000008536869453
 d3(3) = 4.719686976E-10
 d3(4) = -1.441693666E-14
 d3(5) = 2.08161889E-19
 '(17536~18694)
 Dim d4(5) As Double
 d4(0) = 53338.75126
 d4(1) = -1.235892298
 d4(2) = 0.001092657613
 d4(3) = -4.265693686E-08
 d4(4) = 6.24720542E-13

Dim Temp As Double
Temp = 0

If V < 1874 Then
 For i = 0 To 9
 Temp = Temp + d1(i) * V ^ i
 Next
 ElseIf V >= 1874 And V < 10332 Then
 For i = 0 To 9
 Temp = Temp + d2(i) * V ^ i
 Next
 ElseIf V >= 10332 And V < 17536 Then
 

For i = 0 To 5
 Temp = Temp + d3(i) * V ^ i
 Next
 
ElseIf V >= 17536 Then
 For i = 0 To 4
 Temp = Temp + d4(i) * V ^ i
 Next

End If
SVtoTemp = Temp
End Function

uj5u.com熱心網友回復:

檢查你的常數表,多用幾種基準溫度計做對照。

給你另外一種風格的代碼。

Dim d(9) As Double
Dim i As Integer

Function SVtoTemp(V As Double) As Double
Dim Temp As Double

If (V < -235) Or (V > 18694) Then Exit Function

If V < 1874 Then
 d(0) = 0
 d(1) = 0.18494946
 d(2) = -0.0000800504062
 d(3) = 0.00000010223743
 d(4) = -1.52248592E-10
 d(5) = 1.88821343E-13
 d(6) = -1.59085941E-16
 d(7) = 8.2302788E-20
 d(8) = -2.34181944E-23
 d(9) = 2.7978626E-27
ElseIf (V >= 1874) And (V < 10332) Then
 d(0) = 1.291507177
 d(1) = 0.1466298863
 d(2) = -0.00001534713402
 d(3) = 3.145945973E-09
 d(4) = -4.163257839E-13
 d(5) = 3.187863771E-17
 d(6) = -1.2916375E-21
 d(7) = 2.183475087E-26
 d(8) = -1.447379511E-31
 d(9) = 8.211272125E-36
ElseIf (V >= 10332) And (V < 17536) Then
 d(0) = -8.087801117
 d(1) = 0.1621573104
 d(2) = -0.000008536869453
 d(3) = 4.719686976E-10
 d(4) = -1.441693666E-14
 d(5) = 2.08161889E-19
 d(6) = 0
Else
 d(0) = 53338.75126
 d(1) = -1.235892298
 d(2) = 0.001092657613
 d(3) = -4.265693686E-08
 d(4) = 6.24720542E-13
 d(5) = 0
End If

For i = 0 To 9
 If (i > 0) And (d(i) = 0) Then Exit For
 Temp = Temp + d(i) * V ^ i
Next i

SVtoTemp = Temp
End Function

uj5u.com熱心網友回復:

對#1的代碼加了運算程序的除錯輸出

Sub Main()
    SVtoTemp 1000
    SVtoTemp 10000
    SVtoTemp 15000
    SVtoTemp 18000
End Sub

Function SVtoTemp(V As Double) As Double
    Dim d(9)        As Double
    Dim i           As Integer
    Dim Temp        As Double
    Dim lMax        As Long
    
    If (V < -235) Or (V > 18694) Then Exit Function

    Debug.Print "== " & V & "=="
    If V < 1874 Then
        lMax = 9
        d(0) = 0
        d(1) = 0.18494946
        d(2) = -0.0000800504062
        d(3) = 0.00000010223743
        d(4) = -1.52248592E-10
        d(5) = 1.88821343E-13
        d(6) = -1.59085941E-16
        d(7) = 8.2302788E-20
        d(8) = -2.34181944E-23
        d(9) = 2.7978626E-27
    ElseIf (V < 10332) Then
        lMax = 9
        d(0) = 1.291507177
        d(1) = 0.1466298863
        d(2) = -0.00001534713402
        d(3) = 3.145945973E-09
        d(4) = -4.163257839E-13
        d(5) = 3.187863771E-17
        d(6) = -1.2916375E-21
        d(7) = 2.183475087E-26
        d(8) = -1.447379511E-31
        d(9) = 8.211272125E-36
    ElseIf (V < 17536) Then
        lMax = 6
        d(0) = -8.087801117
        d(1) = 0.1621573104
        d(2) = -0.000008536869453
        d(3) = 4.719686976E-10
        d(4) = -1.441693666E-14
        d(5) = 2.08161889E-19
        d(6) = 0
    Else
        lMax = 5
        d(0) = 53338.75126
        d(1) = -1.235892298
        d(2) = 0.001092657613
        d(3) = -4.265693686E-08
        d(4) = 6.24720542E-13
        d(5) = 0
    End If

    For i = 0 To lMax
        Temp = Temp + d(i) * V ^ i
        Debug.Print i & ": " & Temp
    Next i

    SVtoTemp = Temp
End Function

下面是輸出結果,因為精度的原因,d3/d4最后一步的運算對結果毫無影響
== 1000==
0: 0
1: 184.94946
2: 104.8990538
3: 207.1364838
4: 54.8878918
5: 243.7092348
6: 84.6232938
7: 166.9260818
8: 143.5078874
9: 146.30575
== 10000==
0: 1.291507177
1: 1467.590370177
2: -67.1230318229999
3: 3078.822941177
4: -1084.434897823
5: 2103.428873177
6: 811.791373176999
7: 1030.138881877
8: 1015.665086767
9: 1023.876358892
== 15000==
0: -8.087801117
1: 2424.271854883
2: 503.476227958
3: 2096.370582358
4: 1366.5131639455
5: 1524.58609840488
6: 1524.58609840488
== 18000==
0: 53338.75126
1: 31092.689896
2: 385113.756508
3: 136338.50074048
4: 201919.164357472
5: 201919.164357472

未完待續...

uj5u.com熱心網友回復:

本來想改為Decimal型別的,結果溢位了。
看來你要找個大數運算的組件來支持高精度運算了。
'改造失敗的代碼'
Function SVtoTemp(V1 As Double) As Variant
    Dim d(9)        As Variant
    Dim i           As Integer
    Dim Temp        As Variant
    Dim lMax        As Long
    Dim V           As Variant

    V = CDec(V1)
    If (V < -235) Or (V > 18694) Then Exit Function

    Debug.Print "== " & V & "=="
    If V < 1874 Then
        lMax = 9
        d(0) = CDec(0)
        d(1) = CDec(0.18494946)
        d(2) = CDec(-0.0000800504062)
        d(3) = CDec(0.00000010223743)
        d(4) = CDec(-1.52248592E-10)
        d(5) = CDec(1.88821343E-13)
        d(6) = CDec(-1.59085941E-16)
        d(7) = CDec(8.2302788E-20)
        d(8) = CDec(-2.34181944E-23)
        d(9) = CDec(2.7978626E-27)
    ElseIf (V < 10332) Then
        lMax = 9
        d(0) = CDec(1.291507177)
        d(1) = CDec(0.1466298863)
        d(2) = CDec(-0.00001534713402)
        d(3) = CDec(3.145945973E-09)
        d(4) = CDec(-4.163257839E-13)
        d(5) = CDec(3.187863771E-17)
        d(6) = CDec(-1.2916375E-21)
        d(7) = CDec(2.183475087E-26)
        d(8) = CDec(-1.447379511E-31)
        d(9) = CDec(8.211272125E-36)
    ElseIf (V < 17536) Then
        lMax = 6
        d(0) = CDec(-8.087801117)
        d(1) = CDec(0.1621573104)
        d(2) = CDec(-0.000008536869453)
        d(3) = CDec(4.719686976E-10)
        d(4) = CDec(-1.441693666E-14)
        d(5) = CDec(2.08161889E-19)
        d(6) = CDec(0)
    Else
        lMax = 5
        d(0) = CDec(53338.75126)
        d(1) = CDec(-1.235892298)
        d(2) = CDec(0.001092657613)
        d(3) = CDec(-4.265693686E-08)
        d(4) = CDec(6.24720542E-13)
        d(5) = CDec(0)
    End If

    Temp = CDec(0)
    For i = 0 To lMax
        Temp = Temp + d(i) * V ^ i
        Debug.Print i & ": " & Temp
    Next i

    SVtoTemp = Temp
End Function

uj5u.com熱心網友回復:

Decimal 型別的“最小”值只到小數點后28位,
那幾個“乘負20幾次方”的系數,你 CDec( ) 之后,已經直接引入較大誤差了。
 還有-30多次方的,直接就“變成0”了。

uj5u.com熱心網友回復:

沒接觸過這方面的東西,不知道樓的“函式關系”和“系數”是從哪來的?

資料及演算法“可靠”嗎?

uj5u.com熱心網友回復:

搞工程的湊數
搞理論的算數

轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/63921.html

標籤:VB基礎類

上一篇:這個表單應該怎么關閉

下一篇:調整B線條相對A線條的長度

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • Git本地庫既關聯GitHub又關聯Gitee

    創建代碼倉庫 使用gitee舉例(github和gitee差不多) 1.在gitee右上角點擊+,選擇新建倉庫 ? 2.選擇填寫倉庫資訊,然后進行創建 ? 3.服務端已經準備好了,本地開始作準備 (1)Git 全域設定 git config --global user.name "成鈺" git c ......

    uj5u.com 2020-09-10 05:04:14 more
  • CODING DevOps 代碼質量實戰系列第二課,相約周三

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。**《DevOps 代碼質量實戰(PHP 版)》**為 CODING DevOps 代碼質量實戰系列的第二課,同時也是本系列的 PHP ......

    uj5u.com 2020-09-10 05:07:43 more
  • 推薦Scrum書籍

    推薦Scrum書籍 直接上干貨,推薦書籍清單如下(推薦有順序的哦) Scrum指南 Scrum精髓 Scrum敏捷軟體開發 Scrum捷徑 硝煙中的Scrum和XP : 我們如何實施Scrum 敏捷軟體開發:Scrum實戰指南 Scrum要素 大規模Scrum:大規模敏捷組織的設計 用戶故事地圖 用 ......

    uj5u.com 2020-09-10 05:07:45 more
  • CODING DevOps 代碼質量實戰系列最后一課,周四發車

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。 **《DevOps 代碼質量實戰(Java 版)》**為 CODING DevOps 代碼質量實戰系列的最后一課,同時也是本系列的 ......

    uj5u.com 2020-09-10 05:07:52 more
  • 敏捷軟體工程實踐書籍

    Scrum轉型想要做好,第一步先了解并真正落實Scrum,那么我推薦的Scrum書籍是要看懂并實踐的。第二步是團隊的工程實踐要做扎實。 下面推薦工程實踐書單: 重構:改善既有代碼的設計 決議極限編程 : 擁抱變化 代碼整潔代碼 程式員的職業素養 修改代碼的藝術 撰寫可讀代碼的藝術 測驗驅動開發 : ......

    uj5u.com 2020-09-10 05:07:55 more
  • Jenkins+svn+nginx實作windows環境自動部署vue前端專案

    前面文章介紹了Jenkins+svn+tomcat實作自動化部署,現在終于有空抽時間出來寫下Jenkins+svn+nginx實作自動部署vue前端專案。 jenkins的安裝和配置已經在前面文章進行介紹,下面介紹實作vue前端專案需要進行的哪些額外的步驟。 注意:在安裝jenkins和nginx的 ......

    uj5u.com 2020-09-10 05:08:49 more
  • CODING DevOps 微服務專案實戰系列第一課,明天等你

    CODING DevOps 微服務專案實戰系列第一課**《DevOps 微服務專案實戰:DevOps 初體驗》**將由 CODING DevOps 開發工程師 王寬老師 向大家介紹 DevOps 的基本理念,并探討為什么現代開發活動需要 DevOps,同時將以 eShopOnContainers 項 ......

    uj5u.com 2020-09-10 05:09:14 more
  • CODING DevOps 微服務專案實戰系列第二課來啦!

    近年來,工程專案的結構越來越復雜,需要接入合適的持續集成流水線形式,才能滿足更多變的需求,那么如何優雅地使用 CI 能力提升生產效率呢?CODING DevOps 微服務專案實戰系列第二課 《DevOps 微服務專案實戰:CI 進階用法》 將由 CODING DevOps 全堆疊工程師 何晨哲老師 向 ......

    uj5u.com 2020-09-10 05:09:33 more
  • CODING DevOps 微服務專案實戰系列最后一課,周四開講!

    隨著軟體工程越來越復雜化,如何在 Kubernetes 集群進行灰度發布成為了生產部署的”必修課“,而如何實作安全可控、自動化的灰度發布也成為了持續部署重點關注的問題。CODING DevOps 微服務專案實戰系列最后一課:**《DevOps 微服務專案實戰:基于 Nginx-ingress 的自動 ......

    uj5u.com 2020-09-10 05:10:00 more
  • CODING 儀表盤功能正式推出,實作作業資料可視化!

    CODING 儀表盤功能現已正式推出!該功能旨在用一張張統計卡片的形式,統計并展示使用 CODING 中所產生的資料。這意味著無需額外的設定,就可以收集歸納寶貴的作業資料并予之量化分析。這些海量的資料皆會以圖表或串列的方式躍然紙上,方便團隊成員隨時查看各專案的進度、狀態和指標,云端協作迎來真正意義上 ......

    uj5u.com 2020-09-10 05:11:01 more
最新发布
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:41:12 more
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:35:34 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:05:44 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:00:18 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:20:31 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:55 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:18:51 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:00 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:17:55 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:12:06 more