主頁 > 軟體工程 > vb怎么判斷文本檔案的編碼格式?

vb怎么判斷文本檔案的編碼格式?

2020-09-22 18:33:38 軟體工程

網上找了很多辦法都沒有用。基本都是根據檔案的前兩個位元組判斷的。可是我要處理的這個檔案前兩位元組沒有表示格式。
http://bbs.csdn.net/topics/310101466 像這個帖子里的代碼,根本判斷不出來是utf8的。

用editplus打開一個文本檔案會看到下面狀態欄顯示它的編碼是utf-8,但是上面帖子判斷出來是ANSI,看下圖:



以16進制看了下,檔案前兩個位元組就是檔案內容本身,沒有專門標記編碼,看下圖:
http://img.my.csdn.net/uploads/201412/04/1417659625_4106.jpg

不知道editplus怎么判的。 記事本另存為它的時候也會自動選擇為utf-8,難道它們都是讀取的時候一個個分析里面的內容嗎? 要處理的檔案有很多。有些是utf8的有些是ANSI的。目的是挑出ANSI的修改里面的一部分內容。 具體是網頁的meta標簽里charset=utf-8 改成charset=euc-kr   不然打開會亂碼。

測驗檔案下載:http://files.cnblogs.com/sysdzw/%E6%B5%8B%E8%AF%95%E6%96%87%E4%BB%B6.rar

uj5u.com熱心網友回復:

既然有charset=euc-kr那就不應該是UTF-8編碼的

uj5u.com熱心網友回復:

樓主的意思可能是:charset設定成了A編碼,保存的時候檔案采用了B編碼

大自然的搬運工:
http://bbs.csdn.net/topics/370095245

uj5u.com熱心網友回復:

參考 1 樓 bcrun 的回復:
既然有charset=euc-kr那就不應該是UTF-8編碼的


檔案ANSI + charset=utf-8 ———— html檔案打開亂碼
檔案ANSI + charset=euc-kr ———— html檔案打開正常

現在就是一個檔案夾里有一大批html檔案,有ANSI 的也有utf8的,沒法區分出目標檔案進行上述調整。

樓上發的那個根據檔案內容的貌似也行不通。那樓主最后也沒有完整的方案。 實在不行我研究怎么呼叫editplus來得到底部那個編碼了。

uj5u.com熱心網友回復:

我拿UltraEdit打開了你的測驗檔案,結果辨認失敗,全認成了utf8……
遍歷是少不了的了,只能通過里面的編碼來辨認,稍微有點小痛苦。
參考
UTF-8是一種變長位元組編碼方式。對于某一個字符的UTF-8編碼,如果只有一個位元組則其最高二進制位為0;如果是多位元組,其第一個位元組從最高位開始,連續的二進制位值為1的個數決定了其編碼的位數,其余各位元組均以10開頭。UTF-8最多可用到6個位元組。 
如表: 
1位元組 0xxxxxxx 
2位元組 110xxxxx 10xxxxxx 
3位元組 1110xxxx 10xxxxxx 10xxxxxx 
4位元組 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 
5位元組 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 
6位元組 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 

你的檔案按字符范圍來看只有兩種情況:
第一種,整個檔案全是字母、數字、符號,那就沒什么好糾結的了,ANSI和 UTF8的結果一樣,直接把它讀出來,存成UTF-8就行;
第二種,如果包含非ASCII范圍的內容,那就整個檔案讀出來逐位元組分析:如果發現有11xxxxxx 開頭(大于C0)的位元組,就先取一下開頭1的長度,這就獲取到了該字符的長度,取完再往后讀相應長度的內容,是不是全以10開頭(大于80)的,如果是,那就是UTF-8,如果不是就簡單粗暴地歸成ANSI吧。

uj5u.com熱心網友回復:

不過,說起來這么一大篇,但是規則都已經很明確了,寫出來也不復雜,執行起來也不會很費時間。為了提高識別的準確率,還是整個檔案全檢查下來吧

uj5u.com熱心網友回復:

感覺樓主的思路可能是走了某種誤區。這樣吧,你試下國產的這個可說是比editplus還強些的軟體
如果能自動識別你的檔案,那就加下他的軟體群進去,親自問下作者是根據什么次序判斷的,據我在該軟體群的了解,這種不算啥技識訓密的東西,他應該是愿意分享的:
http://www.everedit.net/

uj5u.com熱心網友回復:

參考 5 樓 Runnerchin 的回復:
不過,說起來這么一大篇,但是規則都已經很明確了,寫出來也不復雜,執行起來也不會很費時間。為了提高識別的準確率,還是整個檔案全檢查下來吧


你說的這個,也是我們比較容易想到的一種方法。當然,在實際產品中,要考慮到各方面的容錯性,但你說的這一步全文掃描判斷,我覺得是必要的一步。

uj5u.com熱心網友回復:

發一個判斷網頁編碼格式的,看看能不能幫到樓主


Private Function IsUTF8(Bytes) As Boolean
'網頁編碼判斷
On Error GoTo Err

    Dim i As Long, AscN As Long, Length As Long
    
    Length = UBound(Bytes) + 1
    
    If Length < 3 Then
        IsUTF8 = False
        Exit Function
    ElseIf Bytes(0) = &HEF And Bytes(1) = &HBB And Bytes(2) = &HBF Then
        IsUTF8 = True
        Exit Function
    End If
    
    Do While i <= Length - 1
        If Bytes(i) < 128 Then
            i = i + 1
            AscN = AscN + 1
        ElseIf (Bytes(i) And &HE0) = &HC0 And (Bytes(i + 1) And &HC0) = &H80 Then
            i = i + 2
        ElseIf i + 2 < Length Then
            If (Bytes(i) And &HF0) = &HE0 And (Bytes(i + 1) And &HC0) = &H80 And (Bytes(i + 2) And &HC0) = &H80 Then
                 i = i + 3
            Else
                IsUTF8 = False
                Exit Function
            End If
        Else
            IsUTF8 = False
            Exit Function
        End If
    Loop
    
    If AscN = Length Then
        IsUTF8 = False
    Else
        IsUTF8 = True
    End If
    
    Exit Function
Err:
    EM "IsUTF8"
    
End Function

uj5u.com熱心網友回復:

參考 8 樓 qq_15724883 的回復:
發一個判斷網頁編碼格式的,看看能不能幫到樓主


Private Function IsUTF8(Bytes) As Boolean
'網頁編碼判斷
On Error GoTo Err

    Dim i As Long, AscN As Long, Length As Long
    
    Length = UBound(Bytes) + 1
    
    If Length < 3 Then
        IsUTF8 = False
        Exit Function
    ElseIf Bytes(0) = &HEF And Bytes(1) = &HBB And Bytes(2) = &HBF Then
        IsUTF8 = True
        Exit Function
    End If
    
    Do While i <= Length - 1
        If Bytes(i) < 128 Then
            i = i + 1
            AscN = AscN + 1
        ElseIf (Bytes(i) And &HE0) = &HC0 And (Bytes(i + 1) And &HC0) = &H80 Then
            i = i + 2
        ElseIf i + 2 < Length Then
            If (Bytes(i) And &HF0) = &HE0 And (Bytes(i + 1) And &HC0) = &H80 And (Bytes(i + 2) And &HC0) = &H80 Then
                 i = i + 3
            Else
                IsUTF8 = False
                Exit Function
            End If
        Else
            IsUTF8 = False
            Exit Function
        End If
    Loop
    
    If AscN = Length Then
        IsUTF8 = False
    Else
        IsUTF8 = True
    End If
    
    Exit Function
Err:
    EM "IsUTF8"
    
End Function


就樓主提供的2個例子,utf8==>True;ansi==>False
我看行!

轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/106527.html

標籤:VB基礎類

上一篇:activex 控制元件已打包成cab檔案,但是里面的dll未下載

下一篇:VB Inet1.OpenURL 型別不匹配

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • Git本地庫既關聯GitHub又關聯Gitee

    創建代碼倉庫 使用gitee舉例(github和gitee差不多) 1.在gitee右上角點擊+,選擇新建倉庫 ? 2.選擇填寫倉庫資訊,然后進行創建 ? 3.服務端已經準備好了,本地開始作準備 (1)Git 全域設定 git config --global user.name "成鈺" git c ......

    uj5u.com 2020-09-10 05:04:14 more
  • CODING DevOps 代碼質量實戰系列第二課,相約周三

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。**《DevOps 代碼質量實戰(PHP 版)》**為 CODING DevOps 代碼質量實戰系列的第二課,同時也是本系列的 PHP ......

    uj5u.com 2020-09-10 05:07:43 more
  • 推薦Scrum書籍

    推薦Scrum書籍 直接上干貨,推薦書籍清單如下(推薦有順序的哦) Scrum指南 Scrum精髓 Scrum敏捷軟體開發 Scrum捷徑 硝煙中的Scrum和XP : 我們如何實施Scrum 敏捷軟體開發:Scrum實戰指南 Scrum要素 大規模Scrum:大規模敏捷組織的設計 用戶故事地圖 用 ......

    uj5u.com 2020-09-10 05:07:45 more
  • CODING DevOps 代碼質量實戰系列最后一課,周四發車

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。 **《DevOps 代碼質量實戰(Java 版)》**為 CODING DevOps 代碼質量實戰系列的最后一課,同時也是本系列的 ......

    uj5u.com 2020-09-10 05:07:52 more
  • 敏捷軟體工程實踐書籍

    Scrum轉型想要做好,第一步先了解并真正落實Scrum,那么我推薦的Scrum書籍是要看懂并實踐的。第二步是團隊的工程實踐要做扎實。 下面推薦工程實踐書單: 重構:改善既有代碼的設計 決議極限編程 : 擁抱變化 代碼整潔代碼 程式員的職業素養 修改代碼的藝術 撰寫可讀代碼的藝術 測驗驅動開發 : ......

    uj5u.com 2020-09-10 05:07:55 more
  • Jenkins+svn+nginx實作windows環境自動部署vue前端專案

    前面文章介紹了Jenkins+svn+tomcat實作自動化部署,現在終于有空抽時間出來寫下Jenkins+svn+nginx實作自動部署vue前端專案。 jenkins的安裝和配置已經在前面文章進行介紹,下面介紹實作vue前端專案需要進行的哪些額外的步驟。 注意:在安裝jenkins和nginx的 ......

    uj5u.com 2020-09-10 05:08:49 more
  • CODING DevOps 微服務專案實戰系列第一課,明天等你

    CODING DevOps 微服務專案實戰系列第一課**《DevOps 微服務專案實戰:DevOps 初體驗》**將由 CODING DevOps 開發工程師 王寬老師 向大家介紹 DevOps 的基本理念,并探討為什么現代開發活動需要 DevOps,同時將以 eShopOnContainers 項 ......

    uj5u.com 2020-09-10 05:09:14 more
  • CODING DevOps 微服務專案實戰系列第二課來啦!

    近年來,工程專案的結構越來越復雜,需要接入合適的持續集成流水線形式,才能滿足更多變的需求,那么如何優雅地使用 CI 能力提升生產效率呢?CODING DevOps 微服務專案實戰系列第二課 《DevOps 微服務專案實戰:CI 進階用法》 將由 CODING DevOps 全堆疊工程師 何晨哲老師 向 ......

    uj5u.com 2020-09-10 05:09:33 more
  • CODING DevOps 微服務專案實戰系列最后一課,周四開講!

    隨著軟體工程越來越復雜化,如何在 Kubernetes 集群進行灰度發布成為了生產部署的”必修課“,而如何實作安全可控、自動化的灰度發布也成為了持續部署重點關注的問題。CODING DevOps 微服務專案實戰系列最后一課:**《DevOps 微服務專案實戰:基于 Nginx-ingress 的自動 ......

    uj5u.com 2020-09-10 05:10:00 more
  • CODING 儀表盤功能正式推出,實作作業資料可視化!

    CODING 儀表盤功能現已正式推出!該功能旨在用一張張統計卡片的形式,統計并展示使用 CODING 中所產生的資料。這意味著無需額外的設定,就可以收集歸納寶貴的作業資料并予之量化分析。這些海量的資料皆會以圖表或串列的方式躍然紙上,方便團隊成員隨時查看各專案的進度、狀態和指標,云端協作迎來真正意義上 ......

    uj5u.com 2020-09-10 05:11:01 more
最新发布
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:41:12 more
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:35:34 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:05:44 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:00:18 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:20:31 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:55 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:18:51 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:00 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:17:55 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:12:06 more