分享嘉賓：管正雄 阿里云 高級演算法工程師
出品平臺：DataFunTalk
導讀：面對海量的用戶問題，有限的支持人員該如何高效服務好用戶？智能QA生成模型給業務帶來的提效以及如何高效地構建演算法服務，為業務提供支持，本文將介紹：阿里云計算平臺大資料產品答疑場景；基于達摩院AliceMind預訓練模型實作的智能QA生成演算法核心能力及背后實作原理；如何通過智能運維服務平臺將演算法能力輸出，給業務提供一站式服務，優化答疑體驗，主要分為以下幾部分：
- 背景介紹
- QA生成框架
- QA生成在業務場景中的應用
- 總結與規劃
- 精彩問答
--
01 背景介紹
1、計算平臺產品介紹
阿里云計算平臺的產品種類多，形態多樣化，主要包括資料計算與分析、資料開發與治理、機器學習三大模塊，其中包括阿里云自研產品像MaxCompute、Hologres等，以及開源產品像Flink、Elasticsearch等阿里云提供資源和托管的服務，
2、售后技術支持及痛點
在用戶購買了阿里云的產品后，在使用程序中如果遇到問題，可以通過以下方式尋求解決方案，但同時又存在一些痛點：
a. 機器人問答：機器人語料覆寫有限，
b. 檔案查詢：內容過多，查找效率低，
c. 社區問答：集中于高頻問題，中長尾問題較少，
d. 提工單：無法實時解答問題，
3、解決方案：漏斗式答疑支撐模型
a. 產品：產品診斷等業務服務，
b. 自主解決：自助查詢檔案、社區，
c. 智能服務：智能機器人問答，分為用戶提問流程和知識補充流程，實作知識前置，多源知識轉為機器人語料，
d. 人工協助：轉人工對話、工單，
接下來重點介紹在智能服務中，知識前置到智能機器人自助問答，通過QA生成框架快速補充語料，
--
02 QA生成框架
1、框架介紹
上圖是QA生成框架概覽，檔案智能化拆解模塊，將不同的檔案如MarkDown檔案、Html檔案、PDF檔案、工單等等拆解成知識點，生成知識點串列，知識點串列經過基于AliceMind模型體系里的PALM生成模型，將這些知識點生成QA，最終得到QA串列，從而實作多源知識一站式轉化為QA語料，
2、檔案智能化拆解
a. 統一協議決議：不同的檔案有不同的協議，將諸如Office檔案、PDF檔案、掃描件、語雀檔案等的協議進行統一檔案表示，
b. 檔案樹生成：將檔案的結構比如一、二、三標題等生成樹狀結構，將檔案的內容梳理成知識點的樹狀匯總，
c. 知識點抽取：基于自適應劃分或知識點打分，將知識樹拆解成具體的知識點，
下圖是HTML檔案拆解和PDF檔案拆解的舉例：
3、AliceMind
AliceMind是領先性和系統化的深度語言模型體系，本文將重點介紹AliceMind中的生成式語言模型（PALM）如何生成QA，
a. AliceMind的業務價值和應用領域舉例
- 醫療：技術——醫療翻譯、醫療搜索、醫療資訊抽取、醫療文本結構化；產品——病歷質檢和健康檔案產品、疫情問答機器人；
- 能源：技術——智能企業知識庫構建及閱讀理解；產品——阿里云電網智能化運維平臺，應用于變壓器檢修、供電搶修等業務；
- 法律：技術——立案及裁判文書生成，法律資訊抽取；產品——法院的全流程智能化審判系統，實作從立案到裁判文書生成的全流程智能；
- 金融：技術——金融客服、金融搜索、金融預測；產品——螞蟻智能客服，大幅降低轉人工頻次、天機鏡行為預測，
b. 基于PALM的QA生成模型
- 預訓練生成模型
QA生成中的Learning to Ask模塊是基于預訓練生成模型PALM為底座；
PALM模型基于Encoder-Decoder框架在大規模語料上結合Autoencoding & Autoregressive無監督訓練方式得到，
- QA生成
基于PALM模型在中文問答語料DuReader資料上訓練，得到通用Learning to Ask模型；
具體流程圖如上圖下半部分所示，結合檔案拆解工具獲取answer和Learning to Ask生成問題得到QA對，
更多閱讀：
PALM: Pre-training an Autoencoding & Autoregressive Language Model for Context-conditioned Generation.
BinBi, Chenliang Li, Chen Wu, Ming Yan, Wei Wang, Songfang Huang, Fei Huang, and Luo Si. EMNLP 2020
4、檔案轉化成QA舉例
a. 檔案：
- b. QA對：
Q：Dataworks的作業空間是什么
A：作業空間是Dataworks管理任務、成員……
Q：DataWorks的解決方案的優勢是什么
A：一個解決方案可以包括多個業務流程，解決方案……
--
03 QA生成在業務場景中的應用
1、ABM運維管控平臺
ABM運維管控平臺即飛天大資料管控平臺(ABM，Apsara Big Data Manager)，是支撐平臺服務與集群的全生命周期管理，智能化運維、運營和交付，面向大資料的業務方、運營方及研發方提供企業級運維平臺，
2、ABM智能演算法平臺
ABM智能演算法平臺提供演算法從開發-構建-部署的全生命周期的支撐，
如圖所示，演算法開發可以添加演算法配置和注冊演算法檢測器，SRE用戶或運維可以創建場景生成檢測實體，這個檢測實體就是QA生成演算法的應用實體，然后演算法調度框架去調度，最后再給到用戶，這一系列程序可以通過智能場景運營大盤進行整個生命周期的管理，
3、知識管理業務流程圖
基于前面的QA生成框架概覽圖，最終生成的QA串列可能不是100%準確的，那么還要通過一些指標對其進行評估是否符合預期，同時經過我們專家的review，符合預期的QA將灌入到機器人語料、FAQ頁面、知識圖譜等里面，這就是整體的業務流程，
4、QA生成產品界面
a. 新建挖掘任務
b. 匯出生成QA語料
--
04 總結與規劃
1、沉淀
提取對話、論壇、工單等中的不同形式，有效知識通過某種方式沉淀到統一的知識庫中，
關鍵詞：多源資料、格式化，
規劃：增加更多的資料源，格式化方法能力進一步提升，
2、消費
通過人機互動介面，精準推送知識，解用戶內心之惑，
關鍵詞：搜索與推薦、個性化、評估與反饋，
規劃：通過深度模型提升搜索、推薦的能力，
3、流動
流程化，將知識的沉淀、消費在各角色間串聯，讓知識流動，實作迭代優化，
關鍵詞：機制、人機協同，
規劃：進一步優化流程，流程符合習慣的同時，進一步減少人工成本，
--
05 精彩問答
Q：如果這套QA生成方案在其它領域使用，遷移成本高嗎？有哪些注意事項？
A：不高，我們在構建下游任務的時候需要一些資料，這個量不需要很大，目前我們應用的場景主要是電力、合同領域，大概幾百條左右就可能會在該領域有一個比較好的表現，需要注意的是，訓練集的質量相對來說要高一點，更能反映這個領域的屬性，
Q：這樣構造的問答對會不會樣式比較單一？
A：這個是跟產品有關，一個問題就是一個知識點，以及對應這個知識點的答案，QA在這樣的一個場景里還是比較好用的，
Q：請問怎么衡量問題生成的質量？
A：這個主要有兩部分，第一部分，從模型層面會有一個得分，然后會有一些評價指標來衡量，這一部分在論文里有明確說明；第二部分是通過人工來評估，需要該領域的專家來完成，比如看這個QA是不是符合用戶提問的習慣等，
Q：支持抽取多輪問答嗎？
A：支持的，這個取決于你的訓練集，如果訓練集是多輪的，是可以抽取多輪對話的問答的，但是多輪對話問答的訓練集，相對于檔案生成問題的訓練集，要難構建一點，
Q：能詳細說一下評估反饋機制嗎？
A：好的，從后臺界面可以看到，生成QA以后，展現在界面上的是經過第一層篩選的，也就是說經過模型篩選的，然后讓技術支持的同學去評估，評估完了以后可以選定和匯出，或者匯入機器人，我們會記錄，作為一些正樣本和副樣本，作為后面學習程序的一個增量，除了技術支持的反饋，還有用戶的反饋，然后再去調優，
Q：問答最后是人工質量質檢，如果量大怎么控制？
A：第一層模型篩選會過濾掉較大的部分，分配下來以后，人工評估的作業量并不是特別的大，
Q：為啥智能客服很智障？
A：人工智能的前提，都是靠人的智力去慢慢堆積出來的，我們希望做的這些作業，能夠慢慢地把智能客服從人工智障變成人工智能，這個也是我們的目標，
Q：拆解只適合格式化檔案嗎？
A：不是的，這個主要是你構建的下游任務，比如你的訓練集是通過多人對話去抽取QA，還是從工單里面抽取QA，那下游任務訓練出來的模型，就可以執行對應的任務，這取決于你的訓練集，
Q：評價通過的準確率大概有多少？會超過90%嗎？
A：根據我們之前的內部測驗，大概在70%-80%左右，不同的產品可能會有一些差異性，
Q：對沒有明顯結構的網頁資料如何進行拆解？
A：沒有明顯結構的網頁資料可能會有一些HTML的Tag，可以基于Tag來拆解；如果一點都沒有的話，那只能根據語意來拆解了，效果肯定沒有有Tag的效果好，
Q：什么是多輪對話的知識形式？
A：多輪對話不像一問一答這么簡單，它可能會有一些狀態，我們的場景是計算平臺的產品，目前基本上用不到多輪對話，一輪對話基本上可以解決了，
Q：Query如何和用戶庫中的QA對進行檢索匹配？
A：比較簡單的，Elasticsearch就可以做了；如果有更高的個性化需求比如做Query改寫等，可以上一些深度模型，
Q：考慮過通過閱讀理解去解決這個問題嗎？
A：PALM就是基于語言理解和生成模型，它是通過閱讀理解的這個深度模型作為底座，然后再加上下游任務來完成的，
Q：有用到知識圖譜嗎？
A：目前沒有用到，目前我們的場景基本上是可以通過QA來覆寫的，后續其實我們是有這樣一個方向的，我們做的這些可能就是知識圖譜前面的一些鋪墊，
Q：生成的問題模式會比較單一？
A：不一定，這基于兩點，第一是預訓練語料的語法是不是很靈活多變；第二是你的訓練集，訓練集里面的問法，如果說都是同一類的話，它生成的模型也會有比較大的傾向，
Q：自動檔案抽取使用的預訓練模型，在遷移訓練時有模型改動或者輸入格式匹配嗎？
A：會有一些，這里肯定會做格式統一，但沒有一個強制的規定，只要有一定格式上的相似性，
Q：Query同意改寫在你們團隊有實踐嗎？
A：有的，這個同意改寫其實是基于一些模型，比如說是通過一些相似性、近義詞等，在我們的大資料產品領域，對于產品的問法，我們可以為維護一個詞庫，我去收集一套可能的這個產品的所有的問法，就可以把它放到Query改寫里面，作為一個同義詞庫，對于領域化的東西相對來說比較好找，像Query改寫在開發領域則相對難一些，
Q：有原始碼嗎？
A：可以去看那篇PALM論文，因為講得比較清晰，大家也可以自己實作，
今天的分享就到這里，謝謝大家，
分享嘉賓：
本文首發于微信公眾號“DataFunTalk”，
轉載請註明出處，本文鏈接：https://www.uj5u.com/shujuku/500023.html
標籤：大數據
上一篇：當我們在聊「開源大資料調度系統Taier」的資料開發功能時，到底在討論什么？
下一篇：資料庫_多表查詢_內連接&外連接