做過一些研究的同學會有感受,僅閱讀自己研究方向的文獻,新想法還是不會特別多,這是因為,讀到的都是該研究問題已經完成時的想法,它們本身無法啟發新的想法,如何產生新的想法呢?我總結有三種可行的基本途徑:
實踐法,即在研究任務上實作已有最好的演算法,通過分析實驗結果,例如發現這些演算法計算復雜度特別高、訓練收斂特別慢,或者發現該演算法的錯誤樣例呈現明顯的規律,都可以啟發你改進已有演算法的思路,現在很多自然語言處理任務的Leaderboard上的最新演算法,就是通過分析錯誤樣例來有針對性改進演算法的 [1],
類比法,即將研究問題與其他任務建立類比聯系,調研其他相似任務上最新的有效思想、演算法或工具,通過合理的轉換遷移,運用到當前的研究問題上來,例如,當初注意力機制在神經網路機器翻譯中大獲成功,當時主要是在詞級別建立注意力,后來我們課題組的林衍凱和沈世奇提出建立句子級別的注意力解決關系抽取的遠程監督訓練資料的標注噪音問題 [2],這就是一種類比的做法,
組合法,即將新的研究問題分解為若干已被較好解決的子問題,通過有機地組合這些子問題上的最好做法,建立對新的研究問題的解決方案,例如,我們提出的融合知識圖譜的預訓練語言模型,就是將BERT和TransE等已有演算法融合起來建立的新模型 [3],
正如武俠中的最高境界是無招勝有招,好的研究想法并不拘泥于以上的路徑,很多時候是在研究者對研究問題深刻認知的基礎上,綜合豐富的研究閱歷和聰明才智產生”頓悟“的結果,這對初學者而言恐怕還很難一窺門徑,需要從基本功做起,經過大量科研實踐訓練后,才能有登堂入室之感,
原文鏈接:傳送門
著名歷史學家、清華校友何炳棣先生曾在自傳《讀史閱世六十年》中提及著名數學家林家翹的一句囑咐:“要緊的是不管搞哪一行,千萬不要做第二等的題目,” 具體到每個領域,什么是一等的題目本身見仁見智,其實更指向內心“求真”的態度,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/49646.html
標籤:其他
上一篇:時域信號與時頻轉換方法分析
