
吳軍,1967年出生,畢業于清華大學和約翰霍普金斯大學,計算機專業博士,前Google高級資深研究員、原騰訊副總裁、硅谷風險投資人,

近日,計算機科學家、自然語言模型專家吳軍,就人工智能和ChatGPT等當下熱議的話題作了一次直播分享,
Q1:ChatGPT的出現,為什么會引起恐慌?
我知道,最近ChatGPT這事兒在中國很火,很多人在討論,但很有意思的是,其實這件事在美國,已經沒有太多人去談論這個話題了,其實不光是ChatGPT,往前看十年,當時很多新技術出現的時候,我就發現在中國媒體上討論的熱度要遠遠高于美國,雖然那個技術其實主要出現在美國,但是中國人老百姓對此更關心,我認為這是一件好事,但也是一件壞事,
這個“壞”在于,這些技術實際上是被過度的炒作了,在這個程序中,有很多渾水摸魚的人從中賺錢,就比如說區塊鏈,當時炒得那么熱,但如今這個事已經很少有人討論了,對吧?這是第一個,第二個就是元宇宙,目前美國只有 Facebook一家還在堅持做,那到了中國,很多人就在討論說,我們是不是將來會生活在一個完全虛擬的世界,最后,大概去年底到今年初,Facebook在這個領域幾百億美元投下去,一個響也沒聽著,最后開始了大規模的裁員,到了現在,被熱炒的一個話題就是ChatGPT,有的人興奮,有的人恐懼,還有我現在也看到在中國還有很多人在渾水摸魚,試圖再割大家一次韭菜,
在講ChatGPT是什么以前,我先給大家講一個歷史故事,這歷史故事你聽起來你就會發笑,但是你回頭看,今天很多人的表現也是如此,
1503年,哥倫布的兒子記下來的這么一件事兒,哥倫布往西航行,去往新大陸,結果航行到中途,到了牙買加這個地方,船上就沒吃的了,于是,哥倫布和船員只能寄希望于當地人來提供飲食,但是,提供了幾天以后,船員就跟當地人發生了矛盾——有些船員偷了當地人的東西,所以當地人就斷了飲食的供應,
為了擺脫這個困境,哥倫布想到了一個妙招,哥倫布當時隨身帶著一本萬年歷,在日歷上標著說某年月榷訓出現日食、月食等等所有這些資訊,哥倫布當時就把當地的部落首領找來,說你們不給我提供食物,已經得罪了上帝,上帝會發怒,月亮就會變紅,然后上帝就會把月亮收走,
當然,我們現在基本上都知道,在月全食發生的時候,也就是地球還沒有完全擋住月亮的時候,月亮確實是紅的,就是我們所謂的“血月”,但是,當時的牙買加人并不知道,結果,到了晚上,牙買加人就發現,月亮果然變紅了,然后慢慢地就一點點消失了,當地人就陷入了恐慌,大家紛紛說,上帝要懲罰他們了,
這個部落首領慌忙去求哥倫布,承諾答應哥倫布的所有條件,哥倫布就說,好,我去帳篷里向上帝禱告,讓他不懲罰你們,但是我需要一點時間,然后哥倫布就走進了帳篷,其實,進了帳篷之后,哥倫布就是拿著一個沙漏,在看那個計時,
今天咱們有天文學知識,肯定知道月全食的時間,也就會維持大概48分鐘,到時候月亮就會重新出現,但是,這些牙買加人不知道,他們看到的就是,哥倫布從帳篷里出來,月亮也就出來了,然后哥倫布說,這是上帝已經聽了我的勸解,答應寬恕你們,但是你們必須要給我們好好地提供食物,所以,當地人千恩萬謝,給他們不斷提供食物,
這個故事說明什么呢?月全食這件事,它的發生背后自有其原因,但是在人們不知道這個原因的時候,往往只能把這個自然現象歸結為一個神的作用,而這個神,本身又是人創造出來的,也就是說,人自己創造一個神以后,然后趴在神的腳下,成為了他的奴仆,
這就是我為什么要給大家開《世界文明史》的課程,
其實這個文明的發展程序,就是人類不斷認識自然規律的程序,我們一點點的進步,為的就是讓現在的我們不再像當地的土著人那樣,盲目地相信一個人向上帝禱告真的可以阻止月亮消失,我們現在知道,在日食月食的背后,實際上是開普勒行星的三定律在起作用,然后在開普勒行星三定律背后是牛頓的萬有引力定律,人類搞清楚這個原因以后,對自然就不再僅僅是畏懼了,我們可以利用自然規律做很多很多事情,
Q2:ChatGPT的技識訓礎是什么?
從歷史回到現在,其實ChatGPT的情況也差不多,背后是一個叫做語言模型的一個數學模型在發揮作用,換句話說,ChatGPT的背后是一個數學模型,在今天,這項技術顯得很強大的原因主要是三個:
第一,它用到的計算量很大;
第二,它的資料量很大;
第三,今天訓練語言模型的方法比以前要好很多,
那么,語言模型是什么呢?或者說它是一個什么時代的產物?
它是1972 年,由我的導師賈里尼克(Fred Jelinek)帶領團隊研發的一項技術,具體地講,是他當時在IBM帶著人來完成的一項技術,是用來衡量一句話或者一個語言現象有多么的可能產生,那它有什么用?它最初的用處是做的語音識別,后來是做機器翻譯,再后來是做計算機問答,也就是我們今天熟悉的回答問題,
當時它就可以做摘要,舉一個例子,有一篇一萬字的文章,那么你怎么摘要出十句話能概括這一篇文章的內容,這對于做這個自然語言處理的人來講,就是一個數學問題,
也就是說,你的條件是什么?條件是這一萬個字,然后你想得到的結果是什么?結果可能就是十句話,一百個字,然后這里頭有很多種組合,你可以隨便挑幾個句子,也可以把有的句子拆成兩段,把后面那些不太重要的修飾或者形容的部分去掉,然后,你也可以把兩個句子合成一個句子,那么你在合成一段文本的時候,這個計算機就會計算一個概率,哪些句子合成在一起的概率比較大,它會按照概率幫你合成,
而我們今天看到的ChatGPT,就是這個大的語言模型,它就是會挑一個概率最大的、最有可能發生的這樣一個文本來給你看,所以總體來講,ChatGPT生成結果的程序,是一個用大量的計算資源來計算的程序,它需要非常龐大的資料量來支撐,有很多很多的GPU(電腦處理器),沒有這些東西的話,ChatGPT是做不起來的,
而且今天這個ChatGPT,其實不光是技術,還有很多人工在背后,他們還雇了一家公司,專門負責審核ChatGPT產生的結果,比如說,ChatGPT產生了一百篇摘要,都挺好,我已經分辨不出來了,那么這些人就負責幫我分辨一下,到底哪一篇更像是準確的摘要,
那實際上,你可以看到,ChatGPT背后就是一個語言模型,而這一語言模型的技術是1972年就已經有了的,到現在,經過了五十年,現在行業內其實大家并不覺得它是一個什么了不得的東西,在此以前,這個語言模型其實已經做了很多的事情,
提到“語言模型”(language model)這個詞,最初是由我的導師賈里尼克提出來的,他大概在1993年的時候到了約翰霍普金斯大學,我是1996年到這個大學,然后成為他學生,那么這個詞的中文,也就是你看到的“語言模型”這四個字,則是我在20世紀90年代的時候發表論文時候創造出來的,那時,只有我們這些圈內的人知道它能做很多事,但是你不會想到說,哎,這個事后來會被熱炒,
你可以這樣理解,“語言模型”之于ChatGPT,就相當于開普勒的這個行星三定律之于月食,
Q3:“語言模型”誕生之初是什么情況?
那么在發明的當時,語言模型是一個什么情況?
其實,在20世紀90年代的時候,用簡單統計方法得到的模型很不準確,這就相當于,我打個比方,你觀察行星,但用的是托勒密的地心說來預測,是很不準確的,所以,那時候我們開始引入了語法、主題、語意的很多資訊,然后,這個語言模型就變得很復雜了,復雜之后就又帶來了一個很大的問題,
什么問題?
比如,我當時做過一個很復雜的語言模型,這個語言模型當時有多少引數?600萬個引數,就是說,這個語言模型大小基本上按這個引數來定,我那時候做的已經是那個時代能做的最大、最復雜的語言模型了,我當時用的還不是PC機,而是20臺超級服務器,然后大概算了三個月才訓練出這樣一個語言模型,所以你看,它的計算量是非常大的,那么,第一版ChatGPT,它用的語言模型引數是多少呢?大概是 2000 億個引數,大家可以看到這些年的變化,
所以,今天很多人問,ChatGPT在美國出現了,中國研究機構什么時候能做ChatGPT?其實,中國的大部分研究機構是做不了的,不是說研究水平的問題,而是因為ChatGPT太耗資源,今天的ChatGPT,可能光硬體的成本就要差不多10億美元,這還沒算電錢,所以成本和耗資是非常巨大的,所以,如果開玩笑,問ChatGPT的最大貢獻是什么,我倒覺得它對全球變暖是有很大貢獻的,
所以,我想說的是,ChatGPT這件事,它的原理很簡單,但是在工程上要想做到,其實是蠻困難的一件事,
Q4: 計算機擅長回答什么問題?
到了大概2010年前后,也就是13年前,語言模型能做到什么程度?我給大家看兩個例子,這兩個例子都是我在2014年離開Google以前做的,當時我負責的是Google的自動問答系統,就是讓計算機回答問題,不過因為這個產品是英文的,所以在中文世界基本上沒有太露臉,
我給你看一下谷歌回答的一個問題——為什么天是藍色的,why is the sky blue?

它的回答是這樣的:太陽光透過大氣層到達地球時會發生折射,空氣中的氣體會讓不同顏色的光散射到各個地方,藍光波長短,比其他顏色折射率高,所以看上去天是藍色的,
這是當時計算機產生的一個答案,公平地講,這個答案比我自己寫一段答案寫得要更好,因為要解釋這現象,你要知道不少物理學知識,而且這個句子看上去也挺合情合理的,而今天人們使用ChatGPT的一個目的,就是讓他回答問題,
這里面,我給大家做個拆分,
其實,我們問計算機的問題可以分為兩類,第一類叫做簡單問題,第二類叫做復雜問題,簡單問題就是關于事實的問題,比如某某明星是哪兒人,哪一年生的,這都是一些容易的問題,因為它是事實,有明確答案,
第二類是復雜問題,這也是大家覺得 ChatGPT 非常驚艷的地方,它能整合資訊,回答天為什么是藍色的,好像它自己有邏輯一樣,再有一個,就是問程序的問題,比如說我怎么烤蛋糕,你能不能一步步寫下來?今天我們問ChatGPT怎么烤蛋糕,它可以把這個程序給你寫得很詳細,多少杯水,加多少個雞蛋,加多少面粉等等,它都可以告訴你,然后你根據它提供的答案,就真能烤出蛋糕,而且烤得可能還挺不錯,
這是大家覺得很了不得的地方,但是你要知道,這件事,在2014年其實計算機已經做到了,而且做得很好,所以,這項技術本身并沒有太多神秘的地方,
Q5:計算機和人,誰更擅長寫作?
現在,大家熱議ChatGPT,還有一個原因就是覺得它能寫作,比如說寫一個作業簡報,這是今天美國人用ChatGPT用得最多的地方,我這周干了1234567,這七件事,哎,你看我就不用自己費勁地寫了,我讓ChatGPT生成一個,然后再編輯一下子就可以了,
但是,計算機寫作這件事,其實你說難也難,說容易也容易,我可以給你舉個例子,
在2014年我離開Google之后,當時不太做編程了,不過那時候我還有一些計算資源,所以我自己在空閑時間會寫一些程式,做著玩,當時呢,我就讓計算機寫了兩首詩,大家可以讀一下這兩首詩,

第一首詩是個五言詩,這是用我的話說,叫做李白風格的一首詩,大家可以讀一下,這首詩就是計算機自己寫的,實際上,你如果讀一讀,這個詩里還真有一些李白的這個特點,
那第二首詩,我也把圖片放在下面了,你可以看一下,

先說一下,因為古詩都有平仄一說,但是我們現在的讀音和當時的讀音不一樣,所以我們也沒去管這個平仄到底合不合古,但是這個我們單從它的內容意境來講,你讀得會覺得很順暢,
好,那么話說回來,第一首詩怎么做的?
其實再簡單不過了,你就把李白的詩放到計算機里,李白詩一共1000 多首,也就一萬來句話,這個對計算機來講太簡單了,它寫的時候,就是把句子分拆開來,拆成兩個字、三個字一組,比如“空愁”這是一組,“憶長安”這三個字一組,然后它就去拼剛才我講的語言模型,算概率,哪個概率最大;拆完了以后,我就跟他提一個要求,說要寫一首憶長安的詩,它就排列組合,生成出這個《憶長安》,實際上就是這么拼湊出來的,第二首詩稍微復雜一點,
但你知道這兩個程式我寫了多長時間?兩天,這說明什么呢?說明你讓計算機寫出一些還挺像樣的東西,其實不是一件很困難的事情,它沒有你想得這么神秘,或者說計算機寫作本身沒有你想的這么神秘,
那為什么這兩首詩看起來特別好?因為這是唐詩,唐詩的格式是固定的,同樣的道理,為什么用ChatGPT寫周報寫得好?因為周報的格式基本上是拉清單,那也是個固定的格式,包括,如果你讀《華爾街日報》中文版,這里頭我跟你講,90%的內容都是計算機寫的,只是你不知道,寫完了以后人當然要給它一個主題,然后給它寫的第一段話寫個引子,然后給一個總結,起個標題,這是人要做的,
為什么寫財經文章比較好?因為它有好多的事實在里頭,格式也是固定的,所以這件事它做起來就很好,
我花這么長時間來講ChatGPT的背景,實際上就是想說它并不神秘,不是一個什么很高深的機器在背后,一方面,ChatGPT依靠的是一個數學模型,而這個數學模型1972年就有了,只是今天它的計算能力非常強,靠蠻力計算,
那么,ChatGPT訓練一次要耗多少電?大概可能是3000輛特斯拉的電動汽車,每輛跑到20萬英里,把它跑死,這么大的耗電量,才夠訓練一次,這是非常費錢的一件事,
Q6: ChatGPT對我們到底有什么影響?
那么接下來講講,ChatGPT對人有什么影響,
這就要回到歷史上來看了,每一次技術革命,其實它對人都會有一些影響,不過,ChatGPT它不算是一項新的技術革命,因為這我剛才講了,這個程序很長,從20世紀70年代到90年代,我們做了很多事,90 年代到現在又有很多人做了很多事,這里頭最大進步其實不是這個語言模型本身,實際上是后來2000年左右產生的深度學習,使得訓練語言模型能比以前準確了,不是簡單的做統計,
今天訓練語言模型早已經不是簡單做統計了,這才是ChatGPT能產生比較好的結果的一個原因,
至于說ChatGPT對人能產生什么樣影響,這個問題我先不直接回答你,我先問你,剛才給大家看這兩首唐詩,你有沒有發現一個什么特點?對了,這兩首詩寫得不錯,但是你原來對唐朝了解,不會因為多了這兩首詩會有更新的了解,因為,ChatGPT它某種程度上有點像鸚鵡學舌,你先要說一段話,它才能跟著學,它說出來的聲音可能很好聽,但是它并不提供更多的資訊,
今天互聯網上90%的內容都屬于這一類——不提供更多的新資訊,也不是原創內容,也不是自己的感悟,無非是東抄抄,西湊湊,目前,抖音、快手這類短視頻,我覺得99%的內容都屬于這一類,沒有營養,你讀完以后可能覺得挺有意思,但實際上你在上面讀了再多,其實對你沒有任何幫助,
如果說ChatGPT真的威脅到了誰,我覺得威脅到的就是這一類人的作業,就是說這個抖音上頭那個做短視頻的,或者發布一些內容的,ChatGPT會做得比他們好很多,你就想這樣一件事兒,假設說,有一群人天天把那唐詩三百首里頭的句子翻來覆去的捯飭,也能捯飭出一些詩,那么ChatGPT捯飭起來肯定比人快得多,所以這項技識訓對這一批人會有影響,
那么,什么人不會受到影響?就是內容創造的人不會受影響,
為什么我會這么講?還記得剛才我說的“為什么是天是藍色的”這個問題嗎?Google為什么能回答這個問題?
因為在Google進行回答的時候,它大概把當時英語幾乎所有的像樣的句子都做了分析,大概有1000 億句英陳述句子,那么實際上你會發現,在一些大學的網站上和NASA的網站上,它就有這個答案,只是我們把它拼拼湊湊,刪刪減減,就把它挑出來了,但是最早的物理學家做這項研究,把這個道理搞清楚,這個作業是有意義的,也是ChatCPT取代不了的,
所以,ChatGPT的作業相當于什么呢?舉例子,托勒密創造出這個模型以后,那么每過一段時間,他們歐洲就會編一個大概幾十年的一個日歷,然后上面標上哪天有日食,哪天行星會怎么運動等等,那么人們根據這些規律,印好多本這個書,這個ChatGPT就相當于有好多本書,你拿著以后一看,說,喔,某年月榷訓發生月食,答案就會很清楚,但是,背后真正有意義的作業不是印這個書,而做托勒密的那個研究,
所以我認為,從歷史上看ChatGPT其實不算是一次技術革命,它影響到的都是那個比較懶的人,懶得動腦筋,創造新東西的人,真正探索人類知識奧秘的人,是不會被取代的,
Q7: ChatGPT能帶來什么新機會?
很多人問說,ChatGPT有什么新機會?坦率來講,你沒機會,因為太耗資源了,你耗不起,那么什么人能夠受益?那就是賣資源的這些人,
我可以打個比方,就是說在這個加州淘金熱的時候,很多人蜂擁而至,去淘金,單我們到今天為止還不知道哪一個淘金者真的掙得著錢,沒一個人把名字留下來,但是最后誰掙著錢了?是賣水的人和賣牛仔褲的人,ChatGPT也是一樣的道理,大家跟著一起去淘金,其實你是掙不著錢的,但是在程序中,你還不斷地要買水喝,買牛仔褲穿,最后就是這兩撥人掙到錢了,李維斯Levi's,就是那時候產生的這么一個公司,它就是做牛仔褲的,
那么最后你可能是給幾家大的做云計算的公司在交錢,這可能是一個結果,
好了,講完了這個ChatGPT的歷史,我給你做一個簡單的總結,
第一,不要恐懼,
今天是很多人恐懼ChatGPT,就如同不要像當年哥倫布遇到的牙買加土著人恐懼月食,一樣的道理,
第二,不要勉強去找所謂的機會,該怎么作業就是怎么作業,
我看有同學問我,說蘋果為什么這個不做ChatGPT,我說這就對了!這就是為什么蘋果是世界上最有錢的公司,利潤最高,市值最多,目前,很多所謂做這種人工智能的公司到現在都在虧錢,所以,這也是為什么很多同學有時候問很多太不著調的問題的時候,我就開玩笑地問他說,你的房貸還清了嗎?你要沒還清,你就好好回去作業,把作業做好,這才是對大家最有意義的事情,從歷史上看也是如此,
第三,你要識破這些所謂的陰謀家或者想割你韭菜的人的那些把戲,
就是說,如果再來一個人假裝哥倫布說他是神的代表,然后他能祈禱上天能讓這月亮出來,你不要信,所以你需要了解ChatGPT背后的一些科學原理,最簡單的一些原理,像今天我講的這些,你還是需要有所了解,
本文來自博客園,作者:古道輕風,轉載請注明原文鏈接:https://www.cnblogs.com/88223100/p/ChatGPT-is-not-a-new-technological-revolution-It-does-not-bring-new-opportunities.html
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/550401.html
標籤:其他
