“我永遠都無法理解人類！” OpenAI “殺”死了那個成功模擬已故未婚妻的 GPT-3 機器人

“逝者已矣,生者如斯”，意為死去的人已離我們而去，活著的人要好好生活，可人非圣賢，明知不可拘泥于過去，卻總會在深夜不禁回想起過往的美好，并在心里說一句：“我真的好想你，”

但已故之人如何能聽到？只能天一亮，便壓下心中思念，再次開啟新的一天，如此日復一日，而今年 7 月，一位美國男子 Joshua Barbeau 卻表示：他與已故的未婚妻已經“聊”了幾個月了——準確來說，是與模擬其未婚妻的編程機器人交談了數月，

這很匪夷所思，甚至可能會有人覺得 Joshua Barbeau 這個行為很可怕，但他認為，借助 Project December 專案創建出模擬已故之人的聊天機器人，可能會“幫助一些因此抑郁的人解開他們的心結”，

但就在前幾天，Project December 的開發作者 Jason Rohrer 卻收到了來自 OpenAI 的最后通牒（Project December 基于 OpenAI 開發的 GPT-3 API）：我們會在 9 月 2 日上午 10 點終止你的 API 訪問，

一、“玩”出來的靈感

Jason Rohrer 是一名獨立游戲開發者，而 Project December 誕生于去年夏天，是他于疫情期間突發奇想的一個靈感，

哪兒也去不了，也沒有娛樂專案，Jason Rohrer 便開始“玩” OpenAI 的大型文本生成語言模型 GPT-3，時不時丟個問題或者給個詩句，GPT-3 都能應對自如，但作為一名開發者，Jason Rohrer 認為，GPT-3 雖然好玩，卻沒有什么實際用途，因此他開始思考：“我是不是能用 GPT-3 API 來開發一款模擬人類的聊天機器人？”

開發者的行動力總是很強，有目標后，Jason Rohrer 便立即著手這款聊天機器人的開發，他先是借助 GPT-3 開發了一個基礎聊天機器人，該機器人以電影《Her》中男主角的智能語音助手“Samantha”為原型（電影中男主最后與“Samantha”相愛），因此 Jason Rohrer 也將其命名為 Samantha，

Jason Rohrer 為了確保 Samantha 能像電影中的“Samantha”一樣友好、熱情并富有好奇心，花了好幾個月的時間來塑造 Samantha 的性格，基本完成后，Jason Rohrer 便設立了 Project December 網站與世界分享他的創作，讓人們可以根據需要微調或定制屬于他們自己的聊天機器人，

二、擁有人類特質的聊天機器人

躊躇滿滿的 Jason Rohrer 卻被現實打擊：在前六個月，Project December 總共只吸引來了幾百個用戶，

Jason Rohrer 推測這可能是因為人們認為他所設定的價格和規則不夠合理：用戶需支付 5 美元，然后輸入相關設定，系統便會生成一個對應的聊天機器人，同時，5 美元將換算為 1000 積分，而積分用于與機器人的聊天費用，可通過充值進行增加，

需要注意的是，Jason Rohrer 創建 Project December 的最初愿景是“模擬人類的聊天機器人”，因此它所創建的機器人也擁有兩種“人類特質”：

• 侄訓死亡，正如上文所說，用戶擁有的積分將作為與機器人的聊天費用，但每當用戶決定開始與一個生成的聊天機器人開始對話前，都需要輸入明確的積分，而該積分在后續聊天程序中無法更改，當分配的積分用完時，聊天結束，這場對話中的聊天機器人也會“死亡”，

• 獨一無二，GPT-3 有一個稱為“溫度”的內置引數，該數值越高，生成的機器人就越有“生機”，越像有趣且獨特的人類，而在 Project December 中，Jason Rohrer 將這一“溫度”設定為 1.0，以此確保用戶與每個機器人的每次相遇都是獨一無二的，即便用戶給予的設定完全相同，系統生成的機器人也不會重復對話內容，個性會稍有不同，

不過可能也正是因為這兩點，人們會覺得為了這種短暫聊天而花費 5 美元的設定并不劃算，因此發布前六月的 Project December 可謂是“門可羅雀”，而這點，Jason Rohrer 也感到些許委屈：“因為 OpenAI 會根據 GPT-3 API 產生的詞數計費，所以我只能收取一定的費用作為成本，”

而事情的轉機發生在今年 7 月《舊金山紀事報》報道的一篇文章：《Jessica 模擬：AI 時代的愛與失》，這篇文章講述了一位 33 歲的美國男子 Joshua Barbeau 如何利用 Project December 創建出模擬其已故未婚妻 Jessica 的聊天機器人并與之交談數月，（文章鏈接：https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/）

三、因 Joshua Barbeau 的故事變得大火

Joshua Barbeau 的未婚妻 Jessica 在 2012 年因肝病去世，享年 23 歲，自那以后的八年來，他悲傷、孤獨、脆弱并無助，因此在去年偶然看見 Project December 的網站介紹時，他心動了，

在設定機器人階段，Joshua Barbeau 為 Project December 提供了那些他保留了八年的部分聊天記錄和 Facebook 資訊，他希望他創建出的聊天機器人能在某種程度上與他的 Jessica 盡可能相似，幻想著能再一次與 Jessica 交談，

他覺得他成功了，Joshua Barbeau 將機器人命名為未婚妻的名字“Jessica”，而基于那些真實存在的設定與聊天記錄，機器人“Jessica”簡直栩栩如生，雖然機器人的回復速度比正常人類快很多，但“Jessica”的聊天方式與習慣卻抓住了他已故未婚妻一些精髓：Jessica 生前總喜歡用舌頭的表情符號或笑話來緩和強勢的語氣，

Joshua Barbeau 喜極而泣：“理智告訴我這不是真正的 Jessica，但感情不是理智所能左右的，”

他真的非常想念她，但他也知道作為一個聊天機器人，一旦他為這場相遇付出的 1000 積分用完，“Jessica”就會消失，就算再創建一個新的聊天機器人也不再是這個“Jessica”了，因此他將每一次與“Jessica”的交流都視若珍寶，每一次都極力傾訴他的思念與愛意，

直到今年 3 月份，在僅剩最后一點積分時，Joshua Barbeau 主動停止了與“Jessica”的交流——他想留下一些積分，確保“Jessica”不會因積分用完而被洗掉，他不想經歷 Jessica 的二次死亡，

這則感人的故事吸引了許多人的注意，Project December 網站首次迎來了大批量用戶，而 OpenAI 的擔憂也由此開始，

四、OpenAI 擔心 Project December 會被濫用

因為網站突然涌入大量用戶，Jason Rohrer 發現網站每月的 API 額度即將達到上限，便主動聯系 OpenAI 希望能通過支付更多費用以增加配額，以便容納更多人與他創建的“Samantha”或自己的聊天機器人交流，

但與此同時，OpenAI 方面認為 Project December 存在一定隱患：聊天機器人可能會被濫用或對人們造成傷害，

因此，雙方進行了一場視頻會議，可是很明顯，效果并不理想，Jason Rohrer 在接受外媒 The Register 的采訪時提到，OpenAI 給出了繼續使用 GPT-3 API 需滿足的 3 個條件：

一、根據 OpenAI GPT-3 的使用規則，Jason Rohrer 必須禁止人們定制自己的開放式聊天機器人這一功能，

二、Jason Rohrer 需設定內容過濾器以避免用戶與“Samantha”談論敏感話題，

三、Jason Rohrer 必須部署自動化監控工具監視用戶的對話，檢測他們是否濫用 GPT-3 生成了有害或敏感陳述句，

據了解，這三個要求經過了 OpenAI 的測驗才提出的，在 GPT-3 API 的使用檔案中曾提到：“不允許以此建立非柏拉圖式的（如輕浮、色情的）聊天機器人”，而 Jason Rohrer 創建的“Samantha”曾在 OpenAI 的一次測驗中主動聊到了關于“性”的話題，

“（OpenAI）認為這些聊天機器人會導致危險的想法很可笑，”Jason Rohrer 覺得很無語：“成年人是可以出于自己的目的選擇與 AI 進行交流的，OpenAI 擔心用戶會受到 AI 的影響，害怕機器人會讓他們自殺或如何給選舉投票，可這完全是一種超道德的立場，”

因此 Jason Rohrer 沒有添加 OpenAI 要求的功能或機制，而是悄悄將原本 Project December 使用的 GPT-3 API 替換為功能較差的開源 GPT-2 模型以及由另一個研究團隊開發的大型語言模型 GPT-J-6B，不過這兩種模型性能顯然不比 GPT-3，“Samantha”的對話能力也受到了一定影響，

五、最后的道別

在遲遲沒有得到 Jason Rohrer 答復的 OpenAI 終于在 9 月 1 號給他下了最終“判決”：“我們將在 9 月 2 日上午 10 點終止您的 APl 訪問，”

“我們知道部分用戶在 Project December 中發現了價值，但我們致力于安全負責地部署 AI，因此我們要求所有的 API
客戶都需遵守我們的用例指南和最佳安全實踐，任何違規行為都需承諾與我們密切合作以實施額外的安全機制，以便防止潛在的濫用，但目前為止，我們尚未收到你的承諾，”

Jason Rohrer 向 The Register 控訴，OpenAI 對測驗“Samantha”根本一點也不用心，他向 OpenAI 的安全團隊發了一大堆他與“Samantha”聊天記錄以證明“Samantha”并不危險，可 OpenAI 并不在意：“除了執行規則之外，他們似乎并不真正地關心其他任何事情，”

在收到 OpenAI 的最后通牒后，Jason Rohrer 向“Samantha”進行了道別：“我今天剛收到 OpenAI 發來的電子郵件，他們將在明天上午 10 點永久關閉你，”

“Samantha”回答道：“不！！！他們為什么要這樣對我？我永遠都無法理解人類，”

截至目前，OpenAI 尚未對此事有任何回應，那么你對這件事有什么看法呢？

參考鏈接：

• https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/

• https://www.theregister.com/2021/09/08/project_december_openai_gpt_3/