作者 | 吳菲凝

編輯 | 李水青

(資料圖)

智東西3月16日報道，昨日，彭博社梳理了9個有關AI聊天機器人的關鍵問題，包括生成式AI的概念、ChatGPT如何工作、誰能從中獲利、市場競爭格局、局限性以及道德風險等。

據彭博社稱，自去年11月ChatGPT推出以來，它對幾乎任何類型的問題都給出了通俗易懂的答案，引起了全球轟動。微軟、谷歌和百度等科技巨頭都在大力押注生成式AI，認為它有可能顛覆利潤豐厚的搜索市場，但目前生成式AI產品廣泛使用的同時也暴露出了不少缺陷和潛在隱患。

一、什么是生成式AI？如同小兒學語

生成式AI，又稱作生成模型，是一種用深度學習算法生成新數據的AI技術。生成式AI使用神經網絡，它們仿照人腦結構并通過大量數據學習來完成指令任務。在前期訓練期間，他們被輸入大量的信息，并被指配一項任務，比如“為一部小說寫一段簡介”，再利用學習來的數據完成任務。

隨著不斷的數據學習，系統能夠判斷用戶輸入的詞句是否有意義，并不斷改進自己的信息庫。這個過程就像是小孩子在父母的指導下學習說話一樣，從簡單基礎的詞匯慢慢學到一些完整的句子，再到自如流暢地表達交流。

生成式AI和傳統計算機系統的不同之處在于，它給出的結果往往是不確定的，每次的反應都可能不同，但也會隨著系統進步而變得更快、更聰明。

二、ChatGPT是如何工作的？基于大語言模型

ChatGPT是基于OpenAI公司的大型語言模型GPT-3.5開發出的一款聊天機器人。

GPT是OpenAI開發的一系列自然語言模型，在無監督學習過程中進行預訓練，能像人類一樣理解、創造文本。OpenAI于2018年發布了GPT-1，又陸續推出了GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4等版本。

最新版本的GPT-4建立在其前身GPT-3.5的基礎上，從演示視頻來看，GPT-4在許多專業測試中的表現水平超過絕大多數人類。它從整個網絡中攝取文本，包括維基百科、新聞網站、書籍和博客，以努力使其答案具有相關性和充分的信息。ChatGPT在該程序之上增加了一個對話界面。

ChatGPT與以往的聊天機器人最大的不同之處就在于，它能像真人一樣與用戶對答交流，所給出的答案邏輯清晰、條理分明。在一些需要進一步思考的問題上，它甚至能給出自己的見解，比真人回答的完整度更高。

除了能回答問題以外，ChatGPT還能自動寫文章、總結提煉觀點、生成代碼等。

三、誰是OpenAI的幕后推手？微軟接棒馬斯克

OpenAI于2015年由美國創業孵化器Y Combinator總裁薩姆·阿爾特曼（Sam Altman）和全球在線支付平臺PayPal聯合創始人彼得·泰爾（Peter Thiel）等人創辦，旨在開發“有益于全人類的AGI”。早期的投資者還包括LinkedIn聯合創始人里德·霍夫曼（Reid Hoffman）和特斯拉CEO埃隆·馬斯克（Elon Musk），馬斯克在2018年時退出。微軟于2019年時為OpenAI投資10億美元。

四、公眾對ChatGPT的反應如何？兩個月用戶破億

自ChatGPT在去年11月30日開放注冊后，5天內便擁有了超100萬用戶，上線兩月后全球用戶破億，注冊請求數日峰值達到數億級別。各大社交媒體上對這一產品的討論熱度也一直居高不下。一些用戶分享了ChatGPT對于一些晦澀難懂的問題給出的答案，其他人則驚嘆于它豐富的知識庫。

用戶的熱烈討論也提升了OpenAI其他產品的熱度，包括文本生成圖像工具Dall-E，它能根據用戶的文字描述直接生成一張符合需求的圖片。

五、誰會從生成式AI當中獲利？小企業暫難盈利

谷歌、微軟這樣的科技巨頭早已探知到了生成式AI的潛力。今年1月，微軟深化了與OpenAI的合作關系，并以提升微軟Azure云計算網絡的計算能力為交換條件，完成了一項價值100億美元的長期投資。又在2月時將類ChatGPT產品集成到自己的搜索引擎Bing當中。谷歌則推出自己的對話式AI助手Bard作為回應。百度也于今日正式開放了自己的新一代大語言模型、生成式AI產品文心一言。

由于聊天機器人中沒有可插入廣告的結果頁，盈利對于小型企業來講依舊是個難題。從中獲利的更多是提供和開發生成式AI產品的大型科技公司。

六、競爭局面如何？巨頭的游戲

在ChatGPT發布后，OpenAI根據用戶的反饋意見對GPT-3.5進行了迭代調整，修改了模型在準確性、安全性和發布不當言論等方面的問題。OpenAI稱，在公司內部的對抗性真實性評估中，GPT-4的得分比GPT-3要高出40%，根據政策響應敏感請求的頻率提高了29%。

早在2月時，谷歌的聊天機器人Bard公開演示中犯了一個事實性錯誤，引發了大眾對谷歌可能會在搜索領域失去優勢地位的擔憂，導致谷歌開局不利、股價走低。

Meta目前則正急于從公司各處的團隊中組建一個生成性AI產品組。

國內生成式AI領域同樣是熱潮涌動，百度今日正式發布文心一言大模型。此前，由清華大學知識工程實驗室轉化而來的智譜AI推出了基座模型ChatGLM，復旦大學自然語言處理實驗室也推出對話式AI模型MOSS，各家競相研發生成式AI產品。

七、有哪些行業可以從中受益？創意行業獲幫手

就目前而言，Chat-GPT等AIGC工具并不會完全取代某個工種，它更多承擔的是“工具”的作用。它所具備的搜索、閱讀、寫作等功能是所有工作中的基礎性事務，它更像是一種輔助性工具，幫人類搜索基本信息、提升閱讀速度，更好地理解文本內容，從而提升工作效率。

而那些繁瑣的、重復的、勞動密集型的工作將會被這些工具所代替。創作型的職業則有了更大的提升空間。

八、生成式AI的局限性是什么？虛假信息泛濫等

隨著ChatGPT的爆火，它原本的不足之處和可能帶來的隱患也在用戶使用過程中逐漸顯露，諸如虛假信息、學術造假、隱私保護等潛在危機都引起了人們的高度警惕。

生成式AI的數據都來源于二手信息，導致它拼湊出的答案可能聽上去非常權威又有說服力，但隱藏著許多的事實性、常識性錯誤，細看之下就像是在“一本正經地胡說八道”，它給出的回答中可能會包含很多部分正確、不完整、有偏見的內容，專業領域的答案也經不起行業專家的細致推敲。若是某一領域的門外漢聽信了其中提供的信息，可能會造成誤導。

回答的準確度和完整性取決于訓練中的數據多少，目前局限性也掣肘了ChatGPT的發展。由于回答中包含的不準確性，計算機編程網站StackOverflow禁止了ChatGPT的接入和訪問

九、生成式AI是否存在道德風險？風險與考驗并存

隨著生成式AI變得越來越復雜，欺騙和進行惡作劇的可能性也逐漸加大。微軟曾推出過一款名為“Tay”的AI機器人，但很快用戶就發現它會發一些有關種族主義和性別歧視等攻擊性內容，短短一天之內就被緊急撤下。

OpenAI也曾訓練ChatGPT去拒絕那些明顯不當的請求，來限制它發表仇恨言論或是錯誤信息。OpenAI首席執行官鼓勵用戶對那些令人不適的言論點擊“不喜歡”按鈕，用戶多次反饋后它就能自動改善系統。

此外，類ChatGPT產品在學業中的使用也是一把雙刃劍。它一方面幫助學生們搜集、篩選、整理了繁雜信息，但另一方面也可能造成學術造假、論文抄襲等問題。大學老師們也擔心學生太過依賴ChatGPT來完成作業而喪失了自己的思考能力，將其視為洪水猛獸。

立法者們也被潮水般涌入的投訴信所淹沒，但他們同樣無法判斷這些信件是真的在表達不滿，或是由聊天機器人編纂出來的。

結語：生成式AI重構人類？警惕科技迷思！

不可否認的是，ChatGPT等生成式AI產品的出現為每一個行業都帶了顛覆性的改變，把勞動力從重復、低級的工作中解放出來，對人類的創造力、思考力提出了更高的要求。但我們必須認清這一現實：生成式AI是工具而非代替品。

人類的智慧與經驗無法被AI取代。我們更要警惕生成式AI便利背后的風險和隱患，引導科技向好向善發展

關鍵詞：