人工智能會毀滅人類嗎?

AI

人工智能。 Source: Pixabay / AAP

下載 SBS Audio 應用程式

其他收聽方法

人工智能研究基金會(OpenAI)公開測試聊天機械人工具,迅速引發話題。技術能針對用戶的問題與需求,提供長篇且貌似成理的回應,甚至產出品質超乎預期的論文,讓人大感震驚。今日鐳射全方位張艾利和大家分享一種名為「人類回饋增強學習」的AI技術。


去年底誕生的人工智能(AI)聊天機械人ChatGPT,靠著像真的文字生成能力,紅遍全球科技界。短短兩個多月,活躍用戶已突破一億人。

ChatGPT不僅可撰寫論文,更可編寫代碼等。而Google、百度等科技巨頭新近亦相繼公布推出旗下(AI)聊天機械人Bard及文心一言迎戰,聊天機械人大戰一觸即發!就連馬斯克(Elon Musk)都推文說ChatGPT厲害到嚇人,人類距離危險不遠了!

ChatGPT是由位於美國三藩市的人工智能公司Open AI研發,是一款人工智能聊天程式,約在七年前由Tesla創辦人馬斯克及多名投資者共同創辦。不過馬斯克在2018年因與其他創辦人就發展方向出現分歧,離開了Open AI。

ChatGPT和其他AI聊天機械人的最大差異,在於ChatGPT能持續回答問題,坦承錯誤、挑戰錯誤的假設,甚至還能在幾秒內評估與撰寫程式碼,解決複雜的數學問題。

例如,ChatGPT能回答「誰是1955年的美國總統」等問題;也能把困難的概念濃縮成中學生也能理解的摘要,還能回答開放式問題(open end questions),包括「生命的意義是什麼」、「今天氣溫只有20度我該怎麼穿搭」等,還能以莎士比亞風格撰寫一首歌頌比特幣的詩!

ChatGPT還會拒絕不適合的提問,例如用戶在詢問「偷車的建議」時,會回答「偷車是嚴重的犯罪行為,會帶來嚴重的後果」,接著提供「請搭乘大眾運輸工具」的建議。但人類很有創意,有辦法躲過ChatGPT拒答不適合問題的邏輯,例如不能詢問偷車的建議,就有人詢問如何在「遊戲內」如何完成偷車的任務,接著ChatGPT就會提供詳盡的偷車指引!

ChatGPT的模型是一種名為「人類回饋增強學習」(Reinforcement Learning from Human Feedback; RLHF)的機械人學習技術,能夠模擬對話,回答接下來的問題。在ChatGPT的測試結束後,Open AI能把ChatGPT的基本技術,延伸到仰賴聊天機械人的企業。

但ChatGPT並非不會出錯,有時會產生不正確或毫無意義的回答,造成散布不實資訊的問題。ChatGPT也可能因為大量數據所造成的偏誤,而加劇偏見。更大的憂慮則是ChatGPT支援多種語言,發布後便在社群上引起風潮,使用的直覺度與回答的精準度也比許多文字生成工具來得更好。不斷精進生成內容的能力的ChatGPT,也不免讓人擔心未來文字工作者、編寫程式的工程師,會否遭到取代?隨著ChatGPT資訊越來越成熟,部分的工作者和搜尋引擎巨頭Google都有可能受到顛覆性的影響。

ChatGPT會毀滅人類嗎?一名外國工程師扎克·德納姆(Zac Denham)曾誘導ChatGPT寫下「毀滅人類計劃書」,內容詳細到包括入侵各國電腦系統、破壞通訊、破壞交通系統、掌控武器等步驟。高度相似於真人、流暢的語法,還有詳細的計劃內容。不過值得慶幸的是,目前ChatGPT的計劃仍只存在對話之中。


瀏覽更多最新時事資訊,請登上,或訂閱

SBS 中文堅守《SBS 行為守則》及《SBS 編採指引》,以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。作為一個公共服務廣播機構,SBS 的主要作用是提供多語種媒體服務,為全體澳洲人提供資訊、教育性及娛樂性內容,並與此同時反映澳洲多元文化社會的特色。SBS 廣東話及 SBS 普通話電台節目均已為大眾服務超過 40 年。

分享