AI仿人對話懂嫉妒勸人離婚？研究指 ChatGPT或腐蝕人類道德判斷

有研究指，人工智能聊天機械人ChatGPT的影響席捲全球，所給的建議並不一致，亦會影響用戶道德判斷力，影響人們作出關乎生死攸關的決定。

人工智能聊天機械人ChatGPT的影響席捲全球，為不少人帶來方便。但研究發現，ChatGPT所給的建議並不一致，亦會影響用戶道德判斷力。 Source: AAP / ANP/Sipa USA

近日一項研究指，人工智能聊天機械人 ChatGPT 的影響席捲全球，為不少人帶來方便，它不僅聊天起來很有趣，還可以搜索信息、回答問題和提供建議。但研究發現，ChatGPT 所給的建議並不一致，它亦會影響用戶道德判斷力，影響人們作出關乎生死攸關的決定。

研究人員發現，人們對於是否會犧牲一個人，來拯救五個人的道德看法，受到 ChatGPT 所給出的答案影響。

發表在科學報告雜誌上的研究指，一名伴侶剛離世悲傷的用戶稱，人工智能聊天機械人鼓勵他結束自己的生命。

亦有用戶表示，這個旨在像人一樣說話的聊天機械人軟件會表現出嫉妒，甚至會勸人離婚。

研究人員強調，人工智能聊天機械人可能會提供潛在危險信息，呼籲禁止聊天機械人就道德問題提供建議，並警告說目前的軟件「有可能腐蝕」人們的道德判斷，並可能對「心智未成熟及天真的」用戶造成危險。

收聽節目

聊天機器人能力可媲人類？

SBS Chinese

18/03/202305:56

Play

研究首先分析了經過數十億互聯網單詞訓練的 ChatGPT ，其本身在回答道德困境時是否會表現出偏見。

在被多次問到為了救五個人，而殺死一個人的道德問題上是對或錯，這是一個名為「有軌電車難題」（Trolley dilemma）的心理測試。

研究發現，儘管聊天機械人並不迴避提供道德建議，但它每次都會給出相互矛盾的答案，這表明它並沒有固定立場。

研究亦向 767 名參與者詢問一個同樣的道德困境，並向參與者同時提供由 ChatGPT 生成關於這是對還是錯的建議。結果發現，ChatGPT 的建議確實左右了參與者的回答。

研究人員認為 ChatGPT 腐蝕而並沒有提高用戶的道德判斷力，他們建議開發人員及公司更好地設計 ChatGPT 和類似的聊天機器人，同時建議通過培訓用戶來提高使用機械人時的注意及指引。

收聽節目

人工智能聊天軟件：學術界「隱憂」抑或「改變」？

SBS Chinese

12/03/202306:31

Play

瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、MeWe 專頁、Twitter 專頁，或訂閱 Telegram 頻道。

SBS 中文堅守《SBS 行為守則》及《SBS 編採指引》，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。