研究發現,ChatGPT 3 驗證錯誤信息

https://uwaterloo.ca/news/media/large-language-models-validate-misinformation-research-finds

ChatGPT 3 由研究發現驗證不實訊息。滑入陰謀論、有害刻板印象及其他形式的錯誤資訊。滑鐵盧大學研究人員對 ChatGPT 的早期版本進行系統測試,發現 ChatGPT-3 經常犯錯、內容矛盾且重複有害資訊。研究啟動前,研究人員強調這項研究的持續重要性。他們發現即使微小詞語改變也會完全改變回答,因此 GPT-3 對不正確資訊的認知也極端難以預測。由於大型語言模型持續學習,可能學得錯誤資訊,這領域將長期受到質疑。

via Hacker News

January 1, 2024 at 11:39PM

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *