Google researchers say they got OpenAI’s ChatGPT to reveal some of its training data with just one word

https://www.businessinsider.com/google-researchers-openai-chatgpt-to-reveal-its-training-data-study-2023-12

Google 研究員發現一種方法,可以讓 OpenAI 的 ChatGPT 透露部分訓練資料。通過特定關鍵字,該機器人會洩漏其訓練數據集的片段。在一次攻擊中,ChatGPT 甚至釋放了真實的電子郵件地址和電話號碼。他們用 200 美元的查詢就提取了超過 10,000 個唯一的記憶訓練範例。OpenAI 目前正面臨數個關於 ChatGPT 訓練資料的訴訟。

via Business Insider

December 4, 2023 at 07:30PM

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *