過去6個月里，隨著OpenAI的生成式文本聊天機器人日漸風(fēng)靡，該系統(tǒng)使用從網(wǎng)絡(luò)上提取的數(shù)據(jù)進行訓(xùn)練的風(fēng)險也變得愈發(fā)明顯。
世界各地的數(shù)據(jù)監(jiān)管機構(gòu)正在調(diào)查OpenAI如何收集用于訓(xùn)練大型語言模型的數(shù)據(jù)，它提供的答案的準(zhǔn)確性，以及有關(guān)使用其生成式文本系統(tǒng)的其他法律問題。在意大利暫時禁止ChatGPT進入該國后，歐洲數(shù)據(jù)監(jiān)管機構(gòu)已經(jīng)聯(lián)合起來關(guān)注OpenAI。加拿大也在調(diào)查這項技術(shù)的潛在隱私風(fēng)險。
在歐洲，《歐盟通用數(shù)據(jù)保護法案》要求企業(yè)和組織證明處理人們個人信息的合法理由，并允許人們訪問有關(guān)他們的信息，了解他們的信息是如何被使用的。在某些情況下，他們甚至可以要求刪除某些類型的數(shù)據(jù)。人們的個人信息被用于訓(xùn)練數(shù)據(jù)的方式，一直是歐盟監(jiān)管機構(gòu)早期關(guān)注的一個領(lǐng)域。
隨著人們參與體驗聊天機器人，并向它詢問有關(guān)自己生活和朋友的問題，一系列潛在的問題也隨之出現(xiàn)。OpenAI警告稱，ChatGPT可能會提供不準(zhǔn)確的信息，人們也發(fā)現(xiàn)它會編造工作和愛好等信息。它曾編造的虛假報紙文章，甚至讓所謂的人類作者都無法分辨這些文章的真實性。它曾發(fā)布的虛假聲明，讓一位法學(xué)教授卷入了性騷擾丑聞，還讓澳大利亞的一位市長卷入了賄賂丑聞——他正準(zhǔn)備以“誹謗罪”進行起訴。
關(guān)心數(shù)據(jù)使用方式的不僅僅是個人。三星公司已禁止員工使用生成式人工智能工具，部分原因是擔(dān)心數(shù)據(jù)存儲在外部服務(wù)器上的方式，以及公司機密最終可能泄露給其他用戶的風(fēng)險。(版權(quán)和知識產(chǎn)權(quán)是兩個不同的問題。)
作為對審查的回應(yīng)——尤其是來自意大利數(shù)據(jù)監(jiān)管機構(gòu)的審查，在OpenAI對其服務(wù)做出改變后，意大利數(shù)據(jù)監(jiān)管機構(gòu)現(xiàn)在允許ChatGPT重新進入該國——OpenAI公司已經(jīng)引入了新的工具和流程，允許用戶對至少部分?jǐn)?shù)據(jù)擁有更多的控制權(quán)。下面是操作方法。
從ChatGPT中刪除你的數(shù)據(jù)
ChatGPT和GPT-4通過統(tǒng)計方法生成類似人類的答案——在看到數(shù)百萬個人類作者寫的句子示例后，預(yù)測哪些單詞可能會跟隨其他單詞。OpenAI一直對其訓(xùn)練大型語言模型所使用的數(shù)據(jù)保密，因此公司外部沒有人確切知道它在這個過程中收集了多少網(wǎng)絡(luò)數(shù)據(jù)(包括人們的個人信息)。
OpenAI表示，它的大型語言模型是在三個信息源上進行訓(xùn)練的：從網(wǎng)絡(luò)上獲取的數(shù)據(jù)，公司從其他地方獲得的數(shù)據(jù)，以及人們通過聊天提供的信息。這可能會涉及有關(guān)個人的信息。OpenAI在一篇文章中解釋稱，“互聯(lián)網(wǎng)上的大量數(shù)據(jù)與人有關(guān)，所以我們的訓(xùn)練信息確實包含了個人信息。”不過，OpenAI也表示，它正在采取措施減少收集的數(shù)據(jù)量。
OpenAI現(xiàn)在推出了個人數(shù)據(jù)刪除請求表(Personal Data Removal Request)，允許人們(主要是歐洲人，也有日本人)要求從OpenAI系統(tǒng)中刪除有關(guān)他們的信息。
值得注意的是，該表單主要用于請求從ChatGPT提供給用戶的答案中刪除信息，而不是從其訓(xùn)練數(shù)據(jù)中刪除信息。它要求你提供你的名字;電子郵件;你所在的國家;你是為自己申請還是代表他人申請(例如律師代表客戶提出請求);以及你是否是個公眾人物，比如名人。
然后，OpenAI還會要求提供證據(jù)，證明其系統(tǒng)提到了你。它要求你提供導(dǎo)致你被提到的“相關(guān)提示/指令(prompt)”，以及你被提到的任何截圖。表格中寫道，“為了能夠正確地處理你的請求，我們需要明確的證據(jù)，證明該模型對數(shù)據(jù)主體的了解取決于提示。”它要求你保證細節(jié)是正確的，并且你理解OpenAI在任何情況下都不會刪除數(shù)據(jù)。該公司表示，在決定用戶的刪除請求時，將會平衡“隱私和言論自由”。
數(shù)字權(quán)利非營利組織Access Now的高級政策分析師Daniel Leufer表示，“OpenAI最近幾周所做的改變是可以接受的，但在數(shù)據(jù)保護方面，它只是在處理最為表面的問題，并未采取任何措施來解決更復(fù)雜、更系統(tǒng)的問題，即如何使用人們的數(shù)據(jù)來訓(xùn)練這些模型。我希望這個問題不會就此消失，特別是在ChatGPT上創(chuàng)建了EDPB工作組之后。”
OpenAI的幫助中心頁面還寫道，“個人也可能有權(quán)訪問、更正、限制、刪除或轉(zhuǎn)移可能包含在我們的訓(xùn)練信息中的個人信息。”為此，它建議給其數(shù)據(jù)保護人員發(fā)送電子郵件至dsar@openai.com。已經(jīng)要求OpenAI提供數(shù)據(jù)的人對其回應(yīng)并不滿意。意大利數(shù)據(jù)監(jiān)管機構(gòu)表示，OpenAI聲稱目前“在技術(shù)上不可能”糾正不準(zhǔn)確的信息。
如何刪除你的聊天記錄
你應(yīng)該始終對告知ChatGPT的內(nèi)容保持謹(jǐn)慎，特別是考慮到OpenAI有限的數(shù)據(jù)刪除選項。默認情況下，你與ChatGPT的對話可以被OpenAI用作在未來的大型語言模型中訓(xùn)練數(shù)據(jù)。這意味著，至少在理論上，這些信息可以被復(fù)制，以回答人們未來的問題。4月25日，該公司推出了一個新的設(shè)置，允許任何人(無論他們在世界上的哪個地方)停止這個過程。
登錄到ChatGPT時，單擊屏幕左下角的用戶配置文件，單擊設(shè)置，然后單擊數(shù)據(jù)控制。在這里你可以關(guān)閉聊天記錄和訓(xùn)練。OpenAI表示，關(guān)閉聊天記錄意味著你在對話中輸入的數(shù)據(jù)“不會被用來訓(xùn)練和改進我們的模型”。
因此，你在ChatGPT中輸入的任何信息，例如關(guān)于你自己、你的生活和你的工作的信息，都不應(yīng)該在OpenAI的大型語言模型的未來迭代中重新出現(xiàn)。OpenAI表示，當(dāng)聊天記錄被關(guān)閉時，它將繼續(xù)保留所有對話30天“以監(jiān)控濫用”，之后它們將被永久刪除。
當(dāng)你的數(shù)據(jù)歷史記錄被關(guān)閉時，ChatGPT通過在側(cè)邊欄中放置一個按鈕來提示你重新打開它，該按鈕為你提供了再次啟用聊天歷史記錄的選項。不得不說，這一操作與隱藏在設(shè)置菜單中的“關(guān)閉”設(shè)置形成鮮明對比。
關(guān)于企業(yè)網(wǎng)D1net(r5u5c.cn)：
國內(nèi)主流的to B IT門戶，同時在運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時運營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號