1、谷歌搜索上驚現 ChatGPT 用戶私人對話
近日，ChatGPT 用戶們震驚地發現，自己與該人工智能模型的聊天記錄竟出現在了谷歌搜索結果中。有用戶發現，他們可以通過谷歌搜索“ site:chatgpt.com/share ”來查找數千條陌生人與人工智能助手的對話。
《Fast Company》週三曝光了這一隱私問題，報道稱，谷歌搜索結果中發現了 4500 條 ChatGPT 對話，但其中很多對話並不包含個人信息或身份信息。這可能並非全部數據，因為谷歌可能不會索引所有對話。這些對話很可能只是“數百萬人可見”的聊天樣本。
《Fast Company》發現，谷歌是利用用戶在 ChatGPT 上主動點擊 “分享” 按鈕後生成的鏈接部分，通過基本的谷歌網站搜索進行索引的。而這些被曝光的對話中，包含了用戶透露的大量深層個人信息，涉及特殊的個人經歷以及健康等私密內容。更具諷刺意味的是，有些用戶在對話中甚至還表達了對人工智能模型可能在監視自己的擔憂。儘管 ChatGPT 不會顯示用戶身份，但部分人因在聊天中分享了高度具體的個人信息，可能會因此暴露身份。
例如，在這些搜索結果中，就有人正在尋求幫助，一位用戶希望 ChatGPT 幫助她找到一位消極攻擊型伴侶。一位剛退伍的老兵表示，他們“感到孤獨、壓力大、掙扎”，並詢問了 ChatGPT 當地的支持團體。
還有一位用戶詳細描述了他和愛人的夫妻生活和在異國他鄉的不愉快經歷，聲稱自己患有創傷後應激障礙（PTSD），正在尋求支持。他們還詳細描述了自己的家族史以及與親朋好友的人際關係。
另一則對話討論了兒童精神病行為的普遍性以及這些行為在什麼年齡會表現出來，而另一位用戶透露，他們是心理編程的倖存者，正在尋求自我解除編程，以減輕他們所感受到的創傷。
OpenAI 首席信息安全官 Dane Stuckey在 X 上 解釋說，所有聊天記錄被曝光的用戶在選擇分享聊天記錄後，都會通過點擊一個框來選擇索引他們的聊天記錄。
《Fast Company》指出，用戶經常在 WhatsApp 上分享聊天記錄，或者選擇保存鏈接以便稍後訪問聊天記錄。但正如《Fast Company》所解釋的那樣，用戶可能因為文本格式被誤導而分享了聊天記錄：
當用戶點擊“分享”時，他們會看到一個選項，勾選“使此聊天可被發現”的方框。在方框下方，用較小、較淺的文字寫著一條警告，說明此聊天可能會出現在搜索引擎結果中。
圖片來源： ChatGPT 通過 Dane Stuckey 在 X 上分享框
據《Fast Company》週四報道， OpenAI 起初辯稱，該標籤“足夠清晰”能讓大家注意到 。但 Stuckey 證實，“最終，我們認為這項功能為用戶意外分享非本意內容提供了太多機會，因此我們決定移除該選項，”他說道。“我們還在努力從相關搜索引擎中刪除已編入索引的內容。這項變更將於明天早上向所有用戶推出。”
據《Fast Company》報道，這些內容包括關於吸毒、性生活、心理健康和創傷經歷的聊天。
牛津大學人工智能倫理學家卡麗莎·維利茲 (Carissa Veliz) 告訴《Fast Company》，她對谷歌記錄“這些極其敏感的對話”感到“震驚”。
維利茲擔心，這預示著大型科技公司在隱私問題上將採取的策略。“這也進一步證明，OpenAI 這家公司不值得信賴，無論他們怎麼說，他們都不重視隱私，”她說。“重要的是他們做了什麼。”
此前 ChatGPT 用戶聊天記錄現身谷歌搜索結果引發廣泛關注，如今更多關於該功能的歷史與後續進展浮出水面，使得用戶隱私問題的討論愈發激烈。
OpenAI 至少從 2023 年 5 月便開始提供 ChatGPT 共享鏈接功能，當時該公司在記錄這一功能時明確表示，共享鏈接 “未被搜索引擎編入索引”。然而，今年早些時候，相關文檔內容發生了變更，變為 “您可以選擇通過鏈接分享文章或使其可供搜索引擎編入索引”。
對於這一文檔內容變更的具體時間等相關問題，OpenAI 並未立即回應澄清請求。
目前，OpenAI 的搜索清理工作似乎正在推進，但尚未完成。當使用谷歌搜索 “site:chatgpt.com/share” 時，已不再返回共享的索引聊天列表。不過，在必應搜索中仍能返回數千條結果，DuckDuckGo 和 Brave 搜索也有大量相關結果，且在許多結果中都發現了個人信息。
2、OpenAI 發言人暗示：“這是用戶自己的問題”
Stuckey 稱該功能是 OpenAI 發起的一項“短期實驗”，旨在“幫助人們發現有用的對話”。直至上週五早上，他證實，刪除該功能的決定還包括“從相關搜索引擎中刪除索引內容”，
谷歌沒有回應《Fast Company》的報道，該報道使其在聊天內容在搜索結果中的顯示方式中扮演了什麼角色尚不清楚。但一位發言人在接受媒體問詢時表示，OpenAI 對索引負有全部責任，並澄清說：“谷歌或任何其他搜索引擎都無法控制哪些頁面在網絡上公開。這些頁面的發佈者完全控制著它們是否被搜索引擎索引。”
OpenAI 似乎也全權負責刪除聊天記錄，或許最快的方法是使用谷歌提供的一款工具來阻止網頁出現在搜索結果中。但該工具並不能阻止網頁被其他搜索引擎收錄，因此聊天記錄在谷歌搜索結果中消失的速度可能比其他搜索引擎更快。
ChatGPT 用戶韋利斯告訴《Fast Company》，即使是像這樣的“短暫”實驗也“令人不安”，並指出“科技公司將普通民眾當作小白鼠”，用新的人工智能產品吸引大批用戶，並等著看他們可能因侵入性設計選擇而面臨什麼後果。
“他們採取了一些措施，在民眾中試用，看看是否有人抱怨，”維利斯說。
為了檢查私人聊天是否仍在被編入索引，Fast Company 的解釋建議，仍然可以訪問其共享鏈接的用戶可以嘗試輸入“當有人主動點擊 ChatGPT 上的‘分享’時創建的鏈接部分 [以] 發現對話”，這些對話可能仍然可以在 Google 上發現。
OpenAI 拒絕了 Ars 的置評請求，但 Stuckey 的聲明表明，該公司知道在失誤之後必須重新贏得信任。
Stuckey 表示：“安全和隱私對我們來說至關重要，我們將繼續努力在我們的產品和功能中最大限度地體現這一點。”
值得注意的是，這起醜聞是在 OpenAI 誓言要對抗 一項法院命令之後發生的，該命令要求其 “無限期”保存所有已刪除的聊天記錄， 這讓 ChatGPT 用戶感到擔憂，他們之前確信自己的臨時聊天記錄和已刪除聊天記錄不會被保存。
OpenAI 迄今為止輸掉了這場鬥爭，這些 聊天記錄很可能很快就會在訴訟中被搜索到。 儘管 OpenAI 首席執行官 Sam Altman 認為用戶最私密的聊天記錄可能被搜索到，這被認為是“搞砸了”，但《Fast Company》指出，Altman 似乎並沒有公開批評 OpenAI 自身的做法可能將用戶的私人聊天記錄暴露在谷歌和其他搜索引擎上。
3、網友怎麼看？
雖然 OpenAI 已經承諾了刪除該功能，但 Hacker News、Reddit、X 等平臺上關於此次事件的討論的熱度有增無減。
有 X 用戶提出質疑，既然 OpenAI 標榜的模型如此強大，為什麼不能避免這一問題。
“要是你的人工智能真有那麼厲害，那為什麼不能直接檢測對話中是否存在可分享的數據，然後對其永久禁用，或者允許根據每個對話進行相關設置呢？這似乎和所有關於人工智能的炒作都相矛盾。”
還有網友表示，在使用此功能前 ChatGPT 應該向用戶發出簡單的警告，這對於大模型來說也不是什麼難事。
還有網友指出，隱私問題一旦處理不好，技術再先進也是徒勞，因為信任一旦破裂，用戶就會流失：
“此次事件揭示了人工智能應用的一個基本事實：信任一旦破裂，就極難重建。雖然 OpenAI 的快速反應或許控制住了直接損害，但這一事件提醒我們，隱私問題的失敗可能很快就會掩蓋技術成就。
對於一個致力於改變我們工作和生活方式的行業來說，維護用戶信任並非錦上添花，而是生死攸關的現實。隨著人工智能能力的不斷擴展，成功的公司將是那些能夠證明自己能夠負責任地進行創新，並將用戶隱私和安全置於產品開發流程核心的公司。
現在的問題是，人工智能行業能否從這起最新的隱私危機中汲取教訓，還是會繼續在類似的醜聞中跌跌撞撞。因為在打造最實用的人工智能的競爭中，那些忘記保護用戶安全的公司可能會發現自己孤軍奮戰。”
網絡安全分析師兼 SocialProof Security 首席執行官 Rachel Tobac 表示：“人們期望他們可以完全私密地使用 ChatGPT 等工具，但現實情況是，許多用戶並沒有完全意識到這些平臺的功能可能會無意中洩露他們最私密的問題、故事和恐懼。”
其實不只是 OpenAI，早在這件事情發生之前，谷歌、Meta 等科技公司也傳出機器人洩密的消息，那麼，作為普通人，該如何避免隱私洩露？
Aufgesang GmbH 聯合創始人、首席業務發展官、SEO 和內容主管 Olaf Kopp 給出了建議。Olaf Kopp 在 LinkedIn 上指出，雖然只有幾千條對話被編入索引，但他警告稱，應避免與共享的公共 ChatGPT 聊天進行互動。
參考鏈接：
https://www.fastcompany.com/91376687/google-indexing-chatgpt-conversations
https://fastcompanyme.com/technology/google-could-be-reading-your-chatgpt-conversations-concerned-you-should-be/
https://searchengineland.com/google-indexing-shared-chatgpt-conversations-459839
本文來自微信公眾號“InfoQ”（ID：infoqchina），作者：冬梅，36氪經授權發佈。
