四月初， LinkedIn 、 X等社交媒體網站上開始出現大量可動人偶。每個人物都以驚人的精準度刻畫了創作者，並配有個性化配件，例如可重複使用的咖啡杯、瑜伽墊和耳機。
這一切之所以成為可能，得益於 OpenAI 全新推出的GPT-4o 圖像生成器，它增強了 ChatGPT 的圖片編輯、文本渲染等功能。OpenAI 的 ChatGPT 圖像生成器還能以日本動畫電影公司吉卜力工作室的風格創作圖片——這一趨勢也迅速走紅。
這些圖像製作起來既有趣又簡單——你只需要一個免費的 ChatGPT 帳戶和一張照片。然而，要製作一個可動人偶或吉卜力工作室風格的圖像，你還需要向 OpenAI 提供大量數據，這些數據可以用來訓練其模型。
使用 AI 圖像編輯器時，你洩露的數據通常是隱藏的。開放技術學院網絡安全領域主席 Tom Vazdar 表示，每次將圖像上傳到 ChatGPT，你都可能交出“一整套元數據”。“這包括附加到圖像文件的 EXIF 數據，例如照片拍攝時間和拍攝地點的 GPS 座標。”
OpenAI 還會收集您用於訪問平臺的設備數據。Vazdar 表示，這意味著您的設備類型、操作系統、瀏覽器版本和唯一標識符。“由於像 ChatGPT 這樣的平臺是以對話方式運行的，因此還會收集行為數據，例如您輸入的內容、您請求的圖像類型、您與界面的交互方式以及這些操作的頻率。”
不僅僅是你的臉。如果你上傳了一張高分辨率照片，你也會把圖片中的其他內容交給 OpenAI——背景、其他人、房間裡的東西，以及任何可讀的內容，比如文件或徽章，風險管理公司 GRC International Group 的 AI 產品營銷部門負責人 Camden Woollven 說。
Vazdar 表示，這種自願提供、經同意的數據是“訓練生成模型的金礦”，尤其是依賴視覺輸入的多模式模型。
OpenAI 否認其策劃病毒式照片潮流是為了收集用戶數據，但該公司無疑從中獲益。Vazdar 指出，如果你樂意上傳自己的臉部照片，OpenAI 就無需從網絡上抓取你的臉部數據。“這種趨勢，無論是有意為之還是出於便利，都為公司提供了大量來自不同年齡段、種族和地域的新鮮、高質量的面部數據。”
OpenAI 的一位發言人告訴《連線》雜誌，它不會主動獲取個人信息來訓練模型，也不會利用互聯網上的公開數據來建立個人資料，以便向用戶投放廣告或出售數據。然而，根據 OpenAI 現行的隱私政策，通過 ChatGPT 提交的圖像可以被保留並用於改進其模型。
安全機構 ESET 的全球網絡安全顧問傑克·摩爾 (Jake Moore) 表示，你分享的任何數據、提示或請求都有助於訓練算法，而個性化信息有助於進一步微調算法，他創建了自己的人物模型來展示LinkedIn 上這種趨勢的隱私風險。
在某些市場，您的照片受到法規保護。在英國和歐盟，包括《通用數據保護條例》（GDPR）在內的數據保護法規提供了強有力的保護，包括訪問或刪除數據的權利。同時，使用生物識別數據需要獲得您的明確同意。
然而，MFMac律師事務所高級合夥人梅麗莎·霍爾（Melissa Hall）表示，照片只有經過特定技術手段處理，才能成為生物特徵數據，從而能夠對特定個人進行唯一識別。她表示，處理圖像以創建原始照片中人物的卡通版本“不太可能符合這一定義”。
與此同時，在美國，隱私保護措施各不相同。“加利福尼亞州和伊利諾伊州的數據保護法在加強，但美國各州並沒有統一的標準，”知識產權律師事務所 Ionic Legal 的合夥人 Annalisa Checchi 表示。OpenAI 的隱私政策並未明確規定肖像或生物特徵數據，這“為風格化的面部上傳創造了一個灰色地帶，”Checchi 表示。
Checchi 表示，風險包括你的圖像或肖像被保留，可能用於訓練未來的模型，或與其他數據結合用於分析。“雖然這些平臺通常優先考慮安全性，但你的肖像的長期用途仍不太清楚——而且一旦上傳就很難撤回。”
OpenAI 表示，用戶的隱私和安全是重中之重。OpenAI 的一位發言人告訴《連線》雜誌，該公司希望其 AI 模型能夠了解世界，而不是個人，並積極減少對個人信息的收集。
同時，用戶可以控制其數據的使用方式，使用自助工具訪問、導出或刪除個人信息。據 OpenAI 稱，用戶還可以選擇不讓這些數據被用於改進模型。
ChatGPT Free、Plus 和 Pro 用戶可以在數據控制設置中控制是否為未來的模型改進做出貢獻。據 OpenAI 稱，默認情況下，ChatGPT Team、Enterprise 和 Edu 客戶數據不會進行訓練。
下次你嘗試 ChatGPT 引領的潮流，例如動作人物或吉卜力工作室風格的圖片時，最好考慮一下隱私問題。ChatGPT 以及許多其他 AI 圖像編輯或生成工具都存在風險，因此在上傳照片之前務必閱讀隱私政策。
您還可以採取一些措施來保護您的數據。Vazdar 表示，在 ChatGPT 中，最有效的方法是關閉聊天記錄，這有助於確保您的數據不會被用於訓練。他還表示，您還可以上傳匿名或修改過的圖像，例如，使用濾鏡或生成數字化身而不是實際照片。
上傳圖片文件前，最好先刪除元數據，這可以通過照片編輯工具來實現。Vazdar 建議：“用戶應避免包含敏感個人信息的提示，並避免上傳集體照或任何帶有可識別背景特徵的照片。”
Hall 補充道，仔細檢查你的 OpenAI 帳戶設置，尤其是與訓練數據使用相關的設置。“注意是否涉及任何第三方工具，切勿在未經他人同意的情況下上傳他人照片。OpenAI 的條款明確規定，你對上傳的內容負責，因此保持意識至關重要。”
Checchi 建議在 OpenAI 的設置中禁用模型訓練，避免使用帶有位置標記的提示，並避免將內容鏈接到社交資料。“隱私和創造力並不相互排斥——你只需要更加用心。”
