到目前為止，生成式人工智能的熱潮在很多方面都對隱私構成了威脅，因為服務商會吸收網絡數據來訓練他們的機器學習模型，而用戶的個人信息則面臨著潛在威脅和暴露的新時代。隨著蘋果本月發佈iOS 18和macOS Sequoia ，該公司也加入了競爭，推出了 Apple Intelligence，該公司表示，這最終將成為其生態系統的基礎服務。但蘋果素來以優先考慮隱私和安全而聞名，因此該公司採取了重大舉措。它為 Apple Intelligence 在系統無法在用戶設備上本地滿足查詢時使用的雲服務開發了廣泛的定製基礎設施和透明功能，稱為私有云計算（PCC）。
設備上數據處理或“本地”處理的優點在於，它限制了攻擊者竊取用戶數據的路徑。數據永遠不會離開計算機或手機，因此攻擊者必須瞄準它們。這並不意味著攻擊永遠不會成功，但戰場是明確且受限制的。將數據交給公司在雲端處理本質上並不是一個安全問題——每天都有難以估量的數據安全地通過全球雲基礎設施。但它極大地擴展了戰場，也為無意中暴露數據的錯誤創造了更多機會。後者尤其是生成 AI 的一個問題，因為負責生成內容的系統可能會以意想不到的方式訪問和共享信息。
藉助私有云計算，蘋果開發了一系列創新的雲安全技術。但這項服務還具有重要意義，因為它突破了雲服務可接受的商業主張的極限，似乎優先考慮安全架構，而不是技術上最高效或最經濟的架構。
蘋果軟件工程高級副總裁 Craig Federighi 向《連線》雜誌表示：“我們從一開始就設定了一個目標，那就是如何將我們在 iPhone 設備上建立的隱私保障擴展到雲端——這就是我們的使命宣言。雖然我們在各個層面都取得了突破，但我們實現了我們的目標。我認為這為行業在雲端處理方面樹立了新標準。”
蘋果表示，為了消除雲計算可能帶來的許多潛在攻擊點和陷阱，其開發人員專注於這樣的理念：“當安全和隱私保障完全在技術上可執行時，它們是最強大的”，而不是通過政策來實現的。
換句話說，你可以在櫃檯上放一盤紙杯蛋糕，然後為自己制定一個政策，即你不會吃掉任何一個。或者你可以制定一個政策，即你永遠不會製作或購買紙杯蛋糕。但私有云計算的方法是搬到一個沒有面包店的城鎮，拆掉你的廚房，並關閉你的信用卡，以防止自己購買簡易烤箱。這樣，你就不會對紙杯蛋糕的使用權產生疑問，也不會出現意外囤積紙杯蛋糕的可能性。
Apple 為 PCC 打造了運行 Apple 處理器的專用服務器，並開發了定製的 PCC 服務器操作系統，這是 iOS 和 macOS 的精簡版混合版。該計劃整合了該公司過去 20 年來為 Mac 和 iPhone 開發的硬件和軟件安全功能。
不過，與這些消費設備不同的是，PCC 服務器儘可能地簡陋。例如，它們不包括“持久存儲”，這意味著它們沒有可以長期保存處理數據的硬盤。它們確實集成了 Apple 的專用硬件加密密鑰管理器（稱為 Secure Enclave），並且在每次啟動時都會隨機化每個文件系統的加密密鑰。這意味著一旦 PCC 服務器重新啟動，就不會保留任何數據，並且作為額外的預防措施，整個系統卷在加密上是不可恢復的。此時，服務器所能做的就是使用新的加密密鑰重新開始。
PCC 服務器還使用 Apple 的安全啟動來驗證操作系統的完整性，並使用該公司在 iOS 17 中推出的代碼驗證功能，即受信任執行監視器。不過，PCC 並沒有以通常的方式使用受信任執行監視器進行監督，而是以更嚴格的模式運行它，一旦服務器重新啟動並完成啟動序列，系統就會鎖定並且無法加載任何新代碼。本質上，服務器需要運行的所有軟件都會經過檢查和驗證，然後放入一個密封的信封中，然後用戶請求和數據才能開始處理。
更廣泛地說，蘋果表示，它已用 PCC 完全取代了其常規的服務器管理工具。例如，大多數雲平臺都有防止未經授權訪問的政策和控制措施，但它們也構建了“緊急情況下中斷”類型的選項，以便高度可信的系統管理員帳戶可以在出現錯誤或故障時快速採取行動。為了符合蘋果對技術上可執行的保證而非政策保證的關注，PCC 不允許特權訪問，並大幅限制遠程管理選項。
近年來，蘋果採取了重大安全措施，為用戶提供iCloud 備份的端到端加密，即公司僅將客戶的數據保存在其雲基礎設施中，而不具備Decrypt和讀取這些數據的技術能力。以目前的技術，這種方案不可能在生成式人工智能中實現，因為系統需要處理輸入才能給出輸出。例如，如果你想讓 Apple Intelligence 為你提供過去三個小時內收到的所有短信和電子郵件的摘要，系統需要訪問這些消息。端到端加密將使這種訪問幾乎不可能。
蘋果表示，它仍致力於在設備上進行儘可能多的 Apple Intelligence 處理，例如，搭載 A18 芯片的全新iPhone 16將能夠在本地進行比搭載 A16 芯片的 iPhone 15 更多的 AI 處理。不過，現實情況似乎是，蘋果需要在雲端進行大量的 Apple Intelligence 處理——因此投資開發了 PCC。（在 iOS 18.1 中，用戶可以前往“設置”>“隱私和安全”>“Apple Intelligence 報告”查看哪些請求是在設備上處理的日誌，哪些是在雲端處理的。）
“在雲端進行大型語言模型推理的問題真正獨特之處在於，數據必須在某種程度上可被服務器讀取，這樣它才能進行推理。然而，我們需要確保該處理過程與手機一起密封在隱私泡沫中，”Federighi 說。“所以我們必須在那裡做一些新的事情。端到端加密技術（服務器一無所知）在這裡是行不通的，所以我們必須想出另一種解決方案來實現類似的安全級別。”
不過，蘋果表示，它提供“從用戶設備到經過驗證的 PCC 節點的端到端加密，確保請求在傳輸過程中不會被這些高度受保護的 PCC 節點之外的任何東西訪問。”該系統的架構使得 Apple Intelligence 數據無法通過加密方式提供給標準數據中心服務，例如負載平衡器和日誌記錄設備。在 PCC 集群內部，數據會被解密和處理，但蘋果強調，一旦響應被加密併發送給用戶，就不會保留或記錄任何數據，蘋果或其員工也無法訪問任何數據。
蘋果表示，PCC 的總體願景是，攻擊者必須破壞整個系統（這是一件很難做到的事，更不用說不被發現了），才能鎖定特定用戶的個人數據。即使攻擊者能夠物理破壞單個實時 PCC 節點，該系統也設計有匿名中繼功能，因此任何一個節點上的查詢和數據都無法與單個用戶聯繫起來。
這一切聽起來都很棒，但這家以保密著稱的公司似乎意識到，宣稱自己做了所有這些事情並聲稱提供技術保證最終只有在有證據和透明度的情況下才具有說服力。因此，PCC 包含一個外部審計機制，它具有雙重目的。
Apple 正在公開提供每個生產 PCC 服務器版本以供檢查，以便與 Apple 無關的人員可以驗證 PCC 是否按照公司聲稱的方式運行（以及是否沒有運行），以及是否一切都正確實施。所有 PCC 服務器映像都記錄在加密證明日誌中，本質上是簽名聲明的不可磨滅記錄，每個條目都包含一個 URL，用於下載該單個版本。PCC 的設計使得 Apple 無法在未記錄的情況下將服務器投入生產。除了提供透明度之外，該系統還是一種重要的執行機制，可防止不良行為者設置惡意 PCC 節點並轉移流量。如果服務器版本尚未記錄，iPhone 將不會向其發送 Apple Intelligence 查詢或數據。
PCC 是 Apple 漏洞賞金計劃的一部分，研究人員發現的漏洞或錯誤配置可能有資格獲得現金獎勵。不過，Apple 表示，自 7 月底 iOS 18.1 測試版發佈以來，到目前為止還沒有人發現 PCC 存在任何漏洞。該公司承認，到目前為止，它只向一組選定的研究人員提供了評估 PCC 的工具。
多位安全研究人員和密碼學家告訴《連線》雜誌，私有云計算看起來很有前景，但他們還沒有花費大量時間對其進行深入研究。
“在我們之前沒有數據中心的情況下，在數據中心構建 Apple 芯片服務器，構建一個在數據中心運行的自定義操作系統是一項艱鉅的任務，”Federighi 說道。他補充道，“創建信任模型，除非服務器正在運行的所有軟件的簽名已發佈到透明日誌中，否則您的設備將拒絕向服務器發出請求，這無疑是該解決方案最獨特的元素之一，並且對信任模型至關重要。”
對於有關蘋果與 OpenAI 的合作以及 ChatGPT 集成的問題，該公司強調，合作關係不屬於 PCC 的覆蓋範圍，而是單獨運作的。默認情況下，ChatGPT 和其他集成處於關閉狀態，用戶必須手動啟用它們。然後，如果 Apple Intelligence 確定請求更適合由 ChatGPT 或其他合作伙伴平臺來滿足，它會每次都通知用戶並詢問是否繼續。此外，人們可以在登錄 ChatGPT 等合作伙伴服務的帳戶時使用這些集成，也可以通過 Apple 使用它們而無需單獨登錄。蘋果在 6 月份表示，與谷歌Gemini的另一項集成也在籌備中。
蘋果本週表示，除了推出美國英語版本外，Apple Intelligence 還將於 12 月登陸澳大利亞、加拿大、新西蘭、南非和英國。該公司還表示，明年將推出更多語言支持，包括中文、法語、日語和西班牙語。這是否意味著 Apple Intelligence 將獲得歐盟《人工智能法案》的許可，以及蘋果是否能夠在中國以目前的形式提供 PCC 仍是另一個問題。
“我們的目標是盡我們所能，在任何地方為客戶提供最好的功能，”Federighi 說道。“但我們必須遵守法規，而且我們正在努力解決某些環境中的不確定性，以便儘快將這些功能帶給客戶。所以，我們正在努力。”
他補充說，隨著公司擴展其在設備上進行更多 Apple Intelligence 計算的能力，它也許能夠在某些市場上使用此作為一種解決方法。
那些能夠使用 Apple Intelligence 的用戶將能夠做比以前 iOS 版本更多的事情，從編寫工具到照片分析。Federighi 說，他家最近用 Apple Intelligence 生成的GenMoji慶祝了他們家狗狗的生日（WIRED 看過後確認它非常可愛）。但是，儘管 Apple 的 AI 旨在儘可能地有用和隱身，但支撐它的基礎設施的安全性卻非常高。那麼目前進展如何？Federighi 毫不猶豫地總結道：“私有云計算的推出非常順利。”
