생성적 AI 붐은 지금까지 여러 면에서 개인정보 침해로 이어졌습니다.서비스가 머신 러닝 모델을 훈련하기 위해 웹 데이터를 빨아들이고 사용자의 개인 정보가 잠재적 위협과 노출의 새로운 시대에 직면했기 때문입니다.이번 달 Apple의 iOS 18 과 macOS Sequoia 가 출시되면서 이 회사는 경쟁에 합류하여 Apple Intelligence를 데뷔시켰는데, 이 회사는 이것이 궁극적으로 자사 생태계의 기반 서비스가 될 것이라고 말합니다.하지만 Apple은 개인정보 보호와 보안을 우선시하는 평판을 유지해야 하므로 회사는 큰 움직임을 보였습니다.사용자 기기에서 시스템이 로컬로 쿼리를 충족할 수 없는 경우 Apple Intelligence가 사용하는 클라우드 서비스를 위해 Private Cloud Compute(PCC)라고 하는 광범위한 맞춤형 인프라와 투명성 기능을 개발했습니다.
온디바이스 데이터 처리 또는 "로컬" 처리의 장점은 공격자가 사용자의 데이터를 훔치기 위해 취할 수 있는 경로를 제한한다는 것입니다. 데이터는 컴퓨터나 휴대전화를 떠나지 않으므로 공격자는 이를 표적으로 삼아야 합니다. 공격이 결코 성공하지 못할 것이라는 의미는 아니지만 전장은 정의되고 제한됩니다. 클라우드에서 처리하도록 회사에 데이터를 제공하는 것은 본질적으로 보안 문제가 아닙니다. 헤아릴 수 없을 만큼 많은 양의 데이터가 매일 글로벌 클라우드 인프라를 통해 안전하게 이동합니다. 그러나 그 전장이 엄청나게 확장되고 실수로 데이터를 노출시킬 수 있는 실수의 기회도 더 많아집니다. 후자는 특히 콘텐츠를 생성하는 시스템이 정보에 액세스하고 공유할 수 있는 의도치 않은 방식을 감안할 때 생성 AI에서 문제가 되었습니다.
Apple은 Private Cloud Compute를 통해 다양한 혁신적인 클라우드 보안 기술을 개발했습니다. 하지만 이 서비스는 클라우드 서비스에 대한 허용 가능한 비즈니스 제안의 한계를 넓히는 데도 중요한 의미를 지니며, 기술적으로 가장 효율적이거나 경제적인 것보다 안전한 아키텍처를 우선시하는 듯합니다.
"우리는 처음부터 iPhone에서 디바이스에서 처리한 개인정보 보호 보장을 클라우드로 확장할 수 있는 방법을 목표로 삼았습니다. 이것이 사명 선언문이었습니다." Apple의 소프트웨어 엔지니어링 부문 수석 부사장인 크레이그 페더리기가 WIRED에 말했습니다. "이를 완성하기 위해 모든 단계에서 획기적인 진전이 필요했지만, 우리가 한 일은 목표를 달성한 것입니다. 이것이 업계에서 클라우드 처리에 대한 새로운 표준을 제시한다고 생각합니다."
Apple은 클라우드 컴퓨팅이 초래할 수 있는 많은 잠재적인 공격 지점과 함정을 제거하기 위해 개발자들이 정책을 통해 구현하기보다는 "보안 및 개인 정보 보호 보장은 기술적으로 완전히 시행 가능할 때 가장 강력하다"는 생각 에 집중했다고 말합니다.
다시 말해, 카운터에 컵케이크 한 접시를 놓고 아무것도 먹지 않겠다는 정책을 세울 수 있습니다. 아니면 컵케이크를 만들거나 사지 않는다는 정책을 세울 수도 있습니다. 하지만 Private Cloud Compute 방식은 빵집이 없는 마을로 이사하고, 주방을 없애고, 신용카드를 닫아서 Easy Bake Ovens를 사지 않도록 하는 것입니다. 그렇게 하면 컵케이크에 대한 접근성이나 실수로 컵케이크를 쌓아둘 가능성에 대해 의문의 여지가 없습니다.
Apple은 PCC를 위해 Apple 프로세서를 구동하는 전용 서버를 만들고 iOS와 macOS의 축소된 하이브리드 버전인 맞춤형 PCC 서버 운영 체제를 개발했습니다. 이 계획에는 회사가 지난 20년 동안 Mac과 iPhone을 위해 개발한 하드웨어 및 소프트웨어 보안 기능이 통합되어 있습니다.
하지만 이러한 소비자 기기와 달리 PCC 서버는 가능한 한 간소합니다. 예를 들어, "영구 저장소"가 포함되어 있지 않아 처리된 데이터를 장기간 보관할 수 있는 하드 드라이브가 없습니다. Secure Enclave라고 알려진 Apple의 전담 하드웨어 암호화 키 관리자를 통합하고 부팅할 때마다 각 파일 시스템의 암호화 키를 무작위로 지정합니다. 즉, PCC 서버가 재부팅되면 데이터가 유지되지 않으며 추가 예방 조치로 전체 시스템 거래량 암호학적으로 복구할 수 없습니다. 그 시점에서 서버는 새 암호화 키로 새로 시작할 수 있습니다.
PCC 서버는 또한 Apple의 Secure Boot를 사용하여 운영 체제의 무결성을 검증하고, 회사에서 iOS 17과 함께 데뷔한 Trusted Execution Monitor라는 코드 검증 기능을 사용합니다. 그러나 PCC는 감독을 위해 일반적인 방식으로 Trusted Execution Monitor를 사용하는 대신, 서버를 다시 시작하고 부팅 시퀀스를 완료하면 시스템이 잠기고 어떠한 새 코드도 로드할 수 없는 훨씬 더 엄격한 모드로 실행합니다. 기본적으로 서버에서 실행해야 하는 모든 소프트웨어는 검사 및 검증을 거친 후 사용자 요청과 데이터가 처리되기 시작하기 전에 봉인된 봉투에 들어갑니다.
더 광범위하게, Apple은 PCC를 위한 일반적인 서버 관리 도구를 완전히 대체했다고 말합니다. 예를 들어, 대부분의 클라우드 플랫폼에는 무단 액세스를 방지하기 위한 정책과 제어가 있지만, "비상 시 중단" 유형의 옵션도 구축하여 매우 신뢰할 수 있는 시스템 관리자 계정이 버그나 장애 발생 시 신속하게 조치를 취할 수 있도록 합니다. Apple이 정책 보장보다 기술적으로 시행 가능한 보장에 중점을 두는 것과 일맥상통하게, PCC는 특권 액세스를 허용하지 않고 원격 관리 옵션을 크게 제한합니다.
최근 몇 년 동안 Apple은 iCloud 백업에 대한 종단 간 암호화를 사용자에게 제공함으로써 주요 보안 단계를 밟았습니다. 즉, 회사는 단순히 고객을 위해 클라우드 인프라에 데이터를 보관하고 해당 데이터를 디크립트(Decrypt) 하고 읽을 수 있는 기술적 역량이 없습니다. 현재 기술로는 생성 AI에 이러한 방식을 구현하는 것이 불가능합니다. 시스템이 출력을 제공하기 위해 입력을 처리해야 하기 때문입니다. 예를 들어 Apple Intelligence에서 지난 3시간 동안 받은 모든 문자 메시지와 이메일 요약을 제공하려면 시스템에서 해당 메시지에 액세스해야 합니다. 종단 간 암호화를 사용하면 이러한 액세스가 사실상 불가능합니다.
Apple은 여전히 가능한 한 많은 Apple Intelligence 처리를 기기에서 수행하는 데 전념하고 있으며, 예를 들어 A18 칩이 장착된 새로운 iPhone 16은 A16 칩이 장착된 iPhone 15보다 로컬에서 더 많은 AI 처리를 수행할 수 있습니다. 그래도 현실은 Apple이 상당한 양의 Apple Intelligence 처리를 클라우드에서 수행해야 하는 것 같습니다. 따라서 PCC 개발에 투자한 것입니다. (iOS 18.1에서 사용자는 설정 > 개인 정보 보호 및 보안 > Apple Intelligence 보고서로 이동하여 기기에서 처리되는 요청과 클라우드에서 처리되는 요청의 로그를 볼 수 있습니다.)
"클라우드에서 대규모 언어 모델 추론을 수행하는 문제에서 정말 독특한 점은 데이터가 어느 정도 서버에서 읽을 수 있어야 추론을 수행할 수 있다는 점이었습니다. 그런데도 우리는 그 처리가 휴대전화의 프라이버시 버블 안에 밀폐되어 있는지 확인해야 했습니다." 페더리기가 말했습니다. "그래서 우리는 거기서 새로운 것을 해야 했습니다. 서버가 아무것도 모르는 종단 간 암호화 기술은 여기서는 불가능했기 때문에 비슷한 수준의 보안을 달성하기 위해 다른 솔루션을 내놓아야 했습니다."
그럼에도 불구하고 Apple은 "사용자 기기에서 검증된 PCC 노드까지 종단 간 암호화를 제공하여, 이러한 고도로 보호된 PCC 노드 외부의 어떤 것도 전송 중에 요청에 액세스할 수 없도록 보장합니다."라고 말합니다. 이 시스템은 Apple Intelligence 데이터를 로드 밸런서 및 로깅 장치와 같은 표준 데이터 센터 서비스에서 암호화하여 사용할 수 없도록 설계되었습니다. PCC 클러스터 내부에서 데이터는 암호 해독되고 처리되지만 Apple은 응답이 암호화되어 사용자에게 전송되면 데이터가 보관되거나 로깅되지 않으며 Apple이나 개별 직원이 액세스할 수 없다고 강조합니다.
Apple은 PCC에 대한 포괄적인 비전은 공격자가 특정 사용자의 개인 데이터를 표적으로 삼기 위해 전체 시스템을 손상시켜야 한다는 것이라고 말합니다. 이는 감지되지 않고는 하기 어려운 일이며, 더구나 그렇게 하는 것은 더욱 어렵습니다. 공격자가 개별 라이브 PCC 노드를 물리적으로 손상시킬 수 있다 하더라도, 시스템은 익명 릴레이 기능이 있어서 어느 한 노드의 쿼리와 데이터를 개별 사용자에게 연결할 수 없습니다.
모두 꽤 멋진 것처럼 들리지만, 악명 높게 비밀스러운 이 회사는 이 모든 것을 한다고 공언하고 기술적 보장을 제공한다고 주장하는 것이 궁극적으로는 증거와 투명성이 있어야만 설득력이 있다는 것을 알고 있는 듯합니다. 그래서 PCC에는 중요한 이중 목적을 제공하는 외부 감사 메커니즘이 포함되어 있습니다.
Apple은 모든 프로덕션 PCC 서버 빌드를 공개적으로 검사할 수 있도록 하여 Apple과 관계가 없는 사람들이 PCC가 회사에서 주장하는 것을 수행하고 있는지(또는 수행하지 않는지) 그리고 모든 것이 올바르게 구현되었는지 확인할 수 있도록 합니다. 모든 PCC 서버 이미지는 암호화된 증명 로그에 기록되며, 이는 본질적으로 서명된 주장에 대한 지울 수 없는 기록이며, 각 항목에는 해당 개별 빌드를 다운로드할 수 있는 URL이 포함됩니다. PCC는 Apple이 로깅하지 않고는 서버를 프로덕션에 투입할 수 없도록 설계되었습니다. 그리고 투명성을 제공하는 것 외에도 이 시스템은 악의적인 행위자가 불량 PCC 노드를 설정하고 트래픽을 전환하는 것을 방지하는 중요한 시행 메커니즘으로 작동합니다. 서버 빌드가 로깅되지 않은 경우 iPhone은 Apple Intelligence 쿼리나 데이터를 해당 서버로 전송하지 않습니다.
PCC는 Apple의 버그 바운티 프로그램의 일부이며, 연구자들이 발견한 취약점이나 잘못된 구성은 현금 보상을 받을 수 있습니다. 하지만 Apple은 iOS 18.1 베타가 7월 말에 출시된 이후로 지금까지 PCC에서 결함을 발견한 사람은 없다고 말합니다. 이 회사는 지금까지 PCC를 평가하는 도구를 일부 연구자에게만 제공했다는 것을 알고 있습니다.
다수의 보안 연구원과 암호학자는 WIRED에 Private Cloud Compute가 유망해 보이지만 아직 깊이 파고드는 데 많은 시간을 들이지 않았다고 말했습니다.
페데리기는 "이전에 데이터 센터가 없었을 때 데이터 센터에 Apple 실리콘 서버를 구축하고, 데이터 센터에서 실행할 사용자 지정 OS를 구축하는 것은 엄청난 일이었습니다."라고 말합니다. 그는 "서버에서 실행 중인 모든 소프트웨어의 서명이 투명성 로그에 게시되지 않는 한 기기가 서버에 요청을 발행하지 않는 신뢰 모델을 만드는 것은 확실히 솔루션의 가장 독특한 요소 중 하나였으며 신뢰 모델에 절대적으로 중요했습니다."라고 덧붙입니다.
Apple의 OpenAI와의 파트너십과 ChatGPT 통합에 대한 질문에 대해, 이 회사는 파트너십이 PCC의 적용을 받지 않으며 별도로 운영된다고 강조했습니다. ChatGPT와 다른 통합은 기본적으로 꺼져 있으며, 사용자는 수동으로 이를 활성화해야 합니다. 그런 다음 Apple Intelligence가 ChatGPT 또는 다른 파트너 플랫폼에서 요청을 더 잘 처리할 수 있다고 판단하면, 매번 사용자에게 알리고 진행할지 묻습니다. 또한, 사람들은 ChatGPT와 같은 파트너 서비스의 계정에 로그인한 상태에서 이러한 통합을 사용하거나, 별도로 로그인하지 않고도 Apple을 통해 사용할 수 있습니다. Apple은 6월에 Google의 제미니(Gemini) 와의 또 다른 통합도 진행 중이라고 밝혔습니다.
Apple은 이번 주에 미국 영어로 출시하는 것 외에도 Apple Intelligence가 12월에 호주, 캐나다, 뉴질랜드, 남아프리카, 영국에 출시될 것이라고 밝혔습니다. 이 회사는 또한 중국어, 프랑스어, 일본어, 스페인어를 포함한 추가 언어 지원이 내년에 중단될 것이라고 밝혔습니다. 이것이 Apple Intelligence가 유럽 연합의 AI법 에 따라 허용될 것인지, 그리고 Apple이 현재 형태의 PCC를 중국에서 제공할 수 있을지는 또 다른 의문입니다.
페데리기는 "우리의 목표는 가능한 모든 것을 가져와 고객에게 최상의 기능을 제공하는 것입니다."라고 말합니다. "하지만 우리는 규정을 준수해야 하며, 우리가 해결하려고 하는 특정 환경에서 불확실성이 있어 가능한 한 빨리 이러한 기능을 고객에게 제공할 수 있습니다. 그래서 노력하고 있습니다."
그는 회사가 기기에서 더 많은 Apple Intelligence 계산을 수행할 수 있는 역량을 확장함에 따라 일부 시장에서 이를 해결책으로 사용할 수 있을 것이라고 덧붙였습니다.
Apple Intelligence에 액세스할 수 있는 사람들은 이전 버전의 iOS에서 할 수 있었던 것보다 훨씬 더 많은 것을 할 수 있습니다. 글쓰기 도구부터 사진 분석까지요. Federighi는 그의 가족이 Apple Intelligence에서 생성한 GenMoji (WIRED에서 보고 매우 귀엽다고 확인)로 최근 강아지의 생일을 축하했다고 말합니다. 하지만 Apple의 AI가 가능한 한 유용하고 눈에 띄지 않도록 의도된 반면, 그것을 뒷받침하는 인프라의 보안에 대한 위험은 엄청나게 높습니다. 그렇다면 지금까지 상황은 어떨까요? Federighi는 주저 없이 이렇게 요약합니다. "Private Cloud Compute의 출시는 매우 순조로웠습니다."
