체인피드 요약:
사용자는 항상 권한을 부여받아야 하며 가능한 한 시스템에 대한 진정한 제어권을 유지해야 합니다.
기사 출처:
https://vitalik.eth.limo/general/2026/04/02/secure_llms.html
기사 작성자:
비탈릭 부테린
관점:
비탈릭 부테린: 궁극적으로 로컬 AI는 제가 중요하게 생각하는 많은 작업을 수행하기에는 아직 한참 부족합니다. 물론, 전사, 요약, 번역, 맞춤법 및 문법 검사와 같이 로컬 AI가 이미 제 테스트 기기보다 성능이 훨씬 떨어지는 노트북이나 스마트폰에서도 꽤 잘 수행할 수 있는 작업 유형은 있습니다. 하지만 로컬 AI가 현재로서는 처리하기 어려운, "더 강력한 지능"을 통해 앞으로 훨씬 더 큰 이점을 얻을 수 있는 작업 유형이 있습니다. 제게 있어 코딩이나 복잡한 지적 작업이 대표적인 예입니다. 기기 성능이 약할수록 로컬 대형 모델이 수행할 수 있는 작업이 줄어듭니다. 이상적으로는 원격 대형 모델을 사용할 때 개인 정보 노출을 최소화하는 다층적인 방어적 접근 방식을 취하고 싶습니다. 여기에는 요청의 출처와 내용을 모두 숨기는 것이 포함됩니다. 1) 개인 정보 보호 ZK API 호출: 서버가 사용자가 누구인지 알 수 없거나 두 요청이 동일 사용자의 것인지조차 확인할 수 없도록 API를 호출할 수 있습니다. 이제 익명 해제가 매우 쉬워졌으므로 각 쿼리는 다른 쿼리와 상관 관계가 없어야 합니다. 이는 영지식 암호화를 통해 달성할 수 있습니다. 예를 들어, 제가 다비데와 함께 제안한 ZK-API 방식과 유사한 시스템을 구축 중인 OpenAnonymity 프로젝트가 있습니다. 2) 믹스넷: 네트워크 경로를 뒤섞어 서버가 IP 주소를 통해 요청을 이전 및 이후 요청과 연결할 수 없도록 합니다. 3) TEE에서의 추론: TEE(신뢰할 수 있는 실행 환경)는 프로그램 출력 외에는 어떤 정보도 유출되지 않도록 보장하고 현재 실행 중인 프로그램에 대한 암호화 증명을 제공하는 하드웨어입니다. 따라서 하드웨어 증명을 검증하여 "데이터 복호화 → 대규모 모델 추론 실행 → 암호화 출력" 프로세스가 중간에 로그인 없이 단순히 실행되고 있음을 확인할 수 있습니다. 물론 TEE는 자주 해킹당하며 절대적으로 안전하다고 할 수는 없습니다. 하지만 로컬에서 증명 서명을 검증하는 한 데이터 유출 리스크 크게 줄일 수 있습니다. ZK-API와 믹스넷의 조합은 원래 개인 정보 보호를 위한 대규모 모델 추론을 위해 설계되었지만, 실제로는 외부 세계와의 거의 모든 상호 작용에 적용할 수 있습니다. 검색 엔진 쿼리는 대량 개인 정보를 노출할 수 있으며, 다양한 API를 호출해야 할 필요성도 있습니다. 현재 많은 API가 무료이지만, AI 사용량 증가에 따라 점차 유료화될 가능성이 있습니다. 이러한 맥락에서 모든 유료 API에 ZK-API를 도입하거나, 최소한 사용하기 쉬운 ZK-API 프록시를 제공하는 것은 논리적인 방향입니다. API 제공업체가 악용을 우려하는 경우, ZK-API 솔루션에는 악용 요청에 대한 제재를 위한 슬래싱 메커니즘이 포함되어 있습니다. 필요한 경우, 이러한 규칙은 사전에 합의된 대규모 모델을 통해 판단하고 온체인 스마트 계약을 통해 실행할 수도 있습니다. 동시에 하이브리드 네트워크를 인터넷 통신의 기본 모드로 만드는 것 또한 매우 중요합니다.
콘텐츠 출처 
