AI 에이전트가 AI 분야의 주요 내러티브가 되면서 AI 트랙의 발전도 점차 2.0 시대에 접어들고 있습니다. AI 에이전트 개념 자체에 초점을 맞추면, 이는 환경을 인식하고 의사결정을 내리며 과업이나 서비스를 수행하는 지능형 시스템입니다. 이들은 일반적으로 자연어 지시를 이해하고, 사용자 선호도를 학습하며, 때로는 자율적으로 의사결정을 내릴 수 있습니다.
AI 에이전트는 목표만 주어지면 그 목표에 대해 독립적으로 사고하고 행동할 수 있습니다. 주어진 과업을 세부적으로 분해하여 각 단계의 계획을 수립하고, 외부의 피드백과 자율적 사고를 통해 프롬프트를 생성하여 목표를 달성합니다. AI 에이전트는 문답 챗봇(상호작용 인터페이스) + 완전 자동화 워크플로우(인지, 사고, 행동) + 정적 지식베이스(기억)로 이해할 수 있습니다.
자율주행, 게임 등의 분야에서 AI 에이전트가 활용되고 있습니다. 사용자가 목적지를 입력하면 AI 에이전트가 AI 알고리즘과 다양한 시각 기술을 활용하여 운전 작업을 대신 수행하며, 자율적으로 의사결정과 실행을 합니다. 게임 분야에서도 AI 에이전트를 활용하여 실제 플레이어를 시뮬레이션하고, 게임 내 NPC의 행동과 스토리라인 전개를 자율적으로 수행하며, 플레이어의 성과에 따라 게임 난이도를 조절합니다. 제조, 금융, 의료, 농업, 사이버 보안 등 다양한 분야에서 AI 에이전트 활용이 시도되고 있습니다.
AI 에이전트가 다양한 분야에서 광범위하게 탐구되면서 AI 분야의 관심사도 초기의 연산 능력, 알고리즘, 데이터에서 점차 프라이버시와 보안 등 더 중요한 이슈로 확장되고 있습니다.
AI 에이전트의 신뢰 우려
현재 대부분의 AI 에이전트는 반자율적이며, 일정 수준의 자율적 의사결정 및 과업 수행 능력을 가지고 있지만, 여전히 사람의 명확한 지시, 피드백 또는 감독이 필요합니다. AI 에이전트는 사전 설정된 범위 내에서 독립적으로 과업을 완수하거나 행동을 조정할 수 있지만, 복잡한 상황이나 설정 범위를 벗어나는 경우 안전성과 정확성을 위해 사람의 개입이 필요합니다.
이는 대부분의 AI 에이전트가 사람과 AI 간 효과적인 상호작용을 위해 프롬프트에 크게 의존한다는 것을 의미합니다. 프롬프트는 AI 모델에 제공되는 입력 지시문이나 요구사항을 말합니다. 예를 들어 ChatGPT에게 뉴스 기사를 작성하도록 요청하는 것, 자율주행 차량에 목적지와 경로 선호도를 입력하는 것 등이 프롬프트에 해당합니다.
문제는 바로 여기에 있습니다.
현재의 반자율 AI 에이전트는 일반적으로 중앙화된 주체에 의존합니다. 사용자는 프롬프트와 추론 결과에만 관심을 가지지만, 사용자와 AI 에이전트 간 상호작용 과정과 AI 모델의 추론 과정은 '블랙박스'로 숨겨져 있어 신뢰성 검증이 어렵습니다. 프롬프트가 실행 과정에서 변조되었는지, AI 에이전트가 악성 프로그램에 접근했는지, AI 에이전트가 생성한 출력이 규칙에 부합하고 신뢰할 수 있는지, 사용자가 AI 모델에 입력한 프롬프트의 민감 데이터(암호화폐 개인키, 의료 데이터, 개인 신분 정보 등)가 안전하게 보호되는지 등을 확실히 알 수 없습니다.
또한 AI 에이전트는 중앙화된 서버에 과도하게 의존하며, 서버 관리자는 최고 권한을 가지고 사용자 자산과 프라이버시 데이터를 실질적으로 통제할 수 있어 AI 에이전트의 행동에 영향을 미칠 수 있습니다. 일부에서는 현재 AI 생태계가 소수 기업의 독점 방향으로 발전하고 있어, 이들 상위 기업이 AI 모델 개발과 활용을 좌우할 수 있다는 우려도 제기되고 있습니다.
Web3 기반의 AI 에이전트인 Eliza(a16z), Virtuals 프로토콜 등도 신원 관리, 경제 활동, 거버넌스 등의 일부 기능만 블록체인에 두고 핵심 추론과 계산, 데이터 저장, 실시간 상호작용은 여전히 오프체인 서버에 의존하고 있어, 근본적인 문제는 해결되지 않고 있습니다.
따라서 대부분의 AI 에이전트 서비스를 이용할 때 사용자는 무조건적인 신뢰를 선택할 수밖에 없으며, 어떤 과정도 신뢰할 수 있게 검증할 수 없습니다. 이로 인해 AI 에이전트의 신뢰성에 대한 의문이 계속 제기되고 있으며, 특히 금전, 신체 안전 등이 관련된 사례에서는 실제 적용을 주저하게 됩니다.
AI 에이전트 자체에 이러한 신뢰성을 검증할 수 있는 메커니즘이 없다는 점에서, 이 분야는 여전히 '무질서의 시대'에 놓여 있습니다.
그러나 Zypher Network는 영지식 증명 기반의 코프로세싱 인프라를 구축하여 AI 에이전트가 직면한 신뢰 문제를 해결하고자 합니다.
Zypher Network: Make Agent Secure Again!
Zypher Network는 영지식 증명 방식을 핵심으로 하는 코프로세싱 인프라로, 영지식 증명이 필요한 모든 애플리케이션 및 시설에 ZK 서비스를 제공합니다.
Zypher Network에는 분산 컴퓨팅 노드로 구성된 오프체인 컴퓨팅 네트워크와 온체인 엔진인 Zytron이 포함되어 있습니다. Zypher 네트워크에 영지식 계산 작업이 있으면 Zypher 시스템이 계산 마이너에게 작업을 할당하고 ZKP를 생성합니다. 이 ZKP는 Zytron 체인에서 검증되어 데이터, 거래, 행동의 신뢰성과 정직성을 보장합니다. Zypher는 Web3 게임 분야에서 이미 실제 적용되고 있으며, 수십 개의 Web3 게임이 AI 구동(AI 에이전트 수행)으로 중앙화된 서버 없이 효율적이고 안전하며 신뢰할 수 있게 운영되고 있습니다.
최근 Zypher는 AI 에이전트 분야를 위해 새로운 영지식 계산 계층을 출시했습니다. 'Proof of Prompt'와 'Proof of Inference'라는 두 가지 핵심 기능을 제공하여, 프롬프트와 추론이 올바르고 변조되지 않았음을 대중에게 증명하면서도 기저 민감 데이터는 공개하지 않아 AI 에이전트의 실행 과정에서 프롬프트와 추론의 검증 가능성 및 신뢰성을 보장합니다.
주목할 점은 현재 AI 에이전트의 신뢰성을 높이려는 많은 솔루션이 있지만, Zypher는 하드웨어에 의존하지 않고 순수 ZK 암호학 기술로 이를 달성하는 유일한 솔루션이라는 것입니다.
Zk Prompt
앞서 언급했듯이, 기존 AI 에이전트 모델의 가장 큰 문제는 프롬프트의 신뢰성을 보장할 수 없다는 것입니다. 프롬프트가 변조되었는지, 정확한 프롬프트로 모델 추론이 이루어졌는지, 프롬프트에 포함된 민감 정보가 유출되지 않았는지 등을 확인할 수 없습니다.
Zypher는 zk Prompt 솔루션을 통해 프롬프트의 검증 가능성과 신뢰성을 보장하고자 합니다. 이는 신뢰할 수 없는 AI 에이전트와 탈중앙화 애플리케이션 로직을 위한 핵심 제품 중 하나이자, 신뢰할 수 없는 AI 에이전트 개발 프레임워크의 중요한 구성 요소입니다.
zk Prompt는 사용자 친화적인 SDK 형태로 제공되며, 강력한 암호화, Pedersen 약속, zkSnarks(Plonk) 등의 첨단 암호 기술을 기반으로 합니다. 시스템 프롬프트 초기화 프로세스와 긴밀하게 협력하여 초기화된 프롬프트를 입력으로 받아 Zypher의 ZK 마이너 네트워크를 통해 암호화 약속과 영지식 증명(ZKP)을 생성합니다.
이러한 ZKP를 통해 어떤 사용자나 제3자도 검증할 수 있습니다. 검증 과정에서 감사된 초기 약속과 실제 초기화된 프롬프트 내용이 일치하는지 확인하여, 프롬프트의 정확성과 일관성을 보장합니다. 만약 시스템 프롬프트의 실제 초기화 내용이 감사 샘플과 불일치하면 검증 과정이 즉시 실패하여 잠재적 문제를 신속하게 감지하고 시스템 행동의 투명성과 신뢰성을 확보할 수 있습니다.
운영 과정에서 AI 에이전트 개발자와 AI 프롬프트 애플리케이션 개발자는 zk Prompt를 활용하여 시스템 프롬프트를 생성하고 정의할 수 있습니다. 이를 통해 AI 모델이 예상대로 특정 과업을 수행할 수 있도록 보장할 수 있습니다.
후오비 토큰(HT)이 System Prompt 초기화 후 언어 모델에 로드되면, 약속 계획을 통해 암호화된 약속이 생성되고 Zypher의 ZK 계산 네트워크를 통해 변조 불가능한 증명이 생성됩니다. 이 과정은 Prompt의 무결성과 일관성을 기록하여 모델이 예상대로 동작하도록 보장합니다.
Prompt 사용자는 약속된 Prompt와 증명 파일을 다운로드하고 현재 사용 중인 모델을 검증할 수 있습니다. 이를 통해 Prompt가 변조되지 않았음을 확인하고 Prompt와 모델의 행동이 개발자의 원래 설정과 일치함을 보장할 수 있습니다.
상호 작용 예시
zk Prompt는 AI 에이전트, ZK 계산 네트워크, DApp 및 스마트 계약 간에 신뢰할 수 있는 상호 작용 메커니즘을 구축하여 Prompt의 무결성과 일관성을 보장하고 AI 모델의 행동에 대한 신뢰를 제공합니다.
AI 에이전트 개발자가 zkPrompt를 통해 System Prompt를 정의하고 제출하면 Prompt가 암호화 처리되어 암호화된 약속(Commitment)이 생성되고 AI 에이전트가 초기화되며 Prompt와 관련된 암호화 회로가 생성되어 Prompt 내용의 변조 불가능성이 보장됩니다. 동시에 AI 에이전트는 검증 키를 Zypher의 ZK 계산 네트워크로 보내 향후 검증의 근거로 사용합니다.
DApp이 메시지 또는 거래 요청을 시작하면 AI 에이전트가 요청을 받아 계산 작업을 ZK 계산 네트워크에 위임합니다. ZK 계산 네트워크에서 Prompt의 실행 결과는 영지식 증명 형식으로 암호화 검증되며, 이 증명은 작업 실행 과정을 기록할 뿐만 아니라 Prompt 프롬프트와 행동의 일관성을 보장합니다. 생성된 증명 파일은 스마트 계약 또는 DApp에 반환되어 추가 검증에 사용됩니다.
Zypher의 Zytron 엔진 온체인 스마트 계약은 영지식 증명과 암호화된 약속을 검증하여 프롬프트 내용과 실행 행동의 정확성을 확인합니다. 프롬프트 내용이 변조되거나 실행이 원래 설정과 일치하지 않으면 검증이 실패하여 잠재적 문제를 효과적으로 방지합니다. 이러한 검증 메커니즘은 Prompt의 신뢰성을 강력하게 지원하고 AI 모델이 항상 개발자의 예상대로 작동하도록 보장합니다.
따라서 스마트 계약 및 기타 블록체인 객체와의 협업을 통해 Zypher는 더 투명하고 검증 가능한 보안 목표를 실현할 수 있으며 다양한 Web3 사용 사례에 편리하게 통합될 수 있습니다.
특징으로 볼 때 zk Prompt는 AI 에이전트에 다음과 같은 보장을 제공합니다:
- 데이터 프라이버시: 사용자는 시스템 프롬프트의 구체적인 내용을 알 필요 없이 프롬프트의 정확성을 검증할 수 있어 프롬프트의 기밀성이 보호됩니다.
- 신뢰성 및 투명성: 영지식 증명을 통해 사용자는 AI의 행동이 악의적으로 변조되지 않았음을 신뢰할 수 있습니다.
- 분산 검증: 어떤 사용자나 제3자도 중앙화된 실체에 의존하지 않고 프롬프트와 모델의 일관성을 확인할 수 있습니다.
zk Prompt를 기반으로 Proof of Inference로 확장하여 AI 에이전트의 추론 과정도 신뢰할 수 있고 추론 결과가 합법적인 입력에 기반한다는 것을 보장할 수 있습니다.
전반적으로 zk Prompt 솔루션은 금융 민감 정보가 포함되거나 명확한 행동 지침이 필요한 핵심 작업 시나리오에 특히 적합하며, 신뢰성을 보장하는 높은 수준의 보안을 제공합니다.
향상된 보안성
신뢰할 수 있는 AI 에이전트를 구축하는 경쟁에서 하드웨어 기반 격리 환경을 통해 데이터 프라이버시 보호와 실행 검증 가능성을 달성하는 TEE 솔루션이 널리 채택되고 있습니다. 그러나 TEE는 AI 에이전트 구축에 있어 여전히 일정한 한계가 있습니다.
실제로 TEE 솔루션은 일반적으로 Intel SGX, ARM TrustZone 등 하드웨어 공급업체가 제공하는 신뢰 환경 및 키 관리 서비스에 의존합니다. 이러한 중앙화된 신뢰 메커니즘으로 인해 시스템의 보안성이 특정 공급업체에 크게 의존하게 되어 집중화 위험이 발생합니다. 실제로 Intel SGX에서는 여러 차례 취약점이 발견되어 신뢰 기반이 직접적으로 위협받았습니다. 또한 TEE는 격리된 실행 환경을 제공하지만 데이터 프라이버시 보호 기능이 여전히 부족합니다. 예를 들어 데이터가 TEE 환경으로 전송되는 과정에서 도청 위험이 있으며 TEE 외부의 공격자도 상호 작용 인터페이스를 통해 민감한 정보를 획득할 수 있습니다. 게다가 TEE는 주로 사전 정의된 계산 작업을 대상으로 하므로 동적 조정 기능이 부족하여 다양한 작업과 복잡한 상황 맥락을 처리해야 하는 AI 에이전트의 요구를 충족하기 어렵습니다.
반면에 Zypher의 영지식 증명 솔루션은 중앙화된 실체에 의존하지 않는 분산 특성을 가지며, 그 보안성은 분산된 대규모 계산 네트워크 클러스터에 기반합니다. 이는 경량화 장점을 제공할 뿐만 아니라 확장성과 동적 유연성 면에서도 TEE보다 월등한 성능을 발휘하여 AI 에이전트의 다양한 응용 시나리오에 더 효과적으로 적응할 수 있습니다. ChatGPT나 현재 인기 급상승 중인 Deepseek과 같은 대규모 언어 모델에도 Zypher가 seamless하게 통합될 수 있습니다. 특히 Zypher 솔루션은 순수한 암호학 혁신을 핵심으로 하는 ZK 기반 설계로, 신뢰할 수 있는 AI 에이전트 솔루션 분야에서 독보적인 위치를 차지하고 있습니다.
전반적으로 AI 기술이 놀라운 속도로 발전하고 있지만 보안, 윤리, 실용성 등의 제한으로 인해 완전 자율 AI 에이전트의 대규모 보편화는 여전히 많은 과제를 안고 있습니다. 반면에 반자율 AI 에이전트는 자동화와 인간 감독의 균형을 이루어 향후 주류 방향이 될 것입니다. 이는 AI 에이전트가 대규모로 채택되기 전에 신뢰성과 프라이버시 측면에서 진전이 필요함을 의미하며, Zypher Network의 순수 ZK 암호학 솔루션이 이 과정을 가속화하고 AI 에이전트 분야의 다음 단계 발전을 위한 견고한 기반을 제공하고 있습니다.
AI 시대의 가장 중요한 암호학 기반 인프라인 Zypher Network가 "Make Agent Secure Again"을 실현하고 있습니다!
