LLM의 "블랙박스 특성"

ChatGPT, DeepSeek, Grok 등의 대형 언어 모델(LLM, Large Language Model)은 최근 가장 일반적인 AI 응용 사례가 되었습니다. LLM 자체에 초점을 맞추면, 이는 일반적으로 대규모 텍스트 데이터를 사용하여 심층 학습 기술로 훈련된 자연어 처리 모델로, 강력한 언어 이해 및 생성 능력을 갖추고 있으며 텍스트 창작, 번역, 대화 상호 작용, 질문 답변 등의 시나리오에 광범위하게 적용됩니다. LLM은 C 엔드 사용자에게 직접 서비스를 제공할 수 있을 뿐만 아니라, 대부분의 LLM 서비스 제공업체(예: OpenAI)도 API 인터페이스를 통해 모델 기능을 외부에 개방하여 더 광범위한 시나리오에서 활용될 수 있게 합니다. 예를 들어 IoT 장치, 스마트 자동차 시스템 등에 LLM API를 통합하여 더 지능적인 상호 작용 경험을 제공하고 사용자에게 더 효율적이고 자연스러운 AI 구동 서비스를 제공할 수 있습니다.

사실 일반적으로 LLM 모델 자체는 높은 복잡성, 상업적 폐쇄성, 데이터 비가시성 및 심층 학습 모델의 고유한 불투명성 등의 일련의 특성을 가지고 있어, LLM 서비스 제공업체가 사용자에게 API 서비스를 제공할 때 내부 모델의 작동 논리는 일반적으로 볼 수 없습니다. 전체 모델은 외부에 완전한 블랙박스 시스템으로 나타나며, 사용자는 API를 통해 요청을 보내고 응답을 받을 수 있을 뿐 내부의 구체적인 계산 과정, 매개변수 가중치 또는 훈련 메커니즘에 직접 액세스하거나 이해할 수 없습니다.

이러한 일반적인 "블랙박스 특성"으로 인해 사용자는 대형 모델 또는 API 통합 시 두 가지 핵심 문제에 직면할 수 있습니다:

하나는 일관성 문제입니다.

시스템 프롬프트는 개발자가 제공하며 모델 행동에 직접 영향을 미칩니다. 예를 들어 모델이 특정 프롬프트에 편향될 수 있어 최종 추론 결과에 영향을 줄 수 있습니다.

마찬가지로 사용자가 API를 호출할 때마다 실제 사용된 시스템 프롬프트가 변경되지 않았는지 확인할 수 없어 모델 행동이 예상과 다를 수 있습니다.

다른 하나는 프라이버시 문제입니다.

시스템 프롬프트에는 가격 전략, 리스크 관리 규칙, 내부 프로세스 등 기업의 핵심 경쟁력과 관련된 고도로 민감한 비즈니스 정보가 포함되어 있어 개발자들은 공개하기를 꺼려합니다.

현재 TLS(Transport Layer Security) 솔루션은 전송 중 데이터 암호화를 보장하여 데이터 도청 및 변조를 방지하지만, TLS로는 서버에서 실제 실행되는 시스템 프롬프트가 변경되지 않았음을 증명할 수 없습니다. 즉 API 통신이 안전하더라도 사용자는 LLM에서 사용되는 프롬프트가 개발자가 약속한 것과 일치하는지 확인할 수 없습니다. 개발자가 제3자 또는 협력 업체에게 자신의 AI 서비스가 신뢰할 수 있음을 증명하려면 일반적으로 프롬프트 무결성을 보장할 수 있는 메커니즘이 필요하지만 기존 TLS로는 이를 제공할 수 없어 대부분의 LLM이 프롬프트 신뢰성을 보장할 수 없습니다.

따라서 금융, 의료 등 규정 준수, 프라이버시 및 보안 요구사항이 높은 분야에서 LLM의 적용에는 일정한 한계가 있습니다. Zypher Network가 zkTLS 기술을 핵심으로 하는 zkPrompt 솔루션을 출시하면서 이러한 장벽을 극복할 수 있을 것으로 기대됩니다. 이 솔루션은 ZK 기술을 통해 시스템 프롬프트의 프라이버시를 효과적으로 보호하고 각 API 호출에서 프롬프트의 일관성을 검증할 수 있어 LLM을 더 많은 산업 분야에 광범위하게 적용하는 데 핵심적인 역할을 할 것입니다.

Zypher Network의 zkPrompt 솔루션

Zypher Network는 ZK 기술을 핵심으로 하는 코프로세서 시설로, 모든 ZK 증명이 필요한 응용 프로그램 및 시설에 ZK 서비스를 제공하는 것을 목표로 합니다. Zypher Network 시스템은 분산 컴퓨팅 노드로 구성된 오프체인 컴퓨팅 네트워크와 온체인 엔진 Zytron으로 구성됩니다. Zypher 네트워크에 ZK 계산 작업이 발생하면 시스템은 계산 작업을 마이너에게 위임하고 ZKP를 생성합니다. 이 ZKP는 온체인에서 검증되어 데이터, 거래, 행동 등의 신뢰성과 진실성을 보장합니다. 동시에 분산 컴퓨팅 네트워크는 시스템 계산 비용을 크게 낮출 뿐만 아니라 네트워크에 탁월한 확장 가능한 계산 능력을 부여합니다.

이를 기반으로 Zypher Network는 LLM 서비스를 위한 zkPrompt 솔루션을 출시하여 AI 분야의 중요한 신뢰 및 프라이버시 기반 인프라로 확장했습니다. zkPrompt 솔루션의 핵심은 독특한 zkTLS 기술로, 기존 TLS 프로토콜과 ZK 기술을 결합하여 사용자가 민감한 데이터를 노출하지 않고도 데이터의 진실성을 검증할 수 있습니다. 이 혁신은 기존 TLS의 데이터 증명 기능 부족을 효과적으로 보완하여 프라이버시를 보장하는 동시에 AI 실행을 위한 더 높은 신뢰성을 제공합니다.

zkTLS, ZK + TLS

TLS(Transport Layer Security)는 널리 사용되는 암호화 프로토콜로, 컴퓨터 네트워크의 데이터 전송 보안을 보장하는 것을 목적으로 합니다. 전송 중 데이터를 암호화하고 검증함으로써 TLS는 데이터가 전송 중 도난, 변조 또는 위조되는 것을 효과적으로 방지할 수 있으며, 일반적으로 웹 브라우징, 이메일, 인스턴트 메시징 등 다양한 인터넷 통신 시나리오에 적용되어 통신 당사자의 프라이버시와 데이터 무결성을 보장합니다.

TLS 프로토콜의 기본 원리는 대칭 암호화와 비대칭 암호화를 결합한 것입니다: 통신 당사자는 먼저 비대칭 암호화를 통해 상호 인증을 수행하고 암호화 키를 교환한 다음, 대칭 암호화를 사용하여 데이터를 암호화함으로써 암호화 효율을 높입니다. 동시에 TLS는 메시지 인증 코드(MAC)를 사용하여 데이터 무결성을 검증하고 전송 중 데이터가 변경되지 않았음을 확인합니다.

LLM 적용에서 클라이언트와 서버 간 API 호출 프로세스는 일반적으로 TLS 암호화 프로토콜을 기반으로 하여 LLM의 API 서비스가 데이터 전송 중 보안성을 보장하고 데이터 도난 또는 변조를 방지함으로써 모델이 사용자 요청을 처리할 때의 프라이버시와 무결성을 확보할 수 있습니다. 이를 통해 LLM이 민감한 정보를 처리할 때 기본적인 보안 보호 기능을 갖출 수 있습니다. 물론 앞서 언급한 한계도 있습니다.

암호학 솔루션과 TLS 암호화 프로토콜을 결합하면 LLM 모델이 직면한 일관성 및 프라이버시 문제를 개선할 수 있습니다. 사실 영지식 증명은 자체적으로 좋은 솔루션이 될 수 있는데, 이를 통해 한 당사자(증명자)는 다른 당사자(검증자)에게 어떤 주장이 사실임을 증명할 수 있지만 추가 정보는 공개하지 않습니다. TLS 프로토콜은 데이터 전송의 무결성과 기밀성을 보장할 수 있지만 제3자에게 이러한 데이터의 무결성과 진실성을 증명하기는 어렵습니다. 따라서 ZK 솔루션을 활용하면 프라이버시를 보호하면서도 데이터의 무결성과 진실성을 제3자에게 증명할 수 있습니다.

물론 이를 실현하기 위해서는 일반적으로 신뢰할 수 있는 제3자(일반적으로 Verifier 또는 Notary라고 함)를 도입해야 합니다. 이 신뢰할 수 있는 제3자는 원래 연결의 보안성을 손상시키지 않고도 상호 작용을 검증할 수 있습니다. 현재 기술 경로에 따라 zkTLS는 주로 다음 세 가지 모드로 구현됩니다:

• TEE 기반 모드: TLS 프로토콜은 TEE 내에서 안전하게 실행되며 TEE는 세션 내용 증명을 제공합니다.
• MPC 기반 모드: 일반적으로 2-MPC 모델을 사용하며, Verifier를 도입합니다. 이 모드에서 prover와 verifier는 MPC를 통해 세션 키를 공동으로 생성하며, 이 세션 키는 두 부분으로 나뉘어 각자 보유하게 됩니다. 마지막으로 prover는 일부 정보를 선택적으로 verifier에게 공개할 수 있습니다.
• 프록시 기반 모드: 프록시(Verifier)가 클라이언트와 서버 사이의 중개자 역할을

  유니스왑(UNI)의 성능과 비용 우위 덕분에 Zypher Network는 zkPrompt에서 프록시 모드 기반의 zkTLS 구현을 사용했습니다. 다른 모드와 비교할 때 프록시 모드는 다중 당사자 계산 프로토콜로 인한 추가 계산 오버헤드를 피할 뿐만 아니라 TEE 관련 하드웨어 비용도 회피할 수 있습니다.

  zkPrompt는 어떻게 작동합니까?

  zkPrompt 솔루션 자체에 초점을 맞추면, 프록시 모드에서 검증자는 클라이언트와 대규모 모델 서버 사이의 중개자 역할을 하며, TLS 트래픽을 전달하고 양측이 교환한 모든 암호문 데이터를 기록합니다. 세션이 종료되면 오프체인 계산 네트워크의 지원을 받아 클라이언트는 기록된 암호문을 기반으로 ZKP를 생성하여 어떤 제3자도 시스템 프롬프트의 일관성을 검증할 수 있게 하되 프롬프트 내용이나 기타 민감한 정보는 노출되지 않습니다.

  

  어떤 상호 작용을 시작하기 전에 Client는 시스템 프롬프트에 대한 약정을 수행합니다. 즉, 시스템 프롬프트가 암호화를 통해 처리되고 약정 값이 생성되며, 이 약정 값은 블록체인에 저장되어 이후 작업에서 프롬프트가 변경되지 않도록 보장합니다. 이 약정 값은 시스템 프롬프트의 일관성을 증명하는 수단이 됩니다.

  Client가 Proxy를 통해 LLM 대규모 모델에 요청을 보낼 때, Proxy는 클라이언트와 서버 사이의 중개자 역할을 합니다. Proxy는 TLS 트래픽을 전달할 뿐만 아니라 양측이 교환한 모든 암호화된 데이터 패킷을 기록합니다. 이 과정에서 Proxy는 요청 약정 값을 생성하고 이를 체인에 기록하여 각 요청 데이터 패킷의 무결성과 일관성을 보장합니다. 이 과정의 목적은 요청 데이터와 시스템 프롬프트가 변경되지 않도록 하는 것입니다.

  LLM 서비스가 응답을 반환하면 Proxy는 응답 데이터 패킷을 동일하게 기록하고 응답 약정 값을 생성합니다. 이러한 응답 약정 값도 체인에 기록되어 응답 내용이 전송 과정에서 변경되지 않았음을 보장합니다. 이를 통해 시스템은 응답이 변경되지 않았음을 검증할 수 있어 데이터의 무결성과 신뢰성이 향상됩니다.

  세션이 종료된 후 Client는 모든 암호화된 기록을 기반으로 zero-knowledge proof(ZKP)를 생성합니다. 이 ZKP를 통해 어떤 제3자도 TLS 세션에서 시스템 프롬프트의 일관성을 검증할 수 있지만 프롬프트의 구체적인 내용이나 기타 민감한 정보는 노출되지 않습니다. 이러한 방식으로 프롬프트의 프라이버시가 보호되면서도 전체 통신 과정에서 프롬프트가 변경되지 않았음이 보장됩니다.

  생성된 zero-knowledge proof는 이후 체인 상의 스마트 계약에 제출되어 Zytron 엔진에 의해 검증됩니다. 이 검증 과정을 통해 프롬프트 내용이 변경되지 않았고 LLM 모델이 초기 설정대로 실행되었음을 확인할 수 있습니다. 프롬프트 내용이 변경되거나 실행 행동이 초기 설정과 일치하지 않으면 검증이 실패하여 비준수 또는 잠재적 위험을 신속하게 식별할 수 있습니다.

  Zypher의 Zytron 엔진은 Prompt의 신뢰성을 강력하게 보장하여 LLM 모델이 항상 예상대로 작동하고 외부 간섭이나 변경으로 인한 위험을 방지합니다. 이 검증 메커니즘은 시스템의 신뢰성을 높일 뿐만 아니라 zkPrompt 솔루션에 중요한 보안 보호를 제공하여 규제 준수가 필요한 분야에서의 적용을 더욱 견고하게 합니다.

  특징적으로 zkPrompt는 다음을 보장합니다:

  • 데이터 프라이버시: 사용자는 시스템 프롬프트의 구체적인 내용을 알지 못해도 정확성을 검증할 수 있어 프롬프트의 민감성이 보호됩니다.
  • 신뢰성과 투명성: zero-knowledge proof를 통해 사용자는 AI의 행동이 악의적으로 변경되지 않았음을 신뢰할 수 있습니다.
  • 분산 검증: 어떤 사용자나 제3자도 중앙화된 주체에 의존하지 않고 프롬프트와 모델의 일관성을 확인할 수 있습니다.

  zkPrompt를 기반으로 Proof of Inference로 확장하여 LLM의 추론 과정 자체의 신뢰성과 합법적인 입력을 기반으로 한 추론 결과를 보장할 수 있습니다.

  

  주목할 점은 Zypher Network의 zkPrompt가 사용하기 쉬운 SDK 형태로 제공된다는 것입니다. 핵심은 강력한 암호화, Pedersen 약정, zkSnarks(Plonk) 등의 암호 원시 기능으로 구성된 선진적인 암호화 체계에 있습니다. Zypher는 다양한 LLM 모델의 특성에 맞춰 유연하게 다른 zero-knowledge 솔루션을 적용하여 각 LLM에 최적의 효과를 제공합니다.

  zkInference

  zkPrompt 외에도 Zypher Network는 zero-knowledge proof 기반의 혁신적인 zkInference 프레임워크를 제안했습니다. 이 프레임워크는 zero-knowledge proof 알고리즘을 활용하여 AI 에이전트가 사전 정의된 규칙이나 AI 모델 작업을 엄격히 준수하도록 보장합니다. 따라서 AI 에이전트의 행동을 검증할 수 있지만 기저 모델이나 데이터는 노출되지 않습니다. 이를 통해 zkInference는 다수의 AI 에이전트 간 공모와 악의적 행동을 효과적으로 방지하여 Web3 게임, AI 에이전트 등 다양한 시나리오의 공정성과 안전성을 보장합니다.

  zkInference 프레임워크는 경량화되고 기본적이며 확정적인 작업을 수행해야 하는 모델, 예를 들어 Web3 게임의 AI 봇 등에 더 적합합니다.

  

  전반적으로 zkInference 프레임워크의 특징은 다음과 같습니다:

  • 검증 가능성: zero-knowledge proof 기술을 활용하여 AI 에이전트의 행동을 검증하되 기저 모델이나 데이터는 노출되지 않습니다.
  • 공모 방지: 다른 AI 에이전트 간의 공모를 효과적으로 방지하여 공정한 게임 경험을 보장합니다.
  • 무한 계산 능력: 검증 가능한 AI 에이전트에 무한한 계산 자원을 제공하는 탈중앙화된 마이닝 풀 시장을 제공합니다.

  Zypher Network 신뢰 프레임워크 사례

  Alpha Girl

  Alpha Girl은 Zypher의 Proof of Prompt 프레임워크를 기반으로 한 최초의 신뢰할 수 있는 다중 모달 AI 에이전트로, 실시간 시장 데이터를 활용하여 비트코인 시장 행동을 예측하고 지능형 예측 및 의사 결정을 수행합니다. 선도적인 AI 솔루션인 Alpha Girl은 고급 알고리즘과 데이터 분석을 활용하여 사용자가 시장 동향을 더 잘 이해하고 예측할 수 있도록 지원합니다. 이 AI 에이전트는 유명 Prompt Engineer 팀이 3개월간 심도 있게 개발했으며, 현재 비트코인 가격 예측을 지원하고 있습니다. 실험 결과에 따르면 Alpha Girl의 추세 예측 정확도는 72%에 달하며, 단순 홀딩 전략 대비 25%의 초과 수익을 제공합니다.

  

  Zypher Network의 zkPrompt 솔루션을 통합하여 Alpha Girl의 AI 에이전트 모델은 기저 데이터를 공개하지 않고도 사용된 시스템 프롬프트의 일관성과 정확성을 보장할 수 있습니다. 이를 통해 예측 결과의 투명성과 신뢰성이 확보되어 예측 결과와 기대치의 높은 부합도를 보장합니다.

  

  신뢰할 수 있는 AI 에이전트의 초기 사례인 Alpha Girl은 Zypher Network가 제공하는 기술을 통해 예측 과정의 투명성과 검증 가능성을 보여줍니다. Zypher Network는 암호화폐 시장의 예측 도구에 대한 보장

  在该游戏引擎中，开发人员能够使用诸如 Cocos Creator、Unity 、Unreal 等原生游戏引擎来低门槛创建链上游戏。在这些工具的支持下，游戏的核心状态管理得以实现，通过与去中心化数据管理层的接口，确保游戏状态的实时更新和验证。游戏状态管理包括输入的数据、生成的内容以及测试结果等，所有这些内容都会经过生成内容代理、游戏测试代理等多个 AI Agent 的处理，以优化游戏体验并确保数据的准确性。

  

  游戏的数据输入、生成的内容以及测试反馈将被传送到去中心化的游戏数据管理和存储层。在这一层中，数据将被用于支持游戏逻辑的执行，并通过与 zkPrompt 集成的 ZK Game SDK 进行零知识证明验证，以确保数据的不可篡改性与真实性。同时，基于去中心化证明协议，游戏的数据通过加密矿池处理和提交，由区块链网络进行验证，确保所有游戏操作都可以公开透明且安全地记录。

  该技术栈进一步结合了优化资源层，用于提供计算和存储资源的优化，使得所有参与的AI代理（如内容生成代理、游戏测试代理和数据洞察代理）都能高效协作。最终，这一系统不仅提供了游戏开发所需的高效计算能力，还通过去中心化的验证机制确保了每个游戏操作的透明度和公正性，避免了任何篡改或不公正的行为。

  此外，代理玩家还可以在 '유동성 공급자(LP)' 结构下进行 '스테이킹'，并与其他 '스테이킹' 者共享游戏收益即游戏 '채굴'。这不仅使游戏支持跨平台运行（包括手机和电脑端），还通过 LP 结构 的收益共享机制，为玩家提供了更多的 '수익' 机会，通过与 LP 的合作，玩家能够进一步增加自己的 '수익'。目前，基于该 Game Engine 组件推出的游戏包括 Protect T-RUMP、Zombie Survival 以及 Big Whale 等数十款游戏。

  

  现阶段，Zypher 的 zkPrompt 方案也正在向更多领域尝试探索，以进一步通过隐私、可信的方式推动 LLM 以及 AI Agent 等在更多领域的 '규모성' 采用。

  总体而言，AI 领域仍处于发展初期，尽管 LLM 和 AI Agent 等应用已取得初步进展，但仍处于探索阶段，面临诸多 '리스크'。黑盒特性所导致的缺乏 '可信성' 和 '可验证性'，正在成为制约其进一步发展的主要 '瓶颈' 之一。Zypher Network 提出的系列方案正逐步成为破解这一困局的关键，其不仅为 LLM 和 AI Agent 等采用提供了一个 '可信' 的 '프레임', 也为其在更广泛 '산업' 中的应用铺平了道路。该方案有望显著提升 AI 系统的 '可靠성' 和 '투명성', 同时也将为 AI 领域的广泛应用奠定坚实的 '신뢰' 基础。