마누스(Manus)는 GAIA 벤치마크 테스트에서 최첨단(SOTA) 성과를 거두었으며, 이는 Open AI의 동급 대형 모델을 능가하는 성능을 보여줍니다. 즉, 마누스는 복잡한 과제, 예를 들어 국제 비즈니스 협상, 계약 조건 분해, 전략 예측, 솔루션 생성, 법무 및 재무 팀 조정 등을 독립적으로 수행할 수 있습니다. 기존 시스템과 비교할 때 마누스의 장점은 동적 목표 분해 능력, 멀티모달 추론 능력, 기억 강화 학습 능력입니다. 마누스는 대형 과제를 수백 개의 실행 가능한 하위 과제로 분해할 수 있으며, 다양한 유형의 데이터를 처리하고 강화 학습을 통해 의사 결정 효율을 높이고 오류율을 낮출 수 있습니다.
기술 발전의 놀라움에도 불구하고, 마누스는 AI 진화 경로에 대한 업계의 분열을 다시 한번 불러일으켰습니다: 미래에는 AGI(범용 인공지능)가 지배할 것인가, 아니면 MAS(다중 에이전트 시스템)이 주도할 것인가?
이는 마누스의 설계 이념에서 비롯됩니다. 두 가지 가능성이 내포되어 있습니다:
하나는 AGI 경로입니다. 단일 지능 수준을 지속적으로 높여 인간의 종합적 의사 결정 능력에 접근하는 것입니다.
다른 하나는 MAS 경로입니다. 수천 개의 수직 분야 에이전트를 협력하여 지휘하는 슈퍼 조정자로서의 역할입니다.
표면적으로는 서로 다른 경로의 분화를 논의하고 있지만, 실제로는 AI 발전의 근본적인 모순을 다루고 있습니다: 효율성과 안전성을 어떻게 균형 잡아야 할까? 단일 지능이 AGI에 가까워질수록 의사 결정 블랙박스화 위험이 높아지며, 다중 에이전트 협력은 통신 지연으로 인해 핵심 의사 결정 시기를 놓칠 수 있습니다.
마누스의 진화는 AI 발전의 고유한 위험을 증폭시켰습니다. 예를 들어 데이터 프라이버시 블랙홀: 의료 분야에서 마누스는 실시간으로 환자 유전체 데이터에 액세스해야 하며, 금융 협상 시 기업의 미공개 재무 정보에 접근할 수 있습니다. 또한 알고리즘 편향 함정, 채용 협상에서 마누스가 특정 인종 지원자에게 평균 이하의 급여를 제안하거나, 새로운 산업 조항의 오판률이 50%에 달할 수 있습니다. 그리고 대항 공격 취약점, 해커가 특정 음성 주파수를 삽입하여 마누스가 협상에서 상대방 제안 범위를 오판하게 만들 수 있습니다.
우리는 AI 시스템의 끔찍한 아킬레스건을 직면해야 합니다: 지능이 높을수록 공격 표면도 넓어집니다.
그러나 보안은 web3에서 계속 언급되는 단어이며, V 신의 '불가능 삼각형(트릴레마)'(블록체인 네트워크가 동시에 안전성, 탈중앙화, 확장성을 달성할 수 없다는 프레임워크) 하에서 다양한 암호화 방식이 파생되었습니다:
- 제로 트러스트 보안 모델(Zero Trust Security Model): 이 모델의 핵심 개념은 '어느 누구도 신뢰하지 않고 항상 검증한다'는 것입니다. 즉, 내부 네트워크에 있는지 여부와 관계없이 모든 액세스 요청에 대해 엄격한 인증과 권한 부여를 수행합니다.
- 탈중앙화 ID(Decentralized Identity, DID): DID는 중앙 등록부 없이도 검증 가능하고 지속 가능한 방식으로 개체를 식별할 수 있는 식별자 표준입니다. 이는 새로운 탈중앙화 디지털 ID 모델을 실현하며, 자기 주권 ID와 관련이 있어 Web3의 중요한 구성 요소입니다.
- 완전 동형 암호화(Fully Homomorphic Encryption, FHE): FHE는 데이터를 암호화한 상태에서도 임의의 계산을 수행할 수 있는 고급 암호화 기술입니다. 이는 원본 데이터를 노출하지 않고도 제3자가 암호문을 처리할 수 있음을 의미하며, 클라우드 컴퓨팅, 데이터 아웃소싱 등 원본 데이터를 보호해야 하는 시나리오에 중요한 의미를 갖습니다.
제로 트러스트 보안 모델과 DID는 여러 차례의 불황 속에서 일정 수의 프로젝트가 진행되어 왔으며, 어느 정도 성과를 거두기도 했지만 암호화 물결 속에 묻혀버리기도 했습니다. 가장 최신의 암호화 방식인 완전 동형 암호화(FHE)는 AI 시대의 보안 문제를 해결하는 강력한 무기가 될 수 있습니다.
어떻게 해결할 수 있을까요?
첫째, 데이터 차원에서 사용자가 입력한 모든 정보(생체 정보, 음성 톤 등)는 암호화된 상태로 처리되며, 마누스 자체도 원본 데이터를 해독할 수 없습니다. 예를 들어 의료 진단 사례에서 환자 유전체 데이터는 전체 분석 과정에서 암호문 형태로 참여하여 생물학적 정보 유출을 방지합니다.
알고리즘 차원에서는 FHE를 통한 '암호화된 모델 학습'으로 개발자도 AI의 의사 결정 경로를 엿볼 수 없습니다.
협업 차원에서는 다중 에이전트 간 통신에 문턱 암호화를 사용하여 단일 노드가 침해되더라도 전체 데이터가 유출되지 않습니다. 심지어 공급망 공격 演習에서도 공격자가 여러 에이전트를 침투했다고 해도 전체 비즈니스 뷰를 얻을 수 없습니다.
기술적 제한으로 인해 web3 보안이 대부분의 사용자와 직접적인 관련은 없어 보이지만, 간접적인 이해관계는 매우 깊습니다. 이 어두운 숲 속에서 무장하지 않으면 '피해자'의 신세를 면할 수 없을 것입니다.
- uPort는 2017년 이더리움 메인넷에 출시된 최초의 탈중앙화 ID(DID) 프로젝트일 수 있습니다.
- 제로 트러스트 보안 모델 측면에서 NKN은 2019년 메인넷을 출시했습니다.
- Mind Network는 메인넷을 최초로 출시한 FHE 프로젝트이며, ZAMA, Google, DeepSeek 등과의 협력을 선도했습니다.
uPort와 NKN은 필자도 들어본 적 없는 프로젝트로, 보안 프로젝트가 투기자들의 관심을 받지 못하는 것 같습니다. Mind Network가 이 저주를 피해 보안 분야의 선두주자가 될 수 있을지 지켜봐야 할 것 같습니다.
미래는 이미 왔습니다. AI가 인간 지능에 가까워질수록 비인간적인 방어 체계가 더 필요합니다. FHE의 가치는 현재 문제를 해결하는 데 그치지 않고, 강 AI 시대를 위한 기반을 마련하는 데 있습니다. AGI로 향하는 험난한 길에서 FHE는 선택이 아닌 생존의 필수품입니다.
