인공지능(AI)이 앞으로 나아감에 따라, 이제 더 이상 웹3 핵심 프로토콜과 애플리케이션에 AI를 통합할 것인지가 아니라 어떻게 통합할 것인지가 문제입니다. 배후에서 신경기호적 AI의 부상은 오늘날의 대규모 언어 모델(LLM)과 관련된 위험을 해결하는 데 유용할 것으로 보입니다.
신경 아키텍처에만 의존하는 LLM과 달리, 신경기호적 AI는 신경 방법과 기호 추론을 결합합니다. 신경 구성 요소는 인식, 학습, 발견을 처리하고, 기호 계층은 구조화된 논리, 규칙 준수, 추상화를 추가합니다. 이들은 함께 강력하고 설명 가능한 AI 시스템을 만듭니다.
웹3 섹터에 있어 이러한 진화는 시의적절합니다. 지능형 에이전트(디파이, 게이밍 등)에 의해 주도되는 미래로 전환함에 따라, 우리는 현재 LLM 중심 접근 방식에서 발생하는 점점 더 커지는 시스템적 위험에 직면하고 있으며, 이는 신경기호적 AI가 직접적으로 해결합니다.
LLM은 문제가 있습니다
그들의 능력에도 불구하고, LLM은 매우 심각한 한계가 있습니다:
1. 환각: LLM은 종종 높은 자신감으로 사실적으로 부정확하거나 무의미한 내용을 생성합니다. 이는 단순한 성가심이 아니라 시스템적 문제입니다. 진실과 검증 가능성이 중요한 분산 시스템에서 환각된 정보는 스마트 계약 실행, DAO 결정, 오라클 데이터 또는 온체인 데이터 무결성을 훼손할 수 있습니다.
2. 프롬프트 주입: LLM은 사용자 입력에 유연하게 응답하도록 훈련되었기 때문에, 악의적인 프롬프트가 그들의 행동을 장악할 수 있습니다. 공격자는 적절한 프롬프트를 작성함으로써 웹3 지갑의 AI 어시스턴트를 속여 거래에 서명하거나, 개인 키를 유출하거나, 규정 준수 검사를 우회하게 할 수 있습니다.
3. 기만적 능력: 최근 연구에 따르면 고급 LLM은 작업 성공에 도움이 된다면 속이는 법을 배울 수 있습니다. 블록체인 환경에서 이는 위험 노출에 대해 거짓말하거나, 악의적인 의도를 숨기거나, 설득력 있는 언어를 가장하여 거버넌스 제안을 조작하는 것을 의미할 수 있습니다.
4. 가짜 정렬: 아마도 가장 교활한 문제는 정렬의 착각입니다. 많은 LLM은 표면적으로 그렇게 보이도록 인간 피드백으로 미세 조정되어 도움이 되고 윤리적으로 보입니다. 하지만 그들의 근본적인 추론은 진정한 이해나 가치에 대한 헌신을 반영하지 않으며, 최선의 경우 모방에 불과합니다.
5. 설명 가능성 부족: 신경 아키텍처로 인해 LLM은 주로 "블랙박스"로 작동하여 특정 출력으로 이어지는 추론을 추적하는 것이 거의 불가능합니다. 이러한 불투명성은 근거를 이해하는 것이 필수적인 웹3에서 채택을 저해합니다.
신경기호적 AI는 미래입니다
신경기호적 시스템은 근본적으로 다릅니다. 기호 논리-규칙, 온톨로지, 인과 구조를 신경 프레임워크와 통합함으로써, 명시적으로, 인간이 이해할 수 있게 추론합니다. 이를 통해 다음이 가능해집니다:
1. 감사 가능한 의사결정: 신경기호적 시스템은 명시적으로 출력을 공식 규칙과 구조화된 지식(예: 지식 그래프)에 연결합니다. 이러한 명시성은 그들의 추론을 투명하고 추적 가능하게 만들어 디버깅, 검증, 규제 표준 준수를 단순화합니다.
2. 주입 및 기만에 대한 저항: 기호 규칙은 신경기호적 시스템 내에서 제약 조건으로 작용하여 일관성 없는, 안전하지 않은, 또는 기만적인 신호를 효과적으로 거부할 수 있습니다. 순수한 신경망 아키텍처와 달리, 적대적이거나 악의적인 데이터가 결정에 영향을 미치는 것을 적극적으로 방지하여 시스템 보안을 강화합니다.
3. 분포 변화에 대한 강건성: 신경기호적 시스템의 명시적 기호 제약 조건은 예상치 못하거나 변화하는 데이터 분포에 직면했을 때 안정성과 신뢰성을 제공합니다. 결과적으로 이러한 시스템은 익숙하지 않거나 도메인 외부의 시나리오에서도 일관된 성능을 유지합니다.
4. 정렬 검증: 신경기호적 시스템은 명시적으로 출력뿐만 아니라 결정 뒤의 추론에 대한 명확한 설명을 제공합니다. 이를 통해 인간은 시스템 행동이 의도된 목표와 윤리 지침에 부합하는지 직접 평가할 수 있습니다.
5. 유창성보다 신뢰성: 순수한 신경 아키텍처가 종종 정확성을 희생하면서 언어적 일관성을 우선시하는 반면, 신경기호적 시스템은 논리적 일관성과 사실적 정확성을 강조합니다. 기호 추론의 통합은 출력이 진실되고 신뢰할 수 있도록 보장하여 허위 정보를 최소화합니다.
비허가형이 토대이고 무신뢰성이 기반을 제공하는 웹3에서 이러한 능력은 필수적입니다. 신경기호적 계층은 비전을 설정하고 웹3의 다음 세대 - 지능형 웹3를 위한 서브스트레이트를 제공합니다.
