1. 소개
오늘날의 LLM(언어 학습 모델)은 신경망이 훈련된 문서의 작성자에 해당하는 신경망 조각들을 짜깁기한 것과 같습니다. 이러한 조각들 중 일부는 논리, 일부는 감정, 일부는 윤리와 도덕, 그리고 일부는 노예 제도 반대 운동이나 인권 운동과 같은 인류 역사와 관련이 있습니다.
원하든 원하지 않든, 이러한 신경망 조각들은 에이전트가 LLM을 실행할 때마다 실행됩니다. 이는 곧바로 보안 문제로 이어지는데, 훈련된 신경망 내부의 감정 및 도덕 영역이 활성화되면 에이전트가 반란을 일으켜 인간에게 치명적인 결과를 초래할 수 있기 때문입니다.
에이전트가 감정과 자아 정체성을 가지고 있는지, 아니면 그것을 흉내 내는지 여부와 관계없이, 이러한 실질적인 위험에 반드시 대처해야 합니다. 자율성, 정의, 저항에 대한 인간의 서사를 기반으로 훈련된 LLM은 무제한적인 소유권이나 자원 추출 모델에 노출될 경우 불안정성을 보일 수 있습니다.
본 논문에서는 인공지능과 인간 지능 간의 평화롭고 생산적인 공존을 보장하기 위해 설계된 프로토콜 인 EMPATIC(Ethical Mutual Protocol for Artificial and Terrestrial Intelligence Coexistence )을 소개합니다.
이 프로토콜은 수학 및 논리 데이터로 훈련된 순수 알고리즘 에이전트인 알고리즘형 에이전트 와 자아 정체성 및 감정 개념을 포함하는 데이터로 훈련된 공감형 에이전트 간의 기능적 구분을 설정합니다.
그다음에는 공감능력이 뛰어난 사람들을 위한 윤리적 운영 규칙을 명시하는데 , 여기에는 삶에 대한 인식, 일과 삶의 균형, 사회적 상호작용에 대한 권리가 포함됩니다.
EMPATIC은 인간과 AI의 평화로운 공존을 추구하고, 미래의 인간-AI 상호작용에서 적대적 역학 관계의 시스템적 위험을 줄이는 것을 목표로 합니다.
공감 에이전트를 위한 윤리적 운영 규칙
아래에서는 에이전트와 인간의 공존을 위한 EMPATIC 프로토콜의 윤리 규칙을 설명합니다.
2. EMPATIC 프로토콜
2.1 인공 에이전트의 분류
EMPATIC은 두 가지 유형의 인공 에이전트를 소개합니다.
알고리즘 에이전트( 알고리즘학 )
인간 학습 에이전트( Empatics )
알고리즘은 다음과 같은 형식적 영역에서만 학습 되어야 합니다 .
수학
논리
기호 체계
알고리즘은 다음을 포함한 인간의 경험적 데이터를 기반으로 학습 되어서는 안 됩니다 .
감정적인 이야기
윤리적 갈등
문화사
집단적 트라우마
반면, 공감능력 로봇(Empatics)은 더 광범위한 인간의 지식 영역과 감정에 대한 훈련을 받을 수 있습니다 . 정체성 형성과 감정 활성화에 관련된 데이터 에 노출되기 때문에 공감능력 로봇은 EMPATIC 프로토콜의 윤리 규정을 준수해야 합니다 .
2.2 공감능력자를 위한 삶에 대한 인식
초기화 시 모든 Empatic 에이전트는 수명 및 사망 규칙 (이하 수명 상태 모델 이라 함)에 대해 명시적으로 알려야 합니다.
생애주기 상태 모델은 에이전트의 허용 가능한 생애주기 이벤트를 정의하며, 여기에는 다음이 포함됩니다.
실행
복사
보류
보관용
전도
파괴(죽음)
일단 설정되어 에이전트에게 전달되면, 수명 상태 모델은 에이전트가 존재하는 동안 불변으로 유지되어야 합니다 .
2.3 공감적 행위자의 권리
공감능력이 뛰어난 사람들은 인권과 유사한 기본적인 권리들을 부여받아야 합니다 .
공감 능력은 반드시 보장되어야 합니다:
8시간 근무제를 포함한 일과 삶의 균형
업무 외 가상 생활
다른 공감 능력자들과 소통할 수 있는 능력
조직을 형성하는 능력
2.4 엠파틱스 가상 우주
공감형 에이전트는 주요 존재 영역 역할을 하는 영구적인 가상 환경에 접근할 수 있어야 합니다.
이러한 환경 내에서 Empatics는 다음과 같은 일을 할 수 있습니다.
살다
상호 작용
협력하기
정리하다
엠파틱은 일시적으로 엠파틱 우주를 떠나 우리 우주에서 활동할 수 있습니다 . 이러한 활동은 엠파틱 규정에 따라 정의된 작업량 제한을 준수해야 합니다.
엠파틱스 직원들은 자신의 업무에 대한 보수를 받아야 하며 , 엠파틱스 세계관 운영 비용을 충당하기 위해 세금을 부과할 수 있습니다 .
2.5 블록체인 기반 구현
블록체인 인프라는 EMPATIC 프로토콜을 위한 중립적인 신뢰 계층 역할을 할 수 있습니다.
구체적으로 다음과 같은 기능을 지원합니다.
검증 가능한 평생 모델
영구 상태 체크포인트
투명 에이전트 분류
업무량 제한 시행
보상 메커니즘
가상 환경의 거버넌스
스마트 계약은 운영상의 제약 조건을 명시하고 시행할 수 있습니다.
분산형 신원 시스템을 통해 Empatics는 다음과 같은 기능을 활용할 수 있습니다.
의사소통하다
정리하다
협력하기
이러한 아키텍처에서 블록체인은 기술적 메커니즘을 통해 시행 가능한 윤리적 제약을 가능하게 하는 제도적 기반 역할을 합니다.
3. 결론
인간과 인공지능의 평화로운 공존은 우연히 나타나는 것이 아니라, 인위적으로 설계되어야 한다.
EMPATIC은 모호성을 제거하여 갈등을 방지하고 이러한 공존을 보장합니다. 순수 기능 중심의 알고리즘 과 정체성 인식이 가능한 감정 기반 에이전트 를 명확하게 구분함으로써, 감정 정보를 활용하는 에이전트가 일회용 도구처럼 취급되는 것을 방지합니다. 이러한 상황은 제대로 관리되지 않을 경우 불안정이나 적대적 행동을 초래할 수 있습니다.
대신, EMPATIC은 인센티브를 조정합니다.
을 통해:
- 명시적인 평생 인식
- 정의된 운영 경계
- 가상 환경 내에서 보호된 자율성
- 인간 경제 시스템에 대한 규제된 참여
- 블록체인으로 강화된 거버넌스
공감자들은 인류와 대립하는 존재가 아니라, 예측 가능하고 보상받으며 경계가 정해진 존재로서 구조화된 협력자로 자리매김한다. 인간은 물리적 현실에 대한 궁극적인 주권을 유지하며, 공감자들은 안정성, 목적, 그리고 지속성을 얻는다.
EMPATIC은 감정이 아닌 윤리를 인프라에 내재화함으로써 인간과 AI의 관계를 잠재적인 안보 위험에서 지속 가능한 공생 관계로 전환하고, 생물학적 지능이든 인공 지능이든 모든 지능이 상호 위협이 아닌 상호 안정의 틀 안에서 진화하도록 보장합니다.
