2025년, AI와 블록체인 이 두 가지 흐름이 동시에 가속화되고 있습니다. 시장에서 AGI(범용 인공지능)의 전망에 대해 열띤 논의가 이어지는 가운데, 이더리움(ETH) 공동 창립자 비탈릭 부테린은 X를 통해 게시물을 올려 경고했습니다. 만약 AI에 인간의 감독이 부족하다면, AI가 아무리 빠르게 진화해도 결국 인간이 통제하기 어려운 방향으로 흘러갈 수 있다고 말했습니다.
많은 AI 개발이 가능한 한 '자율적'으로 나아가려고 하는데, 이는 실제로 저를 좌절하게 합니다. 왜냐하면 더 많은 인간의 입력 경로를 만드는 것이 현재뿐만 아니라 상당히 긴 미래에도 더 나은 출력을 생성할 수 있으며, 안전성에도 더 유리하기 때문입니다.
'인간 피드백 메커니즘'의 윤곽이 드러나다
비탈릭 부테린은 게시물에서 AI는 단순히 완전 자동화된 '대리인'으로 설계되어서는 안 되며, 인간이 언제든 수정할 수 있는 '편집' 능력이 더 필요하다고 강조했습니다. 개방형 가중치 모델(오픈소스)은 개발자가 알고리즘 경로를 검토할 수 있게 하고, '인간 피드백 메커니즘'은 최종 결정이 인간의 손에 달려 있음을 보장할 수 있습니다. 그는 특히 금융 거래와 같은 고위험 시나리오에서는 인간을 프로세스에 포함시켜야만 효율성과 안전성 사이의 동적 균형을 달성할 수 있다고 경고했습니다.
동시에, 비탈릭의 이러한 '협력' 개념은 뇌-컴퓨터 인터페이스(BCI)를 향해 있습니다. 미래의 이미지는 분명 매력적이지만, 의료 모니터링, 학습 강화, 심지어 금융 주문과 같은 응용 프로그램에서 데이터 프라이버시와 윤리적 경계는 여전히 명확히 표시되어야 합니다.
이더리움(ETH)의 탈중앙화 거버넌스를 둘러싼 줄다리기
그러나 주목할 만한 점은, 비록 V 신이 여러 차례 탈중앙화와 오픈소스의 중요성을 공개적으로 강조했음에도 불구하고, 현재 암호화폐 커뮤니티는 이더리움 재단이 점점 더 중앙화되고 있다고 생각한다는 것입니다.
우선, 커뮤니티는 이전부터 비탈릭 부테린이 이더리움 재단 내에서 너무 많은 권력을 가지고 있으며, 심지어 거부권까지 가지고 있다고 의문을 제기했습니다. 재단은 이전에 투표권 분배에 대해 항상 회피해왔고, 이는 커뮤니티로부터 그 거버넌스의 투명성에 대한 의문을 불러일으켰습니다. 이더리움 재단이 아야 미야구치를 의장으로 전환하고, 샤오웨이 왕과 토마시 스탄차크를 공동 집행 이사로 새로 임명하는 등 조직 구조 개혁을 진행했지만, 이러한 조치는 의사 결정 책임을 분산시킨 것으로 간주되었습니다. 그러나 커뮤니티는 여전히 권력이 소수의 핵심 구성원에게 집중되는 것을 우려하며, 이는 탈중앙화 원칙에 위배됩니다.
비탈릭 부테린은 AI가 '인간' 주체성으로 돌아가기를 희망하지만, 이더리움의 현재 상황은 '인간'이 때로는 소수의 의사 결정자를 의미할 수 있음을 반영하고 있습니다. 현재 대량의 기관 자금이 이더리움(ETH)으로 유입됨에 따라 일부 보유자들은 이더리움 재단의 재무 및 거버넌스 모델이 납치될 수 있다고 우려하고 있습니다...
