글쓴이: 바이딕 만들로이
작성: 루피, 포사이트 뉴스
2022년 말 출시 이후 ChatGPT는 방대한 AI 에이전트 생태계를 구축했습니다. 현재 이러한 프로그램들이 생성하는 전체 네트워크 트래픽은 전 세계 모든 인간 사용자의 트래픽을 넘어섰습니다. AI의 온라인 행동은 인간과 극명하게 다릅니다. 광고를 보거나 링크를 클릭하거나 온라인 쇼핑을 하지 않고, 단순히 네트워크 데이터를 수집하여 작업을 완료한 후 떠납니다.
인터넷의 초기 아키텍처와 비즈니스 로직은 인간의 행동과 사용 습관을 기반으로 구축되었습니다. 그러나 오늘날 온라인 활동의 대다수는 실제 사람이 아닌 다른 주체로부터 발생하며, 이는 주요 웹사이트에 심각한 문제를 야기하고 있습니다. 현재 250만 개의 웹사이트가 AI 웹 크롤러 차단을 시작했으며, Perplexity와 같은 플랫폼은 관련 소송에 휘말렸습니다. 클라우드 서비스 제공업체인 Cloudflare는 AI가 생성한 뒤죽박죽이고 의미 없는 텍스트를 사용하여 무한 반복되는 페이지를 만들어 다양한 데이터 크롤러를 함정에 빠뜨리는 "미끼 미로"를 구축하기도 했습니다.
하지만 일부 고도화된 AI 에이전트는 이미 이러한 안전장치를 우회할 수 있는 능력을 갖추고 있습니다. 인간과 기계의 대립이 심화됨 대면, 업계 전체는 보다 신뢰할 수 있는 인간 신원 확인 메커니즘 개발에 집중하기 시작했습니다. 이 시스템은 화면 너머의 운영자가 사람인지 정확하게 식별해야 합니다. 실제 사람이 조작할 때는 머뭇거리거나 오타를 내고, 커서 움직임에 인간의 신경계 특유의 미세한 떨림이 나타나기 때문입니다. 이 글에서는 이러한 변화의 원인, 두 가지 주요 기술 솔루션, 그리고 사람들이 직면하게 될 선택, 즉 중앙 집중식 생체 인식 모니터링을 수용할 것인지 아니면 암호화된 영지식 증명 기술을 사용하여 익명으로 인간 신원을 확인할 것인지에 대해 분석합니다.
AI는 인터넷 비즈니스 모델을 뒤흔들고 있다
웹사이트들이 AI 프로그램을 차단하는 사례가 늘고 있는데, 이는 AI가 인터넷의 상업적 기반을 양쪽에서 동시에 훼손하고 있기 때문입니다. 기존 인터넷 수익 모델은 사용자 관심에 기반합니다. 콘텐츠 게시자는 사용자가 페이지를 방문하거나 광고를 시청할 때 수익을 얻습니다. 만약 AI가 온라인 쇼핑을 담당한다면, 한 번에 5천 개의 웹사이트를 검색할 수 있지만, 일반 사용자는 보통 4~5개 페이지 정도만 둘러봅니다.
AI의 읽기 속도는 인간을 훨씬 능가하며, 인터넷 전체의 가격을 비교하고 심지어 몇 분 안에 직접 주문까지 할 수 있습니다. 이 모든 과정은 광고 노출 없이 이루어집니다. 즉, 웹사이트는 아무런 수익도 얻지 못하면서 서버 운영 비용만 부담하게 되는 것입니다.
한편, AI 검색은 웹사이트 트래픽을 지속적으로 분산시키고 있습니다. 구글이 검색 결과 상단에 AI 기반 스마트 요약 섹션을 추가한 후, 원래 웹페이지로 이동한 사용자는 8%에 불과했으며, 이로 인해 구글에서 주요 콘텐츠 사이트로의 트래픽이 33% 감소했습니다. 이 기능은 출시 후 단 1년 만에 월간 활성 사용자 10억 명을 돌파했으며, 플랫폼 검색량은 출시 이후 매 분기 두 배씩 증가했습니다.
많은 분들이 온라인 학습 Q&A 플랫폼인 Chegg를 기억하실 겁니다. 원래 검색 순위 우위를 활용하여 학술 Q& A 에 집중했던 Chegg는 ChatGPT의 영향으로 인해 Q&A 섹션을 공식적으로 폐쇄했습니다. 콘텐츠 제작자들은 이중고에 시달리고 있습니다. 한편으로는 웹 크롤러가 웹사이트에서 콘텐츠를 무분별하게 수집하고 있고, 다른 한편으로는 AI 기반 요약 서비스가 사용자가 사이트에 접속하기도 전에 트래픽을 가로채고 있습니다.
데이터 불균형은 더욱 심각한 문제입니다. OpenAI의 크롤러가 파트너 웹사이트로 리디렉션 트래픽을 유도할 때마다 400개 페이지에서 데이터를 수집합니다. 반면 Anthropic의 경우 이 비율이 38,000:1에 달합니다. 이 회사들은 인터넷 전반에 걸쳐 공개적으로 이용 가능한 데이터를 사용하여 AI 모델을 무료로 학습시킨 후, 원래 해당 웹사이트에 속했던 트래픽을 자신들의 완성된 제품이 있는 웹사이트로 빼돌립니다.
다른 산업이었다면 이처럼 악의적인 데이터 수집 관행은 이미 수많은 소송을 불러일으켰을 테지만, 인공지능 분야에서는 이러한 기업들이 수조 달러에 달하는 기업 가치를 달성할 수 있다.
당신의 몸이 새로운 코드입니다.
지난 25년간 인터넷은 사람과 기계를 구분하기 위해 주로 CAPTCHA에 의존해 왔습니다. 사람들은 교통 표지판을 인식하고 왜곡된 문자를 입력해야 했습니다. 이러한 메커니즘이 효과적이었던 이유는 초기에는 기계의 이미지 인식 능력이 인간보다 훨씬 떨어졌기 때문입니다.
상황은 이제 완전히 역전되었습니다. 오픈AI의 AI 기반 운영 체제는 구글의 인간 인증 시스템에서 인간보다 훨씬 높은 점수를 기록하며, 인터페이스를 정확하게 클릭하고 콘텐츠를 복사하여 붙여넣을 수 있습니다. AI가 생성한 사진은 신원 인증 시스템을 속일 수 있으며, 딥페이크 화상 통화는 범죄자들이 은행 송금을 완료하는 데까지 사용되었습니다. 기계가 인간보다 능력이 떨어진다는 기존 인증 방식의 전제는 더 이상 유효하지 않습니다.
업계는 인공지능이 아직 모방할 수 없는 영역에만 집중할 수 있습니다. 그러한 영역 중 하나가 바로 행동 생체 인식, 즉 전자 기기를 사용하는 인간의 행동 특성입니다. IBM과 BioCatch 같은 기업들이 관련 시스템을 개발하고 있습니다. 이 기술은 로그인 시 신원 확인뿐만 아니라 전체 과정에서 사용자의 활동을 모니터링하여 커서 이동 속도, 페이지 스크롤, 타이핑 리듬, 키 압력, 텍스트 삭제 및 편집 습관, 휴대폰을 잡는 각도 등의 데이터를 수집합니다. 휴대폰의 자이로스코프가 모든 관련 정보를 기록합니다.
이 시스템은 사용자의 주 손과 손가락 움직임 패턴과 같은 세부 정보도 인식할 수 있습니다. IBM은 단 8회의 사용 세션 데이터만 수집하면 개인 맞춤형 사용자 프로필을 생성할 수 있으며, 이후 각 작업을 기준 데이터와 실시간으로 비교합니다.
바이오캐치의 기술은 온라인 사기까지 식별할 수 있습니다. 피해자들이 사기꾼의 지시에 따라 전화로 계정 비밀번호를 말하면, 시스템은 피해자의 불안하고 두서없는 타이핑 리듬을 정확하게 포착합니다. 이 시스템은 단 1년 만에 257개 은행이 약 200만 개의 자금 세탁 계좌를 식별하는 데 도움을 주었습니다. 현재 EU는 보행 인식 기술도 시범 운영하고 있습니다. 인공지능 시대가 시작된 지 불과 3년 만에 EU 국경 관리들은 이미 사람들의 보행 자세 데이터를 수집하기 시작했습니다.
관련 연구에서는 스트룹 효과도 활용했습니다. "파란색"이라는 단어가 녹색으로 쓰여 있을 때, 인간의 뇌는 단어의 의미와 시각적 색상 사이의 충돌을 경험하여 반응 속도가 현저히 느려지지만, AI는 영향을 받지 않습니다. 이 연구는 이러한 인지적 간섭이 타이핑 행동에 직접적으로 반영된다는 사실을 발견했습니다. 플랫폼은 특별한 테스트조차 필요하지 않습니다. 단순히 키 입력 리듬만으로 사용자가 사람인지 아닌지를 판단할 수 있습니다. 타이핑 습관은 뇌 정보 처리에서 인간 고유의 특성을 드러냅니다.
기존의 웹 추적 방식은 주로 사용자의 브라우징, 클릭, 지출 행태를 기록하는데, 사용자는 쿠키 차단, VPN 사용, 위치 서비스 비활성화 등을 통해 이를 우회할 수 있습니다. 그러나 행동 생체 인식은 인간의 본능적인 특성, 예를 들어 마우스 커서 움직임이나 타이핑 리듬과 같은 요소를 수집하는데, 이러한 특성은 인위적으로 조작하기 어렵습니다.
개개인의 행동 특성은 지문처럼 고유합니다. 비밀번호나 열쇠와 달리, 이러한 생체 정보는 변경하거나 재설정할 수 없습니다. 이 기술이 널리 보급되면 주요 플랫폼들은 이에 적응할 수밖에 없을 것입니다. 음성 시뮬레이션 기술은 이미 실감 나는 가짜 대화를 만들어낼 수 있으며, 딥페이크 비디오 기술도 곧 그 뒤를 따를 것입니다. 만약 이것이 미래라면, 가장 중요한 질문은 바로 이것입니다. 누가 궁극적으로 이러한 인간 데이터를 통제할 것인가?
실명 인증 시스템은 누가 관리하게 될까요?
현재 업계는 두 진영으로 나뉘어 각각 실명 신원 확인 솔루션을 연구하고 있습니다.
첫 번째는 샘 알트먼이 설립한 월드(구 월드코인)입니다. 사용자는 구형 홍채 스캐너 앞에 서서 홍채 정보를 수집하고, 이를 통해 암호화된 인증서를 생성하여 사용자가 실제 사람임을 증명합니다. 현재 전 세계 160개국에서 1,800만 명이 홍채 등록을 완료했습니다. 2026년 4월, 월드는 데이팅 앱 틴더, 화상 회의 플랫폼 줌, 전자 서명 서비스 제공업체 도큐사인과 사용자 인증 파트너십을 체결했으며, 코인베이스와 협력하여 사용자가 AI 에이전트를 실명과 연결할 수 있는 에이전트킷(AgentKit) 도구를 출시했습니다. 이 플랫폼은 사용자의 개인 정보를 유출하지 않고도 에이전트 뒤에 실제 사람이 있음을 확인할 수 있습니다.
하지만 홍채 스캔 기술은 많은 국가에서 명시적으로 금지되어 있습니다. 대중은 생체 데이터 수집에 동의할 경우 발생할 수 있는 잠재적 위험성을 제대로 인식하지 못하고 있으며, 이것이 여러 국가에서 이 기술에 저항하는 핵심적인 이유입니다. MIT Technology Review의 조사에 따르면, World는 적절한 승인 없이 홍채 데이터뿐만 아니라 심박수, 호흡수 등 다른 생체 신호 데이터까지 불법적으로 수집해 온 것으로 드러났습니다.
두 번째 유형은 암호화 기술 기반의 영지식 증명으로, 실제 신원, 위치 또는 외모를 드러내지 않고도 자신이 사람임을 증명할 수 있습니다. 비탈릭 부테린은 이미 2023년에 이 개념을 제안했습니다. 그는 실명 확인을 위한 탈중앙화 시스템이 구축되지 않으면 인터넷은 결국 중앙 집중식 신원 관리 시스템으로 나아갈 것이라고 주장합니다. 신원 확인 권한이 기업이나 정부에 의해 통제되면 감시 메커니즘이 네트워크에 깊숙이 자리 잡게 될 것이라는 것입니다.
탈중앙화 실명 신원 시스템은 이전에도 대규모 구현 시도가 있었지만 모두 결국 실패로 끝났습니다. "1인 1신원"을 강조한 최초의 공개 블록체인 프로젝트 중 하나인 이데나(Idena)는 출시 2년 만에 전체 계정의 40%와 보상의 48%를 23개 기관이 장악하는 결과를 낳았습니다. 인도, 러시아 등지의 계정 운영팀은 일반인들을 시간당 1달러도 안 되는 비용으로 고용하여 신원을 빌려주고 초기 투자금의 최대 55배에 달하는 수익을 올렸습니다. 연구원들은 심지어 어린이의 신원 정보까지 봇 계정으로 사용된 사례도 발견했습니다.
비탈릭은 이러한 리스크 예상했습니다. 그는 실명 인증 시스템에 대한 가장 저렴한 공격 방법은 딥페이크나 정교한 해킹 기술이 아니라 저소득층 지역 사람들을 고용하여 그들의 신분을 빌려주는 것이라고 말했습니다. 모든 실명 인증 시스템은 재정적 지원을 필요로 합니다. 홍채 스캔 장치와 온체인 검증 노드 모두 지속적인 투자가 필요합니다.
하지만 신분증에 경제적 가치가 부여되는 순간, 신분 대여 암시장이 생겨날 것입니다. 빈부 격차가 극심한 현실 세계에서는 자본력이 막강한 자들이 이러한 시장을 장악할 수밖에 없습니다.
"실질적인 경제적 유인이 존재하는 시스템에서 1인 1표제를 강제로 시행하는 것은 20세기에 있었던 유사한 사회 실험의 실수를 되풀이할 뿐입니다."
객관적으로 볼 때, 두 개발 방식 모두 명백한 결함이 있습니다. 중앙 집중식 솔루션은 대규모 배포가 가능하지만, 사용자의 생체 데이터가 과도하게 정보를 수집하는 기업에 맡겨지게 되고, 이러한 기업들은 봇의 확산으로 이익을 얻을 수 있습니다. 암호화는 이론적으로는 개인정보를 보호하지만, 현실 세계의 경제적 불균형을 극복하기 어렵고, 결국 암시장 산업의 허점이 될 수 있습니다.
굳이 내기를 해야 한다면, 저는 여전히 암호화에 걸겠습니다. 행동 생체 인식과 중앙 집중식 홍채 스캔은 사용자의 신체 정보를 영구적으로 기록하고, 그 정보의 소유권은 시스템을 구축한 회사에 있기 때문입니다. 일단 그들이 사용자의 데이터를 확보하면, 사용자는 그 정보를 삭제하거나 이전할 수 없습니다. 데이터는 수집한 회사의 손에 영원히 묶이게 됩니다.
영지식 증명이 악용될 수 있다는 점을 알고 있더라도, 추가적인 정보를 노출하지 않고 사용자의 신원을 확인할 수 있다는 점에서 여전히 개발할 가치가 있습니다. 반대로, 이 방식이 버려진다면 미래에는 우리가 방문하는 모든 웹사이트가 우리의 행동 데이터를 저장하게 될 것입니다. 현재 이러한 감시 기능을 갖춘 중앙 집중식 솔루션은 암호화 기술보다 훨씬 빠른 속도로 구현되고 있습니다.
