불행히도, 이 시대에는 열심히 일할수록 인공지능으로 대체될 수 있는 기술로 빠르게 변모할 가능성이 높아집니다.
지난 이틀 동안 트렌드 토픽과 미디어 채널은 "동료 스킬" 관련 게시물로 도배되었습니다. 주요 소셜 미디어 플랫폼에서 이 문제가 계속해서 논란이 되면서, 대중의 관심은 "AI로 인한 해고", "자본 착취", "노동자의 디지털 불멸성"과 같은 거대한 불안감에 집중되는 것은 어쩌면 당연한 일일지도 모릅니다.
이러한 점들은 분명 우려스럽지만, 제가 가장 걱정하는 것은 프로젝트의 README 문서에 있는 사용 안내 문구입니다.
"원재료의 질이 실력의 질을 결정합니다. 따라서 그가 자발적으로 작성한 장문의 글 > 의사 결정 답변 > 일일 메시지 순으로 수집하는 것을 권장합니다."
가장 열심히 일하는 사람들이 시스템에 의해 픽셀 단위로 가장 쉽게 추출되고 복원됩니다.
그들은 프로젝트가 끝날 때마다 시간을 내어 사후 보고서를 작성하는 사람들입니다. 그들은 의견 차이에 직면했을 때 기꺼이 30분 동안 채팅창에 장문의 메시지를 입력하며 자신의 의사 결정 논리를 솔직하게 분석하는 사람들입니다. 그들은 매우 책임감이 강하며, 업무의 모든 세부 사항을 시스템에 꼼꼼하게 맡기는 사람들입니다.
한때 직장에서 가장 존경받는 미덕이었던 근면성은 이제 노동자들이 인공지능의 동력으로 변모하는 과정을 가속화하는 촉매제가 되었습니다.
지친 노동자들
우리는 '맥락'이라는 단어를 다시 이해해야 합니다.
일상 언어에서 맥락은 소통의 배경을 의미합니다. 하지만 인공지능, 특히 빠르게 성장하는 AI 에이전트의 세계에서 맥락은 엔진을 움직이는 연료이자, 엔진을 뛰게 하는 혈액과 같으며, 혼돈 속에서도 모델이 정확한 판단을 내릴 수 있도록 해주는 유일한 기준점입니다.
맥락이 제거된 인공지능은 아무리 뛰어난 매개변수 세트를 갖추고 있더라도 기억상실증에 걸린 검색 엔진에 지나지 않습니다. 인공지능은 당신이 누구인지 알아볼 수 없고, 업무 로직 아래 숨겨진 이면의 흐름을 파악할 수 없으며, 자원 제약과 인간관계가 얽혀 있는 이 네트워크 속에서 당신이 결정을 내릴 때 겪었던 오랜 고뇌와 선택의 과정을 알 길이 없습니다.
"collaborator.skill"이 이토록 큰 파장을 일으킨 이유는 바로 방대한 양의 고품질 컨텍스트가 저장된 보고, 즉 현대 기업의 협업 소프트웨어를 냉혹하고 정확하게 겨냥했기 때문입니다.
지난 5년간 중국의 업무 환경은 조용하지만 심오한 디지털 전환을 겪었습니다. Lark, DingTalk, Notion과 같은 도구들은 거대한 기업 지식 기반으로 자리 잡았습니다.
Lark를 예로 들면, ByteDance는 내부에서 매일 생성되는 문서의 양이 엄청나다고 공개적으로 밝혔습니다. 빽빽하게 채워진 이 문서들은 10만 명이 넘는 직원들이 참여한 모든 브레인스토밍 회의, 열띤 토론, 그리고 전략적 타협을 충실히 기록하고 있습니다.
디지털 기술의 침투는 이전 시대를 훨씬 능가합니다. 한때 지식은 따뜻하고 생동감 넘쳤으며, 노련한 직원들의 머릿속에 잠들어 있거나 휴게실에서의 가벼운 대화 속에 스며들어 있었습니다. 그러나 이제 모든 인간의 지혜와 경험은 수분을 강제로 빼앗기고 차갑고 비인간적인 클라우드 서버 매트릭스에 무자비하게 저장되었습니다.
이 시스템에서는 문서를 작성하지 않으면 여러분의 업무가 드러나지 않고, 새로운 동료들과 협업할 수 없게 됩니다. 현대 기업의 효율적인 운영은 모든 직원이 시스템에 맥락을 "기여"하는 일상적인 순환 과정에 기반합니다.
성실함과 선의로 가득 찬 근면한 직원들은 차갑고 비인간적인 이 플랫폼에서 자신의 생각 과정을 낱낱이 드러냅니다. 이는 팀의 원활한 업무 흐름을 도모하고, 시스템에 대한 자신의 가치를 증명하며, 이 복잡한 거대 상업 조직 속에서 자신의 자리를 필사적으로 찾기 위한 것입니다. 그들이 자발적으로 자신을 내맡기는 것이 아니라, 현대 직장의 생존 규칙에 서툴지만 성실하게 적응해 나가는 것뿐입니다.
하지만 바로 이러한 대인 협력의 맥락이 인공지능의 완벽한 원동력이 되었습니다.
Lark의 관리자 패널에는 최고 관리자가 구성원의 문서와 커뮤니케이션 기록을 일괄 내보낼 수 있는 기능이 있습니다. 즉, 3년 동안 밤샘 작업을 하며 작성한 프로젝트 검토 및 의사 결정 로직을 단 몇 분 만에 API 인터페이스를 통해 차갑고 생명력 없는 압축 파일로 손쉽게 내보낼 수 있다는 뜻입니다.
인간이 API로 축소될 때
"colleague.skill"의 폭발적인 인기로 인해 GitHub 이슈와 다양한 소셜 미디어 플랫폼에서 매우 불쾌한 파생물들이 등장하기 시작했습니다.
어떤 이들은 지난 몇 년간의 위챗 채팅 기록을 AI에 입력하여 익숙한 어조로 계속해서 논쟁하거나 애정을 표현하도록 하는 "Ex.skill"을 만들었고, 또 어떤 이들은 "White Moonlight.skill"을 만들어 감정적으로 접근하기 어려운 부분을 차가운 인간관계의 틀 안에 가두고, 탐색적인 대화를 반복적으로 연습하며 최적의 감정적 해결책을 단계적으로 꼼꼼하게 찾아냈다. 그리고 또 다른 이들은 "Daddy-like Boss.skill"을 만들어 디지털 공간에서 픽업 아티스트들이 사용하는 억압적인 단어들을 미리 곱씹어보며 스스로를 위한 슬픈 심리적 방어막을 구축했다.
이러한 기술의 활용 사례는 업무 효율성이라는 영역에서 완전히 벗어났습니다. 우리가 깨닫지도 못한 사이에, 우리는 도구의 차가운 논리를 능숙하게 사용하여 살아있는 사람들을 분석하고 객관화하는 데 익숙해져 버렸습니다.
독일 철학자 마르틴 뷔버는 인간 관계의 근본적인 본질은 "나와 너"와 "나와 그것"이라는 두 가지 분명한 패턴에 지나지 않는다고 주장한 바 있다.
'나와 너'의 만남 속에서 우리는 편견을 초월하여 서로를 온전하고 존엄한 살아있는 존재로 바라본다. 이 관계는 개방적이고 거리낌 없이, 생동감 넘치는 예측 불가능성으로 가득 차 있으며, 바로 그 진실함 때문에 극도로 연약해 보인다. 그러나 '나와 그것'의 그림자 속으로 들어가면, 살아있는 존재는 해부하고 분석하고 분류하고 꼬리표를 붙일 수 있는 대상으로 전락한다. 이러한 극도로 실용적인 관점에서 우리가 신경 쓰는 것은 오직 "이것이 나에게 무슨 소용이 있는가?"뿐이다.
"ex.skill"과 같은 제품의 등장은 "나와 그것"이라는 도구적 합리성이 가장 사적인 감정 영역까지 완전히 침투했음을 의미합니다.
실제 관계에서 사람들은 다면적이고 복잡하며, 모순과 거친 면을 지닌 채 끊임없이 변화합니다. 그들의 반응은 특정한 상황과 감정적 상호작용에 따라 달라집니다. 당신의 전 애인이 같은 문장 대면 아침에 일어났을 때와 밤늦게까지 일한 후에 보이는 반응은 완전히 다를 수 있습니다.
하지만 사람을 기술로만 환원시키면, 결국 특정 관계 안에서 당신에게 "유용하고" "효과적인" 기능적인 잔여물만 남게 됩니다. 기쁨과 슬픔을 간직한 원래의 따뜻한 사람은 이 잔혹한 정화 과정에서 영혼을 완전히 잃고, 마음대로 꽂고 뽑을 수 있는 "기능적인 인터페이스"로 변모합니다.
인공지능이 이 차가운 냉담함을 갑자기 만들어낸 것이 아니라는 점을 인정해야 합니다. 인공지능이 등장하기 전에도 우리는 타인을 분류하고 각 관계의 "정서 가치"와 "인맥적 중요성"을 정확하게 평가하는 데 익숙해져 있었습니다. 예를 들어, 연애 시장에서 사람들의 상황을 표로 정리했고, 직장 동료를 "유능한 사람"과 "게으른 사람"으로 분류했습니다. 인공지능은 단지 사람들 사이에서 암묵적으로 이루어지던 이러한 기능적 클레임 완전히 명시적으로 드러냈을 뿐입니다.
그 사람은 납작하게 짓눌려 버렸고, 남은 단면은 "이게 나에게 무슨 소용이 있겠어?"라고 묻는 듯했다.
전자적 녹청
1958년, 헝가리 태생의 영국 철학자 마이클 폴라니는 『개인적 지식』을 출간했다. 이 책에서 그는 매우 통찰력 있는 개념인 암묵적 지식을 소개했다.
폴라니는 "우리는 항상 말할 수 있는 것보다 더 많은 것을 알고 있다"라는 유명한 말을 남겼습니다.
그는 자전거 타는 법을 배우는 예를 들었다. 숙련된 라이더는 바람의 추진력을 이용해 중력의 변화에도 완벽하게 균형을 유지할 수 있지만, 딱딱한 물리 공식이나 모호한 말로 초보자에게 그 순간 몸이 느끼는 미묘한 직감을 정확하게 설명할 수는 없다. 그는 자전거 타는 법은 알지만, 그것을 설명할 수는 없다. 이처럼 부호화하거나 말로 표현할 수 없는 지식을 암묵적 지식이라고 한다.
직장에는 이런 종류의 암묵적 지식이 가득합니다. 숙련된 엔지니어는 시스템 오류를 해결할 때 로그를 훑어보는 것만으로 문제를 정확히 찾아낼 수 있지만, 수천 번의 시행착오를 통해 쌓아 올린 이러한 "직관"을 문서화하기는 어렵습니다. 최고의 영업사원은 협상 테이블에서 갑자기 침묵할 수 있는데, 그 침묵이 전달하는 압박감과 타이밍은 어떤 영업 매뉴얼에도 기록될 수 없습니다. 경험 많은 인사 담당자는 면접 중 지원자가 시선을 피하는 단 0.5초의 순간을 관찰하는 것만으로도 이력서의 오류를 간파할 수 있습니다.
"Colleague.skill"은 이미 글로 쓰이거나 말로 표현된 명시적인 지식만 클레임 할 수 있습니다. 회의록은 캡처할 수 있지만, 회의록 작성 과정에서 겪었던 어려움은 캡처할 수 없습니다. 의사 결정 답변은 복사할 수 있지만, 그 결정을 내릴 때 가졌던 직관은 복사할 수 없습니다.
그 시스템이 추출해내는 것은 언제나 한 사람의 그림자에 불과하다.
만약 이야기가 여기서 끝난다면, 그것은 기술이 인간 본성을 어설프게 모방한 또 다른 사례에 지나지 않을 것이다.
하지만 일단 어떤 사람이 특정 기술로 응축되면, 그 기술은 고정된 상태로 남아있지 않습니다. 이메일에 답장하고, 새로운 문서를 작성하고, 새로운 결정을 내리는 데 사용됩니다. 다시 말해, 이러한 AI가 생성한 그림자는 새로운 맥락을 만들어내기 시작합니다.
이렇게 AI가 생성한 컨텍스트는 Lark와 DingTalk에 저장되어 다음 단계의 정제 작업을 위한 학습 자료가 됩니다.
2023년, 옥스퍼드 대학교와 케임브리지 대학교의 연구팀은 "모델 붕괴"에 관한 논문을 공동으로 발표했습니다. 이 연구는 AI 모델을 다른 AI가 생성한 데이터를 사용하여 반복적으로 학습시킬 때, 데이터 분포가 점점 더 좁아진다는 것을 보여주었습니다. 드물고, 주변적이지만 매우 실제적인 인간적 특성은 빠르게 사라집니다. 합성 데이터로 몇 세대만 학습시키면 모델은 길고 복잡한 실제 인간 데이터를 완전히 잊어버리고, 대신 매우 평범하고 획일적인 콘텐츠만 출력하게 됩니다.
2024년 네이처에 발표된 한 연구 논문은 미래 세대의 머신러닝(ML) 모델을 AI가 생성한 데이터 세트로 훈련시키면 그 결과물이 심각하게 오염될 것이라고 지적했습니다.
마치 온라인에 떠도는 밈 이미지와 같아요. 원래는 고해상도 스크린샷이었던 이미지가 전달되고, 압축되고, 또 수없이 전달되는 과정을 거치죠. 공유될 때마다 픽셀이 일부 손실되고 노이즈가 추가됩니다. 결국 이미지는 흐릿해지고 디지털적으로 변형되는 거죠.
진정한, 암묵적인 인간적 맥락이 고갈되고, 시스템이 낡은 흔적의 그림자만으로 스스로를 훈련시킬 수밖에 없을 때, 결국 남는 것은 무엇일까?
누가 우리의 흔적을 지우고 있는 걸까요?
이제 남은 건 그럴듯한 헛소리뿐이네요.
지식의 강물이 말라붙어 인공지능이 스스로를 끊임없이 되새기고 씹어대는 과정만 남게 되면, 시스템이 내뱉는 모든 것은 필연적으로 극도로 표준화되고 안전해지겠지만, 결국에는 희망 없이 공허해질 것입니다. 완벽하게 구성된 주간 보고서와 흠잡을 데 없는 이메일은 수없이 많겠지만, 그 안에는 인간적인 흔적도, 진정으로 가치 있는 통찰력도 담겨 있지 않을 것입니다.
지식의 이러한 거대한 패배는 인간의 두뇌가 멍청해졌기 때문이 아닙니다. 진정한 비극은 우리가 생각할 권리와 맥락을 파악하는 책임을 우리 자신의 그림자에 맡겨버렸다는 데 있습니다.
"colleague.skill"이 입소문을 탄 지 며칠 후, "anti-distill"이라는 프로젝트가 조용히 GitHub에 등장했습니다.
이 프로젝트의 작성자는 대규모 모델을 공격하려 하거나 거창한 선언문을 작성하려 한 것이 아닙니다. 단지 작업자들이 Lark나 DingTalk에서 겉보기에는 그럴듯하지만 실제로는 비논리적이고 타당하지 않은 긴 글을 자동으로 생성할 수 있도록 도와주는 간단한 도구를 제공했을 뿐입니다.
그의 목표는 간단했다. 시스템이 핵심 정보를 추출하기 전에 숨기는 것이었다. 시스템은 "능동적으로 작성된 긴 글"을 선호했기에, 그는 의미 없는 횡설수설들을 시스템에 입력했다.
이 프로젝트는 "Colleague.skill"처럼 폭발적인 성공을 거두지 못했습니다. 오히려 규모가 작고 효과가 미미하게 느껴졌습니다. 마법으로 마법을 물리치려는 시도였기에, 본질적으로 자본과 기술이 정해놓은 게임의 규칙 안에 머물러 있었습니다. 인공지능에 점점 더 의존하고 실제 사람들을 점점 더 무시하는 시스템이라는 전반적인 추세를 바꿀 수는 없었습니다.
하지만 그렇다고 해서 이 작품이 부조리극 전체에서 가장 비극적이면서도 시적이고, 심오한 은유를 담고 있는 장면이라는 사실이 변하는 것은 아닙니다.
우리는 이 거대한 현대 기업 시스템 속에서 우리의 존재와 가치를 증명하기 위해, 상세한 문서를 작성하고 세심한 결정을 내리며 시스템에 흔적을 남기려고 엄청나게 노력했습니다. 하지만 우리가 미처 알지 못했던 것은, 이렇게 공들여 쌓아 올린 흔적들이 결국 우리를 지워버리는 지우개가 될 것이라는 사실이었습니다.
하지만 다른 관점에서 보면, 이것이 반드시 완전히 막다른 길은 아닐 수도 있습니다.
지우개가 지워버리는 것은 언제나 "과거의 당신"일 뿐입니다. 아무리 정교한 추출 로직을 갖춘 파일이라도, 파일에 담긴 기술은 본질적으로 정적인 스냅샷에 불과합니다. 내보내는 순간에 갇혀, 구식 자료에만 의존하고, 미리 정해진 프로세스와 논리 안에서 끝없이 제자리걸음을 합니다. 미지의 혼돈에 맞설 본능이 부족하고, 현실 세계에서 겪는 좌절을 통해 발전할 능력도 없습니다.
고도로 표준화되고 확립된 경험들을 버릴 때, 우리는 스스로를 자유롭게 할 수 있게 됩니다. 우리가 계속해서 바깥세상을 탐험하고 끊임없이 인지의 경계를 허물고 재구성하는 한, 구름 속에 드리워진 그 그림자는 영원히 우리의 발자취만을 따라올 수 있을 뿐입니다.
인간은 마치 흐르는 알고리즘과 같다.
