이 글은 위챗 공식 계정 '不懂经 (고전을 이해하지 못함)'의 러스트 아저씨가 작성한 글이며, 원제는 'AI 시대의 장원홍의 역설: AI를 사용하면 사용할수록 왜 무가치함을 느끼는 걸까?'입니다. 표지 이미지는 비주얼 차이나에서 가져왔습니다.
며칠 전, 저는 1월 10일 홍콩 하이 마운틴 포럼에서 장원훙 국가감염병센터 소장이 연설하는 짧은 영상을 우연히 보게 되었습니다. 그는 "병원 의료기록 시스템에 인공지능을 도입하는 것을 절대 반대한다"고 분명히 밝혔습니다.
체계적인 훈련을 받지 않은 인공지능은 의사 양성 과정을 근본적으로 바꿔놓을 것이며, 젊은 의사들이 전통적인 훈련을 통해 습득해야 할 독립적인 진단 능력을 약화시키거나 손상시킬 것이기 때문입니다.
장원훙은 자신도 인공지능을 활용해 사례를 먼저 검토하는 것은 맞지만, 핵심은 30년 이상의 임상 경험을 바탕으로 인공지능의 오류를 한눈에 파악할 수 있다는 점이라고 설명했다.
문제는 젊은 의사들에게 있다.
의사가 인턴 시절부터 진단에 인공지능에 의존하고 임상 추론 훈련을 제대로 받지 않는다면, 그는 영원히 중요한 능력 하나를 잃게 될 것입니다. 바로 인공지능의 정확한 판단과 잘못된 판단을 구별하는 능력입니다.
장원훙의 발언은 일반 AI 사용자 관점에서 AI 시대의 기술과 활용도에 대한 널리 오해되고 있는 현실을 드러냈다.
지난 1~2년 동안 저는 특이한 형태의 "집단적 불안"을 목격했습니다.
흥미롭게도 이러한 불안감은 기술을 이해하지 못하는 사람들로부터 나오는 것이 아닙니다. 오히려 인공지능 사용에 이미 능숙한 엘리트 집단, 즉 프로그래머, 변호사, 분석가, 그리고 미디어 전문가들에게서 더 많이 나타납니다.
처음에는 모두가 인공지능이 자신들을 초인적인 존재로 만들어 줄 것이라고 믿고 들떠 있었습니다. 하지만 효율성에 대한 짧은 환희가 지나고 나니, 많은 사람들이 더 깊은 무력감에 빠졌습니다.
인공지능이 비용 없이 업무의 80%를 처리할 수 있다면, 나머지 20%의 가치만으로 제 직업적 존엄성을 지킬 수 있을까요?
인공지능이 내 2주 분량의 코드를 몇 분 만에 완성할 수 있다면, 대규모 모델이 몇 초 만에 완벽한 실사 보고서를 생성할 수 있다면, 제미니나 두바오 같은 검색 엔진이 그림 경험이 전혀 없는 사람도 명작 수준의 작품을 만들어낼 수 있게 해준다면, GPT가 건강 검진 보고서나 검사 보고서를 "정확하게" 읽을 수 있다면, 인간의 기술을 보호하는 장벽은 도대체 어디에 있는 걸까요?
이전에 애틀랜틱지는 우리가 기술 숙련도 저하의 시대로 접어들고 있다는 기사를 게재했지만, 그 이면에는 인공지능이 기술을 쓸모없게 만든 것이 아니라 오히려 극적인 "기술 인플레이션"을 촉발했다는 점이 있습니다. 필요한 것은 단지 기술의 정의를 재정립하는 것일 뿐입니다.
실행 비용이 거의 0에 가까워지는 시대에 AI는 마치 거울처럼 모든 것을 드러냅니다. AI는 효율성을 높일 뿐만 아니라 인지 능력의 세밀함이나 정확성까지 향상시켜 줍니다.
인공지능이 냉혹하게 드러낸 사실 때문에 당신은 "무용지물"이라고 느낄지도 모릅니다. 당신이 한때 자랑스러워했던 대부분의 작업은 "생각"하거나 문제를 제기하고 해결하기보다는 그저 "벽돌 쌓기", 실행, "시키는 대로 하는 것"에 불과했다는 사실을 말입니다.
21세기 역량의 진정한 가치는 얼마나 많은 도구를 가지고 있느냐가 아니라, 얼마나 실질적인 정신적 역량을 갖추고 있느냐에 달려 있습니다. "거시적 차원의 통제 + 미시적 차원의 검증"이라는 포괄적인 능력이야말로 AI 시대의 안정적인 미래를 보장하는 진정한 열쇠입니다.
I. 장원홍의 역설: 0 곱하기 10은 여전히 0이다
실리콘 밸리에 대한 일반적인 관점 있지만, 종종 오해되기도 합니다.
사람들은 "AI는 생산성을 10배 향상시켜준다"고 말합니다.
이 진술의 수학적 의미는 문자 그대로의 의미보다 훨씬 더 섬뜩하다.
현재 능력이 1이라면 AI는 당신을 10으로 만들 수 있고, 현재 능력이 10이라면 AI는 당신을 100으로 만들 수 있습니다. 하지만 특정 분야에 대한 기본적인 이해도가 0이라면, 0에 10을 곱해도 여전히 0일 뿐입니다.
이것이 바로 장원훙의 우려의 핵심입니다. 인턴 시절부터 AI에 의존하는 젊은 의사는 임상적 판단력이 전무할 수 있다는 것입니다. 아무리 강력한 AI라 할지라도 0에 어떤 수를 곱해도 결국 0이 되기 때문입니다.
더욱 소름 끼치는 것은 이 "0"이 자신이 0이라는 사실조차 모른다는 점입니다.
장원훙은 "신진 의사들은 질병 진단을 인공지능에만 의존해서는 안 된다"고 단도직입적으로 말했다. 왜냐하면 인공지능의 정확도가 95%에 달하더라도 5%의 오류는 전문 의사가 직접 찾아내고 수정해야 하기 때문이다.
의사가 독립적인 진단 능력이 부족하다면, 어떻게 AI 오류를 감지할 수 있을까요? AI가 해결할 수 없는 복잡한 사례는 어떻게 처리할 수 있을까요?
저는 이것을 "장원홍 역설"이라고 부릅니다. 어떤 면에서는 닭이 먼저냐 달걀이 먼저냐의 문제와 같지만, 다른 면에서는 사람들이 도구를 사용하는 것인지, 아니면 도구가 사람들을 이용하는 것인지를 강조하는 문제입니다.
이는 인공지능 시대의 기술에 대한 첫 번째 진실을 드러냅니다.
인공지능의 본질은 "확률적 적합"에 있는 반면, 인간의 가치는 "결과를 감당하는 것"에 있다.
과거에는 우리가 흔히 말하는 기술이란 능숙한 실행력, 문법 암기, 법률 조항 암송, 다양한 키보드 단축키 숙달 등을 의미했습니다. 하지만 인공지능 시대에 들어서면서 이러한 하드 스킬은 빠르게 그 가치가 떨어지고 인프라적인 요소로 대체되었습니다.
대신, 더욱 숨겨져 있고 희소한 능력인 판단력이 부상했습니다. 여기서 판단력이란 자신의 행동이 가져올 장기적인 결과를 이해하는 능력을 의미합니다.
다음과 같은 상황을 상상해 보세요. 숙련된 엔지니어와 초보 엔지니어가 모두 AI를 사용하여 코드를 작성하고 있습니다.
초보자는 코드 블록만 받게 됩니다. 코드에 구조적 결함이 있는지 판단할 수 없고, 극한의 동시성 환경에서의 성능을 예측할 수 없으며, 심지어 그것이 막다른 길로 이어지는 해결책인지조차 알 수 없습니다.
선임 엔지니어는 단순히 코드만 보는 것이 아니라 전체적인 흐름을 파악합니다. 그들은 AI에 어떤 작업을 할당해야 하는지, 결과를 어떻게 검증해야 하는지, 그리고 더 중요한 것은 AI가 오류를 범했을 때 어디를 수정해야 하는지 알고 있다는 점입니다. AI는 필연적으로 오류를 범하게 마련입니다.
초보자에게 AI는 블랙박스와 같아서, 그저 정답을 내놓기를 바랄 뿐입니다. 하지만 전문가에게 AI는 무한한 에너지를 가진 인턴 팀처럼, 지시받은 대로 정확하게 일하는 존재입니다.
그러므로 미래에 전문가와 일반인을 구분 짓는 기준은 "인공지능 결과물을 검증할 수 있는 능력"이냐 아니냐가 될 것이다.
장원훙은 어떤 신비로운 직관에 의존하는 것이 아니라 30년 이상의 임상 경험에서 축적된 '메타 능력'을 통해 인공지능 진단의 오류를 한눈에 포착할 수 있습니다. 이러한 능력은 인공지능 교육 과정에서 생략된 젊은 의사들에게 가장 부족한 부분입니다.
따라서, 탄탄한 전문 지식이 뒷받침되지 않는다면, AI는 효율성이 아닌 막대한 비용과 혼란을 초래할 것입니다.
2. 왜 항상 "거의 다 왔어요"라는 표현을 쓰시나요?
어떤 사람들은 인공지능을 활용하여 복잡한 문제를 해결할 수 있는 반면, 다른 사람들은 챗봇으로만 사용할 수 있는 이유는 무엇일까요?
문제는 당신이 "주문"을 쓸 수 없다는 것이 아니라, 당신의 정신적 엔트로피가 너무 높다는 것입니다.
최근 우려스러운 현상이 나타나고 있는데, 사람들이 사고 자체를 인공지능에 맡기기 시작했다는 것입니다.
문제에 직면했을 때, 문제를 분석하는 대신, 그들은 뒤죽박죽 섞인 요구사항들을 모델에 던져 넣고는 형편없는 결과물에 화를 내며 "이 AI는 완전히 쓸모없어."라고 말합니다.
사실 인공지능이 멍청한 게 아니라, 당신이 제대로 생각해보지 않은 겁니다.
아무리 발전된 AI 모델이라 할지라도, 본질적으로는 "맥락"에 기반한 예측 기계일 뿐입니다. 따라서 출력 결과의 품질은 입력되는 맥락의 품질에 따라 크게 좌우됩니다. 이것이 바로 "쓰레기를 넣으면 쓰레기가 나온다"는 말의 현대판입니다.
21세기의 핵심 역량은 "명확한 표현력"과 "체계적인 사고력"으로 꼽힌다.
진정한 전문가는 채팅창을 열기도 전에 이미 철저한 정신적 시뮬레이션을 마쳤을 것이다.
1. 문제 정의: 해결해야 할 핵심적인 모순은 무엇인가?
2. 논리 분석: 이 큰 문제를 구성하는 하위 작업은 무엇이며, 그 하위 작업들 간의 의존 관계는 무엇인가?
3. 기준 설정: 어떤 결과가 허용 가능한 것으로 간주되는가?
예를 들어, AI를 활용하여 기능을 개발하기 전에 데이터 흐름을 명확히 했습니까? AI가 기사를 작성하기 전에 고유한 관점 프레임 구축했습니까?
인공지능이 "0에서 1까지" 생각하는 과정을 대신해 줄 거라고 기대하지 마세요.
AI는 (1부터 100까지의) 세부 정보를 채우는 데 탁월하지만, 그 "1", 즉 핵심 통찰력과 논리적 틀은 여러분이 제공해야 합니다.
인간 동료들에게 자신의 아이디어를 명확하게 설명할 수 없다면 인공지능을 통해 만족스러운 결과를 얻을 수는 없습니다.
명확한 글쓰기는 명확한 사고를 나타냅니다.
미래에는 자연어 프로그래밍이 보편적인 기술이 될 것입니다. 하지만 이는 프로그래밍이 더 쉬워진다는 의미가 아니라, 언어와 논리의 정확성이 새로운 코드의 핵심이 될 것이라는 뜻입니다.
사고방식이 혼란스러우면 AI는 그 혼란을 더욱 효율적으로 증폭시킬 뿐입니다.
III. 정보의 굴레에서 벗어나기: 99%의 사람들보다 본질에 더 가까이 다가가기
인공지능은 방대한 양의 기존 인간 데이터를 기반으로 학습되기 때문에 본질적으로 큰 결함, 즉 평균으로의 회귀라는 문제를 안고 있습니다.
인공지능에게 건강, 재정, 역사에 대한 관점 물어보면 대부분 "교과서적인" 답변을 내놓을 것입니다. 이러한 답변은 안전하고 정확하지만, 인터넷에서 가장 흔하게 접할 수 있는 정보를 단순히 반복하기 때문에 매우 평범한 경우가 많습니다.
이는 세 번째 차원, 즉 진실과 거짓을 구별하는 통찰력으로 이어집니다.
지식과 이해는 서로 다른 두 가지입니다.
- 지식이란 "이렇게 해야 한다"는 것을 아는 것입니다.
- 이해한다는 것은 "이것을 해야 하는 이유와 하지 말아야 할 때"를 아는 것을 의미합니다.
이것이 바로 장원훙과 젊은 의사들 사이의 근본적인 차이점입니다.
젊은 의사들은 인공지능을 통해 진단 결과, 약물 추천, 치료 계획과 같은 "지식"을 즉시 습득할 수 있습니다. 하지만 장원훙은 "이해력"을 갖추고 있습니다. 그는 이 지식의 한계가 어디까지인지, 언제 관습을 깨야 하는지, 그리고 인공지능이 제공하는 "표준적인 답변"이 언제 틀렸는지 알고 있습니다.
정보 과부하 시대에 단순히 암기식 학습과 알고리즘 추천에만 의존한다면, 거대한 "메아리 방" 안에서 기계적으로 정보를 반복하는 것과 다를 바 없습니다. 세상이 어떻게 돌아가는지 진정으로 이해하지 못하는 것이죠.
인공지능보다 더 똑똑해지려면, 우리는 대다수 사람들보다 사물의 본질(근본 원리)에 더 가까이 다가가야 합니다.
- 비즈니스를 이해하고 싶으신가요? 단순히 베스트셀러 책이나 재무제표를 읽는 데 그치지 마세요. 현금 흐름, 레버리지, 수요와 공급, 그리고 인간의 탐욕을 연구하세요.
- 건강을 이해하고 싶으신가요? 소위 권위 있는 지침만 맹목적으로 믿지 마시고, 신진대사, 호르몬, 염증 반응의 생물학적 메커니즘을 연구해 보세요.
인공지능이 "표준화된 제안"을 제시할 때, 그 시스템의 작동 방식을 진정으로 이해하는 사람만이 그 결함을 예리하게 포착하거나 특정 상황에서 인공지능의 제안을 결정적으로 뒤집을 수 있습니다.
장원훙이 말했듯이, 인공지능에 현혹될지 여부는 당신의 능력이 인공지능을 능가하는지에 달려 있습니다. 지식 면에서는 인공지능과 경쟁할 수 없고, 이해도 면에서만 경쟁할 수 있습니다.
미래의 경쟁 우위는 "훈련 데이터"에 의문을 제기하는 자들의 것입니다. 단순히 복제하는 것이 아니라, 직접 연습하고, 고통스러운 피드백 과정을 거치고, 독립적인 사고를 통해 검증한 자신만의 인지 시스템을 구축해야 합니다.
인공지능은 인류 전체 지식의 평균 수준을 나타냅니다. 평균을 뛰어넘으려면 인공지능에만 의존해서는 안 되며, 통계적 확률로는 도출할 수 없는 독창적인 통찰력을 갖춰야 합니다.
IV. 실행 값이 0이 된 후: 작업자에서 검사관으로
좀 더 장기적인 관점에서 보면, 역사가 완전히 반복되지는 않더라도 항상 비슷한 양상을 보인다.
1980년대 컴퓨터의 광범위한 보급은 회계사와 변호사들 사이에서 상당한 불안감을 불러일으켰습니다. 그 이전에는 변호사들이 판례 하나를 찾기 위해 수많은 사건 파일을 뒤지는 데 며칠씩 걸렸습니다. 하지만 전자 검색 기술의 등장으로 그 작업은 단 몇 초 만에 완료될 수 있게 되었습니다.
변호사들이 일자리를 잃었을까요? 아닙니다. 오히려 법조계는 규모가 커지고 더욱 복잡해졌습니다.
검색이 쉬워짐에 따라 의뢰인의 변호사에 대한 기대치도 높아졌습니다. 사람들은 더 이상 "판례를 찾는 것"에 비용을 지불하는 것이 아니라, "복잡한 판례에 기반한 독창적인 방어 전략을 개발하는 것"에 비용을 지불합니다.
마찬가지로, 인공지능이 코딩, 카피라이팅, 기본적인 진단 등을 대체함에 따라 인간의 역할은 근본적인 변화를 겪고 있습니다.
우리는 '장인'에서 '지휘관'으로, '실무자'에서 '검사관'으로 진화하고 있습니다.
과거에는 유능한 엔지니어가 시간의 50%를 코드 작성에, 나머지 50%를 아키텍처 설계에 할애했을 것입니다. 하지만 이제는 아키텍처 설계, 업무 이해, 사용자 경험 최적화에 90%의 시간을 투자하고, 코딩 작업은 AI에 맡기고 AI가 코드를 검토하도록 할 수 있습니다.
이는 작업의 복잡성에 대한 상한선이 열렸다는 것을 의미합니다.
이제 독립 개발자는 원래 10명의 팀이 필요했던 회사를 운영할 수 있고, 지식이 풍부한 프리랜서 미디어 제작자는 일주일이 걸리던 콘텐츠를 단 하루 만에 제작할 수 있으며, 장원홍과 같은 경력 있는 의사는 AI의 도움을 받아 과거에는 불가능했던 여러 사례를 처리할 수 있습니다.
이것이 바로 AI 시대의 "기술"에 대한 새로운 정의입니다:
이는 더 이상 단일 차원의 "전문화"가 아니라, 차원 간 통합 능력입니다.
벽돌을 하나하나 직접 쌓을 필요는 없지만, 건물의 구조적 역학을 알아야 하고, 외관을 결정할 미적 감각을 갖춰야 하며, 어디에 짓는 것이 가장 가치가 있을지 판단할 사업적 안목도 있어야 합니다.
이처럼 "거시적 수준의 제어 + 미시적 수준의 검증"이라는 포괄적인 역량이야말로 AI 시대의 안전한 미래를 보장하는 진정한 열쇠입니다.
장원홍이 강조한 두 가지 핵심 역량은 본질적으로 다음을 의미합니다.
1. AI 진단의 정확도를 평가합니다(미시적 검증).
2. AI가 처리할 수 없는 복잡하고 어려운 사례의 진단 및 치료 (거시적 수준의 제어)
이 두 가지 능력이 부족한 의사는 "인공지능 운영자"로만 간주될 수 있습니다.
결론: 차원의 장벽을 초월해야만 뒤처진 자들을 물리치는 짜릿함을 경험할 수 있다.
우리가 처음에 논의했던 현상으로 돌아가 봅시다. 왜 우리는 AI를 사용하면 사용할수록 더 무력감을 느낄까요?
인공지능은 "노력"을 통해 성취감을 얻을 권리를 박탈하기 때문입니다.
과거에는 공들여 멋진 보고서를 작성하면 큰 성취감을 느꼈지만, 이제 인공지능은 3초 만에 같은 작업을 해낼 수 있어 이러한 허황된 성취감은 순식간에 무너져 내립니다.
이것은 분명 고통스러운 일이지만, 동시에 깨달음을 주는 일이기도 합니다.
인공지능은 우리에게 가장 어려운 질문, 즉 기계적인 실행을 넘어 진정한 지적 가치는 어디에 있는가라는 질문에 직면하게 합니다.
생각하기를 거부하는 사람들에게는 지금이 최악의 시기입니다. 그들은 알고리즘의 완전한 노예가 되어, 평범한 정보의 껍데기에 갇히고 있다는 사실조차 깨닫지 못할 것입니다.
하지만 호기심이 많고, 독립적인 사고 능력을 지녔으며, 사물의 본질을 탐구하고자 하는 사람들에게는 지금이 인류 역사상 최고의 시대입니다.
- 모든 장벽이 허물어졌습니다.
- 천장이 모두 사라졌다.
- 당신은 인류 역사상 가장 강력한 싱크탱크와 실행팀을 24시간 내내 대기시키고 있습니다.
장원훙은 인공지능 자체에 반대하는 것이 아닙니다. 그가 반대하는 것은 기초 역량 개발을 건너뛰고 인공지능을 직접 사용하는 것, 즉 사고와 메타인지 기능을 인공지능에 맡기는 것입니다.
그는 30년의 경력을 바탕으로 인공지능을 매우 능숙하게 활용합니다. 그에게 인공지능은 호랑이에게 날개를 달아주는 것과 같지만, 그러한 경험이 부족한 젊은 의사들에게는 어린 묘목을 뽑아 성장을 돕는 것과 같거나, 갈증을 해소하기 위해 독약을 마시는 것과 같을 수도 있습니다.
21세기에 기술이 사라지지는 않겠지만, 훨씬 더 정교해질 것이다.
인공지능과 "문제 해결" 경쟁을 하려 하지 말고, "문제 창출" 경쟁을 하려 하세요.
인공지능을 게으름을 부리는 데 도움을 주는 도구로 여기는 대신, 고도의 지능을 활용하여 제어하고, 안내하고, 오류를 수정해야 하는 강력한 도구로 여길 때,
인공지능을 통해 보이는 것은 더 이상 평범한 당신의 모습이 아니라, 무한히 확대되고 강력한 초개인적인 존재입니다.
