2023년 GPT-4가 미국 의사면허시험(USMLE)에서 놀라울 정도로 높은 점수를 획득했을 때, 오픈AI뿐만 아니라 실리콘밸리 전체가 환호했고, 의학 분야에서 인공지능의 미래는 밝아 보였다.
3년 후, 최고 전문가들은 인공지능을 병원 의료 기록 시스템에 통합하는 것에 대한 반대 입장을 명확히 밝혔습니다.
인공지능에 반대하는 사람들도 있고, 인공지능에 반대하는 사람들도 있다.
반대 의견은 푸단대학교 부속 화산병원 감염병학과 과장인 장원훙 박사로부터 나왔다. 최근 포럼에서 오랜 임상 경험을 가진 이 전문가는 핵심적인 우려 사항을 직접적으로 지적했다. 젊은 의사들이 인공지능의 장점을 판단할 수 있도록 전문적인 교육이 필요하다는 것이다.
이미지는 선전TV에서 제공했습니다.
그는 인공지능 사용 자체에 반대하는 것은 아닙니다. 실제로 그는 자신이 직접 인공지능을 사용해 대량 의 의료 기록을 단시간에 처리하는 것을 언급한 바 있습니다. 하지만 그는 "한눈에" 문제점을 "발견"할 수 있을 뿐입니다. 젊은 의사들은 훈련과 경험을 건너뛰고 인공지능에 의존하여 경험 많은 전문가들과 일치하는 진단을 내리지만, 인공지능 결과의 정확성을 진정으로 이해할 수는 없습니다.
일부 사람들은 이 소식을 듣고 불쾌감을 드러냈다. 의료계에 큰 파장을 일으킬 것으로 예상되는 바이촨 인텔리전트의 창립자 왕샤오촨은 "장원훙의 반대에 반대했다"고 밝혔다.
이미지 출처: Phoenix V Live
그의 견해로는 AI는 의사들의 "수익"을 침해하고 있으며, 이는 의사들의 이익에 반하는 것입니다. 의사들은 승진을 위해 교육과 연구를 우선시합니다. 반면 AI는 환자에게 도움이 되는 것입니다.
이는 의사들이 오직 돈만 밝히고 환자의 생사에는 관심이 없다는 함의를 내포하고 있습니다. 그러나 의료 시스템 내에서 의사의 효율성과 환자의 이익은 밀접하게 연관되어 있는 경우가 많습니다. 인공지능이 효율성을 크게 향상시키고 오진을 줄일 수 있다면, 그것이야말로 환자에게 가장 이로운 서비스가 아닐까요?
그는 의사들이 인공지능을 활용할 시간이 없을 정도로 바쁘고, 인공지능이 논문 작성이나 전문 자격 취득을 도와줄 수도 없다고 강조했습니다. 그가 내린 결론은 인공지능이 환자를 위해 사용되어야 한다는 것이었습니다. LLM 과정 지원 첫날부터 프로세스 최적화와 의사결정 지원이 과제였습니다. 하지만 이것이 인공지능이 환자를 위해 사용되어야 한다는 결론으로 이어지는 것은 아니며, 더 나아가 "인공지능이 충분히 강력해지면 의사가 없어도 괜찮다"는 결론으로 이어지는 것은 더더욱 아닙니다.
장원훙의 관점은 그의 사익에 따라 결정된다는 말이 있지만, AI 회사 CEO인 왕샤오촨이 AI가 개인에게 직접적인 서비스를 제공해야 한다고 주장하는 것 역시 그의 관점이 그의 사익에 따라 결정된 사례라고 할 수 있다.
인공지능 기반 의료 서비스는 수익성이 높은 시장입니다.
AIx 헬스케어는 확실히 수익성이 높은 사업 기회이며, 왕샤오촨뿐만 아니라 해외 대기업들도 인수를 시도하는 사례가 끊이지 않고 있습니다.
지난주, OpenAI는 Apple Health 데이터, 개인 의료 기록 및 기타 건강 앱의 데이터를 통합한 후 AI를 사용하여 분석 및 권장 사항을 제공하는 ChatGPT Health를 출시했습니다. (링크)
전 세계적으로 2억 3천만 명이 넘는 사람들이 건강 관련 조언을 얻기 위해 ChatGPT를 사용하고 있으며 , 이는 사용자 수요의 높은 수준을 반영합니다. 그러나 OpenAI는 전문적인 의료 조언을 대체해서는 안 된다는 점을 강조하며 신중한 입장을 보이고 있으며, 제품 개발 계획은 주로 일상적인 건강 관리에 필요한 조언을 제공하는 데 초점을 맞추고 있습니다.
클로드의 모회사인 앤트로픽은 클로드의 의료 분야 활용 능력을 확장할 계획도 발표했습니다. 오푸스 4.5의 성능으로 판단컨대, 클로드 모델의 성능은 상당히 우수합니다.
그렇긴 하지만, 클로드의 디자인은 환자 중심적인 것은 아닙니다. 클로드 포 헬스케어(Claude For Healthcare)는 의사와 의료 전문가들이 업계 표준 시스템 및 데이터베이스에서 정보를 빠르고 쉽게 클레임 있도록 지원하는 연결고리 역할을 합니다. 개별 사용자에게 클로드는 병력 요약, 검사 결과 및 지표 해석, 진료 예약 시 질문 준비 등을 지원하여 환자와 의사 간의 효율적인 소통을 돕습니다.
이 두 AI 거대 기업 모두 의료 분야에 진출했지만, 어느 쪽도 의사를 대체하려는 목표는 없습니다. 의사를 대체하려는 기업은 그록(Grok)뿐입니다.
그록의 소유주는 다름 아닌 일론 머스크인데, 그는 인류 전체를 우주로 보내고 싶어하는 듯합니다. 여러 인터뷰에서 그는 인간 의사는 제한된 양의 의학 문헌을 읽고 제한된 수의 사례만 기억할 수 있다고 주장했습니다. 반면 AI는 인류 역사상 모든 의학 논문을 단 몇 초 만에 읽고 최신 치료법을 모두 숙지할 수 있다는 것입니다. 순수한 진단 정확도 측면에서 인간은 AI를 따라잡을 수 없습니다.
그는 또한 그록에게 자신의 엑스레이 사진과 혈액 검사 결과를 보여주며 문제점을 파악해 달라고 요청했고, 그록의 판단이 때때로 의사들보다 더 빠르고 정확하다고 말했다.
이는 장원훙이 말했던 것처럼, 인공지능에 의존할수록 중독되는 경향이 더 강해진다는 사실로 다시 돌아가게 합니다.
판단력은 훈련이 필요하다.
현재의 인공지능 붐이 대규모 언어 모델에 의해 촉발되기 이전에도, 영상의학과에서 CAD 시스템을 도입했을 때 비슷한 문제가 발생했습니다.
CAD 시스템(컴퓨터 보조 진단)은 이제 의료 영상 분야에서 없어서는 안 될 필수 도구가 되었습니다. 그러나 장원홍은 CAD 도입으로 인한 "자동화 편향"을 우려해 왔습니다. 2004년 영국에서 실시된 한 연구에 따르면, CAD 시스템이 병변을 태그 하지 못하는 경우(예: 누락 또는 오표시) 방사선 전문의의 병변 탐지 민감도가 크게 감소하는 것으로 나타났으며, 특히 CAD 보조 시스템을 사용하는 전문의의 민감도는 대조군보다도 낮았습니다.
2020년에 실시된 피부암 진단에 관한 최근 연구에 따르면, AI가 정확한 진단을 내렸을 때 모든 의사의 정확도가 향상되었습니다. 그러나 진단이 잘못되었을 경우, 경험이 부족한 의사일수록 정확도가 급격히 떨어졌습니다. 전반적으로 AI와 의사가 협력하여 진단했을 때 가장 높은 정확도를 얻을 수 있었습니다.
장원훙과 같은 경험 많은 전문가들은 수십 년간 축적된 사례 데이터베이스를 머릿속에 가지고 있기 때문에 AI의 속임수를 한눈에 간파할 수 있습니다. 그러나 젊은 의사들이 인턴십 기간 동안 AI를 이용해 진료 기록을 작성하고 진단을 내리기 시작하면, 그들의 머릿속 "데이터베이스"는 텅 비어 있는 상태입니다.
따라서 인공지능이 어떤 일을 "단번에" 처리하도록 하는 데에는 항상 엄청난 리스크 따릅니다. 이는 의사를 단번에 대체하는 경우에도 마찬가지이며, 환자에게 직접적인 서비스를 단번에 제공하는 것은 더욱 위험합니다.
"바이두에 의료 상담을 의뢰하면 암 진단부터 받게 될 거야"라는 농담이 있곤 했습니다. 현재 생성형 AI의 가장 큰 문제는 지나친 확신으로 인해 심각한 오진을 초래한다는 점입니다. 심지어 조작된 자료까지 인용하며 잘못된 의료 조언조차도 매우 설득력 있게 전달될 수 있습니다.
이미지 출처: 샤오홍슈
수년간의 전문 교육을 받은 젊은 의사들조차 AI의 자신감과 자동화 편향 앞에서 경계를 늦추기 쉽다면, 의학적 배경이 전혀 없는 일반 사용자들에게는 이러한 "완벽한 환상"이 더욱 경계할 만한 대상이며, 본질적으로 "전문가"라는 칭호를 맹목적으로 믿는 것과 다를 바 없습니다.
인공지능이 일반인의 건강에 유용할까요? 물론입니다. 그렇지 않았다면 2억 3천만 건의 사용자 기록이 존재할 이유가 없겠죠. 하지만 두 가지 중요한 점을 구분해야 합니다. 첫째, 질병 치료와 건강 유지는 별개의 문제입니다. 건강 유지는 일상적인 식단과 생활 습관, 영양제 섭취, 운동 계획 등을 포함하며, 이러한 것들은 생명에 중대한 리스크 초래하지 않습니다.
질병 치료는 분명히 훨씬 더 복잡합니다. 현재 인공지능은 주로 증상 분석, 검사 결과 보고서의 지표 해석, 간단한 약물 복용 지침 제공에 사용되고 있습니다.
더 간단히 말하자면, AI 안내를 통해 직장에서 휴가를 내고 병원에 갈 시간을 벌 수 있다는 것입니다. 요즘 중국에서는 병원 예약이 어렵고 일부 검사는 예약이 필수이기 때문에, 증상이 나타나자마자 바로 병원에 갈 수 있는 사람은 많지 않습니다. 심지어 지역 병원조차도 대기 줄이 길 수 있습니다.
따라서 AI의 도움으로 증상을 완화하여 기본적인 약물 치료를 받을 시간을 벌고, 질병의 악화를 막고 불편함을 줄일 수 있습니다.
우리 자신의 건강에 대한 "일차적 책임자"로서, 우리는 스스로 판단하는 능력을 기르고 훈련하는 것을 소홀히 해서는 안 됩니다. 그것이야말로 통제력과 의사결정권을 내려놓는 진정한 방법입니다.
이 글은 위챗 공식 계정 "APPSO" 에서 Discover Tomorrow's Products가 작성하고 36Kr의 허가를 받아 게시한 글입니다.
