Năm 2023, khi GPT-4 đạt được điểm số cao đáng kinh ngạc trong Kỳ thi Tư cách Y khoa Hoa Kỳ (USMLE), không chỉ OpenAI mà cả Thung lũng Silicon cũng hân hoan, và tương lai của trí tuệ nhân tạo trong y học dường như rất tươi sáng.
Ba năm sau, các chuyên gia hàng đầu đã công khai bày tỏ sự phản đối việc tích hợp trí tuệ nhân tạo vào hệ thống hồ sơ y tế của bệnh viện .
Có người phản đối trí tuệ nhân tạo, và có người lại phản đối trí tuệ nhân tạo.
Tiếng nói phản đối đến từ Zhang Wenhong, giám đốc Khoa Bệnh truyền nhiễm tại Bệnh viện Huashan trực thuộc Đại học Fudan. Phát biểu tại một diễn đàn gần đây, chuyên gia này, với nhiều năm kinh nghiệm lâm sàng, đã trực tiếp đề cập đến mối lo ngại cốt lõi: các bác sĩ trẻ cần được đào tạo chuyên nghiệp để đánh giá ưu điểm của trí tuệ nhân tạo.
Ảnh do Đài truyền hình Thâm Quyến cung cấp.
Ông ấy không phản đối việc sử dụng AI; thực tế, ông ấy đã đề cập đến việc tự mình sử dụng nó, để nó xử lý lượng lớn hồ sơ y tế trong thời gian ngắn. Tuy nhiên, ông ấy có thể "phát hiện" ra các vấn đề "chỉ trong nháy mắt". Các bác sĩ trẻ, bỏ qua quá trình đào tạo và kinh nghiệm, dựa vào AI để đưa ra các chẩn đoán phù hợp với các chuyên gia cấp cao, nhưng họ không thể thực sự hiểu được tính đúng hay sai của kết quả do AI đưa ra.
Một số người không thích nghe điều này. Wang Xiaochuan, người sáng lập Baichuan Intelligent, một công ty đang chuẩn bị tạo nên tiếng vang trong lĩnh vực y tế, đã "phản đối sự phản đối của Zhang Wenhong".
Nguồn ảnh: Phoenix V Live
Theo quan điểm của ông, trí tuệ nhân tạo (AI) đang xâm phạm "lợi nhuận" của các bác sĩ, điều này trái ngược với lợi ích của họ. Các bác sĩ ưu tiên giảng dạy và nghiên cứu để thăng tiến. Ngược lại, AI là thứ phục vụ bệnh nhân.
Điều này ngụ ý rằng các bác sĩ chỉ quan tâm đến tiền của bạn và không quan tâm đến tính mạng của bạn. Tuy nhiên, trong hệ thống chăm sóc sức khỏe, hiệu quả làm việc của bác sĩ và lợi ích của bệnh nhân thường gắn bó chặt chẽ với nhau. Nếu trí tuệ nhân tạo có thể cải thiện đáng kể hiệu quả và giảm thiểu chẩn đoán sai, chẳng phải đó sẽ là dịch vụ tốt nhất cho bệnh nhân sao?
Ông nhấn mạnh thêm rằng các bác sĩ quá bận rộn để sử dụng AI, và AI không thể giúp họ viết bài báo hoặc xin các danh hiệu chuyên môn. Kết luận ông đưa ra là AI nên phục vụ bệnh nhân. Ngay từ ngày đầu tiên nộp đơn xin học chương trình Thạc sĩ Luật, việc tối ưu hóa quy trình và hỗ trợ ra quyết định đã là nhiệm vụ được giao. Điều này không dẫn đến kết luận rằng AI nên phục vụ bệnh nhân, càng không phải là kết luận rằng "khi AI đủ mạnh, thì không cần bác sĩ nữa".
Người ta nói rằng quan điểm của Trương Văn Hồng bị chi phối bởi lợi ích cá nhân, nhưng với tư cách là CEO của một công ty AI, việc Vương Tiểu Xuyên chủ trương sử dụng AI để phục vụ trực tiếp cá nhân cũng là một ví dụ cho thấy quan điểm của ông bị chi phối bởi lợi ích cá nhân.
Chăm sóc sức khỏe dựa trên trí tuệ nhân tạo là một thị trường đầy tiềm năng.
Lĩnh vực chăm sóc sức khỏe AIx thực sự là một cơ hội sinh lợi, và không chỉ có Wang Xiaochuan đang nhắm đến nó; các tập đoàn nước ngoài cũng đã nhiều lần thăm dò thị trường.
Tuần trước, OpenAI đã phát hành ChatGPT Health, ứng dụng tích hợp dữ liệu từ Apple Health, hồ sơ y tế cá nhân và dữ liệu từ các ứng dụng sức khỏe khác, sau đó sử dụng trí tuệ nhân tạo để phân tích và đưa ra các khuyến nghị. (liên kết)
Trên toàn cầu, hơn 230 triệu người sử dụng ChatGPT để được tư vấn sức khỏe , phản ánh mức độ nhu cầu của người dùng. Tuy nhiên, OpenAI thận trọng, nhấn mạnh rằng ứng dụng này không nên thay thế lời khuyên y tế chuyên nghiệp, và kế hoạch sản phẩm của họ tập trung chủ yếu vào việc cung cấp lời khuyên về duy trì sức khỏe hàng ngày.
Anthropic, công ty mẹ của Claude, cũng đã công bố kế hoạch mở rộng khả năng của Claude trong lĩnh vực y tế. Dựa trên hiệu năng của Opus 4.5, hiệu suất của mô hình Claude khá tốt.
Tuy nhiên, thiết kế của Claude không hoàn toàn tập trung vào bệnh nhân. Việc ra mắt Claude For Healthcare đóng vai trò như một cầu nối, giúp các bác sĩ và chuyên gia chăm sóc sức khỏe nhanh chóng và dễ dàng rút thông tin từ các hệ thống và cơ sở dữ liệu tiêu chuẩn ngành. Đối với người dùng cá nhân, vai trò của Claude là tóm tắt bệnh sử, giải thích kết quả xét nghiệm và chỉ báo, cũng như chuẩn bị câu hỏi cho các cuộc hẹn, từ đó nâng cao hiệu quả giao tiếp giữa bệnh nhân và bác sĩ.
Cả hai gã khổng lồ AI này đều đã thâm nhập lĩnh vực chăm sóc sức khỏe, nhưng không công ty nào đặt mục tiêu thay thế bác sĩ. Chỉ có một công ty đang làm điều đó: Grok.
Suy cho cùng, chủ sở hữu của Grok là Elon Musk, người dường như muốn đưa toàn bộ nhân loại lên vũ trụ. Trong nhiều cuộc phỏng vấn, ông đã tuyên bố rằng một bác sĩ con người chỉ có thể đọc một lượng tài liệu y khoa hạn chế và nhớ được một số lượng ca bệnh nhất định. Mặt khác, trí tuệ nhân tạo (AI) có thể đọc tất cả các bài báo y khoa trong lịch sử loài người chỉ trong vài giây và nắm vững tất cả các kế hoạch điều trị mới nhất. Về độ chính xác chẩn đoán thuần túy, con người không thể cạnh tranh với AI.
Ông cũng đưa cho Grok báo cáo máu của mình, yêu cầu nó xác định vấn đề, và nói rằng phán đoán của Grok đôi khi nhanh hơn và chính xác hơn cả bác sĩ.
Điều đó đưa chúng ta trở lại với những gì Trương Văn Hồng đã nói: càng dựa dẫm vào AI, bạn càng dễ bị nghiện.
Khả năng phán đoán cần được rèn luyện.
Ngay cả trước khi sự bùng nổ trí tuệ nhân tạo hiện nay được thúc đẩy bởi các mô hình ngôn ngữ quy mô lớn, những vấn đề tương tự đã nảy sinh khi các khoa X quang đưa vào sử dụng hệ thống CAD.
Hệ thống CAD, viết tắt của Computer-Aided Detection (Phát hiện hỗ trợ bằng máy tính), hiện là công cụ không thể thiếu trong chẩn đoán hình ảnh y tế. Tuy nhiên, "thiên kiến tự động hóa" do sự ra đời của CAD chính là điều mà Zhang Wenhong lo ngại. Năm 2004, một nghiên cứu tại Anh cho thấy rằng khi hệ thống CAD không đánh dấu được tổn thương, chẳng hạn như do bỏ sót hoặc dán nhãn sai, độ nhạy phát hiện của các bác sĩ X quang giảm đáng kể, đặc biệt là những người sử dụng hỗ trợ CAD, có độ nhạy thậm chí còn thấp hơn nhóm đối chứng.
Một nghiên cứu gần đây hơn, được thực hiện vào năm 2020, về phát hiện ung thư da cho thấy rằng khi trí tuệ nhân tạo (AI) đưa ra chẩn đoán chính xác, tỷ lệ chính xác đã được cải thiện đối với tất cả các bác sĩ. Tuy nhiên, khi chẩn đoán không chính xác, tỷ lệ chính xác giảm mạnh hơn đối với các bác sĩ ít kinh nghiệm. Nhìn chung, độ chính xác tốt nhất đạt được khi AI và các bác sĩ cùng hợp tác trong chẩn đoán.
Các chuyên gia giàu kinh nghiệm như Trương Văn Hồng có thể nhận ra ngay lập tức sự giả mạo của AI vì họ đã tích lũy hàng chục năm kinh nghiệm từ các ca bệnh. Tuy nhiên, nếu các bác sĩ trẻ bắt đầu sử dụng AI để viết hồ sơ bệnh án và chẩn đoán bệnh ngay từ khi còn trong thời gian thực tập, "kho dữ liệu" trong đầu họ sẽ vẫn trống rỗng.
Do đó, luôn tiềm ẩn rủi ro rất lớn khi để AI thực hiện bất cứ điều gì "trong một bước". Điều này đúng với việc thay thế bác sĩ trong một bước, và càng đúng hơn nữa với việc trực tiếp phục vụ bệnh nhân trong một bước.
Trước đây chúng ta thường có những câu nói đùa kiểu như "Nếu bạn tra cứu lời khuyên y tế trên Baidu, bạn sẽ bắt đầu với bệnh ung thư." Vấn đề lớn nhất của trí tuệ nhân tạo tạo sinh hiện nay là sự tự tin thái quá, dẫn đến những chẩn đoán sai nghiêm trọng. Ngay cả những lời khuyên y tế không chính xác cũng có thể được đưa ra với sức thuyết phục rất cao, trích dẫn nhiều nguồn (thậm chí cả tài liệu ngụy tạo).
Nguồn ảnh: Xiaohongshu
Nếu ngay cả những bác sĩ trẻ với nhiều năm kinh nghiệm chuyên môn cũng dễ bị mất cảnh giác trước sự tự tin của AI và những thành kiến tự động hóa đang phát triển, thì đối với người dùng thông thường không có bối cảnh y khoa, "ảo ảnh hoàn hảo" này càng đáng lo ngại hơn, và về cơ bản không khác gì việc tin tưởng mù quáng vào danh xưng "chuyên gia".
Liệu trí tuệ nhân tạo (AI) có hữu ích cho sức khỏe của người dân bình thường? Chắc chắn là có, nếu không thì đã không có đến 230 triệu hồ sơ người dùng. Tuy nhiên, cần phân biệt hai điểm: Thứ nhất, điều trị bệnh và duy trì sức khỏe là hai việc khác nhau. Duy trì sức khỏe bao gồm chế độ ăn uống và lối sống hàng ngày, bổ sung dưỡng chất, kế hoạch tập thể dục, v.v., tất cả đều không gây ra rủi ro đáng kể cho tính mạng.
Việc điều trị bệnh tật rõ ràng phức tạp hơn nhiều. Hiện nay, AI thường được sử dụng nhất để phân tích triệu chứng, diễn giải chỉ báo trong báo cáo xét nghiệm và cung cấp hướng dẫn sử dụng thuốc đơn giản.
Nói một cách đơn giản hơn: với sự hướng dẫn của AI, bạn có thể có thêm thời gian để nghỉ làm và đến bệnh viện. Xét đến việc đặt lịch hẹn khám bệnh ở Trung Quốc hiện nay rất khó khăn, và một số xét nghiệm cần phải đặt lịch trước, không phải ai cũng có điều kiện đến bệnh viện ngay khi xuất hiện triệu chứng — ngay cả bệnh viện cộng đồng cũng có thể có hàng dài người chờ đợi.
Do đó, với sự trợ giúp của trí tuệ nhân tạo, các triệu chứng có thể được giảm nhẹ, giúp có thêm thời gian sử dụng các loại thuốc cơ bản, ngăn ngừa bệnh trở nặng và giảm bớt sự khó chịu.
Là "người chịu trách nhiệm chính" về sức khỏe của chính mình, chúng ta không nên bỏ qua việc trau dồi và rèn luyện khả năng phán đoán; đó mới là cách thực sự để từ bỏ quyền kiểm soát và quyền ra quyết định.
Bài viết này được đăng tải từ tài khoản chính thức WeChat "APPSO" , do Discover Tomorrow's Products biên soạn và được xuất bản với sự cho phép của 36Kr.
