1. Các cuộc trò chuyện riêng tư của người dùng ChatGPT đột nhiên xuất hiện trên Google Tìm kiếm
Gần đây, người dùng ChatGPT đã vô cùng ngạc nhiên khi thấy lịch sử trò chuyện của họ với mô hình trí tuệ nhân tạo (AI) xuất hiện trong kết quả tìm kiếm của Google. Một số người dùng phát hiện ra rằng họ có thể tìm thấy hàng ngàn cuộc trò chuyện giữa người lạ và trợ lý AI bằng cách tìm kiếm trên Google theo cụm từ "site:chatgpt.com/share".
Fast Company đã vạch trần vấn đề quyền riêng tư vào thứ Tư, báo cáo rằng 4.500 cuộc trò chuyện ChatGPT đã được tìm thấy trong kết quả tìm kiếm của Google, nhiều cuộc trò trong đó không chứa thông tin cá nhân hoặc thông tin nhận dạng. Dữ liệu này có thể không đầy đủ, vì Google có thể không lập chỉ mục tất cả các cuộc trò chuyện. Nhiều khả năng những cuộc trò chuyện này chỉ là một mẫu các cuộc trò chuyện "được hàng triệu người xem".
Fast Company phát hiện ra rằng Google đã lập chỉ mục các liên kết của ChatGPT, được tạo ra bởi người dùng chủ động nhấn vào nút "Chia sẻ", thông qua các tìm kiếm cơ bản trên trang web Google. Những cuộc trò chuyện bị lộ này chứa lượng lớn thông tin cá nhân sâu sắc, bao gồm những trải nghiệm cá nhân độc đáo và chi tiết riêng tư về sức khỏe . Trớ trêu thay, một số người dùng thậm chí còn bày tỏ lo ngại rằng mô hình AI có thể đang theo dõi họ. Mặc dù ChatGPT không tiết lộ danh tính người dùng, một số cá nhân có thể đã để lộ danh tính của mình bằng cách chia sẻ thông tin cá nhân rất cụ thể trong các cuộc trò chuyện.
Ví dụ, trong số các kết quả tìm kiếm, có những người đang tìm kiếm sự trợ giúp: một người dùng đã yêu cầu ChatGPT giúp cô ấy tìm một người bạn đời có tính cách hung hăng thụ động, và một cựu chiến binh gần đây cho biết họ "cảm thấy cô đơn, căng thẳng và khó khăn" và đã hỏi ChatGPT về các nhóm hỗ trợ tại địa phương.
Một người dùng khác kể chi tiết về mối quan hệ của họ với bạn đời và những trải nghiệm không vui ở nước ngoài, cho biết họ đang mắc chứng rối loạn căng thẳng sau chấn thương (PTSD) và đang tìm kiếm sự hỗ trợ. Họ cũng kể chi tiết về lịch sử gia đình và mối quan hệ với người thân và bạn bè.
Một cuộc trò chuyện khác thảo luận về mức độ phổ biến của các hành vi bệnh lý ở trẻ em và độ tuổi biểu hiện của những hành vi này, trong khi một người dùng khác tiết lộ rằng họ là những người sống sót sau quá trình lập trình tâm lý và đang tìm cách tự giải mã để giảm bớt chấn thương mà họ cảm thấy.
Giám đốc An ninh thông tin của OpenAI, Dane Stuckey, giải thích tại X rằng tất cả người dùng có nhật ký trò chuyện bị lộ đều chọn lập chỉ mục nhật ký trò chuyện của họ bằng cách nhấn hộp sau khi chọn chia sẻ chúng.
Fast Company lưu ý rằng người dùng thường chia sẻ các cuộc trò chuyện trên WhatsApp hoặc chọn lưu liên kết để truy cập sau. Tuy nhiên, như Fast Company giải thích, người dùng có thể chia sẻ các cuộc trò chuyện vì định dạng văn bản gây hiểu lầm:
Khi người dùng nhấn"Chia sẻ", họ sẽ thấy tùy chọn đánh dấu vào ô "Cho phép người khác khám phá cuộc trò chuyện này". Bên dưới ô đó, bằng văn bản nhỏ hơn, nhạt hơn, là cảnh báo rằng cuộc trò chuyện có thể xuất hiện trong kết quả của công cụ tìm kiếm.
Nguồn ảnh: ChatGPT qua Dane Stuckey trên X-Sharing Box
Theo báo cáo của Fast Company hôm thứ Năm, OpenAI ban đầu lập luận rằng nhãn này "đủ rõ ràng" để nhận thấy. Tuy nhiên, Stuckey xác nhận: "Cuối cùng, chúng tôi cho rằng tính năng này tạo ra quá nhiều cơ hội cho người dùng vô tình chia sẻ nội dung không mong muốn, vì vậy chúng tôi quyết định xóa nó", ông nói. "Chúng tôi cũng đang nỗ lực xóa nội dung đã được lập chỉ mục khỏi các công cụ tìm kiếm có liên quan. Thay đổi này sẽ được triển khai cho tất cả người dùng vào sáng mai."
Theo Fast Company, những nội dung này bao gồm các cuộc trò chuyện về việc sử dụng ma túy, đời sống tình dục, sức khỏe tâm thần và những trải nghiệm về chấn thương .
Carissa Veliz, một nhà đạo đức học AI tại Đại học Oxford, chia sẻ với Fast Company rằng bà "kinh hoàng" khi Google ghi lại "những cuộc trò chuyện cực kỳ nhạy cảm này".
Veliz lo ngại rằng điều này báo trước cách tiếp cận mà các công ty công nghệ lớn sẽ áp dụng khi nói đến quyền riêng tư. "Đây là bằng chứng nữa cho thấy OpenAI không phải là một công ty đáng tin cậy và dù họ có nói gì đi nữa, họ cũng không coi trọng quyền riêng tư", bà nói. "Điều quan trọng là những gì họ làm."
Trước đây, hồ sơ trò chuyện của người dùng ChatGPT đã xuất hiện trong kết quả tìm kiếm của Google và thu hút sự chú ý rộng rãi. Giờ đây, nhiều thông tin hơn về lịch sử và tiến trình phát triển của tính năng này đã xuất hiện, khiến cuộc thảo luận về các vấn đề quyền riêng tư của người dùng trở nên sôi nổi hơn.
OpenAI đã cung cấp tính năng chia sẻ liên kết trong ChatGPT ít nhất là từ tháng 5 năm 2023, khi công ty nêu rõ trong tài liệu của mình rằng các liên kết được chia sẻ "không được lập chỉ mục bởi các công cụ tìm kiếm". Tuy nhiên, đầu năm nay, tài liệu đã được thay đổi thành "bạn có thể chọn chia sẻ bài viết thông qua liên kết hoặc cho phép các công cụ tìm kiếm lập chỉ mục".
OpenAI không trả lời ngay lập tức yêu cầu làm rõ về thời điểm thay đổi tài liệu.
Nỗ lực dọn dẹp tìm kiếm của OpenAI dường như đang tiến triển, nhưng vẫn chưa hoàn tất. Tìm kiếm "site:chatgpt.com/share" trên Google không còn trả về danh sách các cuộc trò chuyện được lập chỉ mục đã chia sẻ. Tuy nhiên, tìm kiếm trên Bing vẫn trả về hàng nghìn kết quả, và DuckDuckGo và Brave cũng mang lại lượng lớn kết quả, nhiều kết quả trong số đó chứa thông tin cá nhân .
2. Người phát ngôn của OpenAI ám chỉ: "Đây là vấn đề của chính người dùng"
Stuckey gọi tính năng này là một "thử nghiệm ngắn hạn" do OpenAI triển khai để "giúp mọi người tìm thấy các cuộc trò chuyện hữu ích". Tính đến sáng thứ Sáu, ông xác nhận rằng quyết định xóa tính năng này cũng bao gồm "xóa nội dung được lập chỉ mục khỏi các công cụ tìm kiếm có liên quan".
Google đã không phản hồi báo cáo của Fast Company, điều này không làm rõ nhân vật của họ trong việc nội dung trò chuyện xuất hiện như thế nào trong kết quả tìm kiếm. Tuy nhiên, khi được giới truyền thông liên hệ, một người phát ngôn cho biết OpenAI chịu toàn bộ trách nhiệm lập chỉ mục và làm rõ: " Google hay bất kỳ công cụ tìm kiếm nào khác đều không kiểm soát được những trang nào được công khai trên web. Nhà xuất bản của những trang đó có toàn quyền quyết định liệu chúng có được lập chỉ mục bởi các công cụ tìm kiếm hay không. "
OpenAI dường như cũng chịu trách nhiệm duy nhất trong việc xóa nhật ký trò chuyện, và có lẽ phương pháp điều đó là sử dụng một công cụ do Google cung cấp để chặn trang xuất hiện trong kết quả tìm kiếm. Tuy nhiên, công cụ này không ngăn trang được các công cụ tìm kiếm khác lập chỉ mục, vì vậy nhật ký trò chuyện có thể biến mất khỏi kết quả tìm kiếm của Google nhanh hơn các công cụ tìm kiếm khác.
Người dùng ChatGPT Velis nói với Fast Company rằng ngay cả những thử nghiệm "ngắn hạn" như thế này cũng "đáng lo ngại", lưu ý rằng " các công ty công nghệ đang sử dụng những người bình thường làm đối tượng thí nghiệm ", thu hút một lượng lớn người dùng bằng các sản phẩm AI mới và chờ xem họ có thể phải đối mặt với hậu quả gì vì những lựa chọn thiết kế mang tính xâm lấn.
“ Họ đã thực hiện một số bước để thử nghiệm trong cộng đồng để xem có ai phàn nàn không ”, Willis nói.
Để kiểm tra xem các cuộc trò chuyện riêng tư có còn được lập chỉ mục hay không, lời giải thích của Fast Company gợi ý rằng những người dùng vẫn có quyền truy cập vào các liên kết được chia sẻ của họ có thể thử nhập "phần liên kết được tạo khi ai đó chủ động nhấn'Chia sẻ' trên ChatGPT [để] khám phá cuộc trò chuyện", phần này vẫn có thể được khám phá trên Google.
OpenAI đã từ chối yêu cầu bình luận của Ars, nhưng tuyên bố của Stuckey cho thấy công ty biết rằng họ phải lấy lại niềm tin sau những sai lầm của mình.
Stuckey cho biết: "Bảo mật và quyền riêng tư là điều tối quan trọng đối với chúng tôi và chúng tôi sẽ tiếp tục nỗ lực để tối đa hóa điều này trong các sản phẩm và tính năng của mình".
Đáng chú ý, vụ bê bối xảy ra sau khi OpenAI tuyên bố sẽ chống lại lệnh của tòa án yêu cầu công ty phải lưu giữ tất cả các cuộc trò chuyện đã xóa "vô thời hạn", điều này khiến người dùng ChatGPT lo lắng vì trước đó họ đã được đảm bảo rằng các cuộc trò chuyện tạm thời và đã xóa của họ sẽ không được lưu.
Cho đến nay, OpenAI đã thua trong cuộc chiến đó, và những cuộc trò chuyện đó có thể sẽ sớm bị tìm kiếm trong vụ kiện. Mặc dù CEO của OpenAI, Sam Altman, cho rằng khả năng tìm kiếm các cuộc trò chuyện riêng tư nhất của người dùng là một "vụ nổ", Fast Company lưu ý rằng Altman dường cho rằng không công khai chỉ trích OpenAI vì có khả năng tiết lộ các cuộc trò chuyện riêng tư của người dùng cho Google và các công cụ tìm kiếm khác.
3. Cư dân mạng nghĩ gì?
Mặc dù OpenAI đã hứa sẽ xóa tính năng này, nhưng các cuộc thảo luận về sự cố lần trên các nền tảng như Hacker News, Reddit và X vẫn tiếp tục nóng lên.
Một số người dùng thắc mắc tại sao OpenAI không thể tránh được vấn đề này mặc dù mô hình của họ rất mạnh.
"Nếu AI của bạn mạnh mẽ đến vậy, tại sao bạn không thể phát hiện xem có dữ liệu nào đang được chia sẻ trong cuộc trò chuyện hay không và vô hiệu hóa nó vĩnh viễn, hoặc cho phép cài đặt theo từng cuộc trò chuyện? Điều đó dường như trái ngược với tất cả những lời cường điệu về AI."
Một số cư dân mạng cũng cho rằng ChatGPT nên đưa ra cảnh báo đơn giản cho người dùng trước khi sử dụng chức năng này, đây không phải là nhiệm vụ khó khăn đối với các mô hình lớn.
Một số cư dân mạng cũng chỉ ra rằng nếu vấn đề riêng tư không được xử lý đúng cách thì dù công nghệ có tiên tiến đến đâu cũng vô ích, bởi một khi niềm tin bị phá vỡ, người dùng sẽ rời bỏ:
"Sự cố lần phơi bày một sự thật cơ bản về AI: một khi niềm tin đã bị phá vỡ, việc xây dựng lại sẽ vô cùng khó khăn. Mặc dù phản ứng nhanh chóng của OpenAI có thể hạn chế được thiệt hại trước mắt, nhưng sự cố này là lời nhắc nhở rằng những lỗ hổng về quyền riêng tư có thể nhanh chóng làm lu mờ những thành tựu công nghệ.
Đối với một ngành công nghiệp đang trên đà thay đổi cách chúng ta làm việc và sinh sống, việc duy trì niềm tin của người dùng không phải là điều dễ dàng; đó là một thực tế sống còn. Khi năng lực AI tiếp tục mở rộng, những công ty thành công sẽ là những công ty chứng minh được khả năng đổi mới có trách nhiệm và đặt quyền riêng tư và bảo mật của người dùng làm trọng tâm trong quy trình phát triển sản phẩm.
Câu hỏi đặt ra bây giờ là liệu ngành công nghiệp AI có thể học được gì từ cuộc khủng hoảng quyền riêng tư mới nhất này hay tiếp tục vấp ngã trong những vụ bê bối tương tự. Bởi vì trong cuộc đua xây dựng AI hữu ích nhất, những công ty quên mất việc bảo vệ người dùng có thể thấy mình đang phải chiến đấu một mình.
Rachel Tobac, nhà phân tích an ninh mạng và CEO của SocialProof Security, cho biết: "Mọi người mong đợi họ có thể sử dụng các công cụ như ChatGPT một cách hoàn toàn riêng tư, nhưng thực tế là nhiều người dùng không nhận ra hết khả năng của những nền tảng này có thể vô tình tiết lộ những câu hỏi, câu chuyện và nỗi sợ hãi riêng tư nhất của họ".
Trên thực tế, không chỉ riêng OpenAI. Rất lâu trước khi sự cố này xảy ra, các công ty công nghệ như Google và Meta cũng đã có thông tin về việc rò rỉ dữ liệu robot. Vậy, với tư cách là người dân bình thường, làm thế nào chúng ta có thể tránh được việc rò rỉ thông tin riêng tư?
Olaf Kopp, đồng sáng lập, giám đốc phát triển việc kinh doanh, SEO và trưởng nhóm nội dung tại Aufgesang GmbH, đã đưa ra lời khuyên. Ông lưu ý trên LinkedIn rằng mặc dù chỉ có vài nghìn cuộc trò chuyện được lập chỉ mục, ông vẫn cảnh báo không nên tương tác trong các cuộc trò chuyện công khai được chia sẻ trên ChatGPT .
Liên kết tham khảo:
https://www.fastcompany.com/91376687/google-indexing-chatgpt-conversations
https://fastcompanyme.com/technology/google-could-be-reading-your-chatgpt-conversations-concerned-you-should-be/
https://searchengineland.com/google-indexing-shared-chatgpt-conversations-459839
Bài viết này được trích từ tài khoản công khai WeChat "InfoQ" (ID: infoqchina) , tác giả: Dongmei và được 36Kr cấp phép xuất bản.
