Dòng chảy AI đang tràn ngập trên mọi nền tảng lớn nơi mọi người đăng tải trực tuyến - và Medium cũng không ngoại lệ.
Nền tảng xuất bản 12 năm tuổi này đã trải qua một số lượng lớn các chuyển đổi trong những năm qua. Nó cuối cùng đang trên đà tài chính tăng trưởng, sau khi đạt lợi nhuận hàng tháng lần đầu tiên vào mùa hè này. Giám đốc điều hành của Medium, Tony Stubblebine, và các nhà điều hành khác của công ty đã mô tả nền tảng này là "một ngôi nhà cho sáng tác của con người". Nhưng có bằng chứng cho thấy các Bots blog cũng đang ngày càng tìm đến nền tảng này.
Đầu năm nay, WIRED đã yêu cầu công ty khởi nghiệp phát hiện AI Pangram Labs phân tích Medium. Họ lấy mẫu 274.466 bài đăng gần đây trong vòng sáu tuần và ước tính rằng hơn 47% có khả năng được tạo bởi AI. "Đây là một vài bậc lớn hơn so với những gì tôi thấy trên phần còn lại của internet", Giám đốc điều hành của Pangram, Max Spero, nói. (Phân tích của công ty về một ngày của các trang tin toàn cầu vào mùa hè này cho thấy 7% có khả năng được tạo bởi AI.)
Dòng chảy rác trên Medium có xu hướng hướng đến sự nhàm chán, đặc biệt là so với mảnh vụn Dadaist tắc nghẽn Facebook. Thay vì Chúa Giêsu tôm hùm, người ta có thể thấy nhiều bài đăng trống rỗng về tiền điện tử. Các thẻ có nhiều nội dung có khả năng được tạo bởi AI nhất bao gồm "NFT" - trong số 5.712 bài viết được gắn thẻ với cụm từ này trong vài tháng qua, Pangram phát hiện 4.492 bài, tương đương khoảng 78%, được xác định là có khả năng được tạo bởi AI - cũng như "web3", "ethereum", "AI" và, vì lý do nào đó, "thú cưng".
WIRED đã yêu cầu một công ty phát hiện AI thứ hai, Originality AI, thực hiện phân tích riêng. Họ đã kiểm tra một mẫu bài đăng trên Medium từ năm 2018 và so sánh với một mẫu từ năm nay. Vào năm 2018, 3,4% được ước tính là có khả năng được tạo bởi AI. Giám đốc điều hành Jon Gillham nói rằng tỷ lệ phần trăm này tương ứng với tỷ lệ báo cáo sai của công ty, vì các công cụ AI chưa được sử dụng rộng rãi vào thời điểm đó. Đối với năm 2024, với một mẫu 473 bài viết được xuất bản trong năm nay, họ nghi ngờ rằng hơn 40% có khả năng được tạo bởi AI. Không có kiến thức về phân tích của nhau, cả Originality và Pangram đều đi đến những kết luận tương tự về phạm vi nội dung AI.
Khi được WIRED liên hệ để tham gia bài viết này và được thông báo về kết quả của các phân tích phát hiện AI, Stubblebine bác bỏ giả thuyết rằng Medium có vấn đề về AI. "Tôi đang tranh cãi về tầm quan trọng của kết quả và cũng về ý tưởng rằng những công ty này đã phát hiện ra điều gì đó", ông nói.
Stubblebine không phủ nhận rằng Medium đã chứng kiến một sự gia tăng đáng kể các bài viết được tạo bởi AI. "Chúng tôi nghĩ, có lẽ, nội dung được tạo bởi AI được đăng lên Medium đã tăng lên gấp mười lần so với đầu năm", ông nói. Ông cũng áp dụng một cách tiếp cận đối kháng nói chung đối với dòng chảy AI trên nền tảng: "Chúng tôi rất phản đối nội dung AI." Nhưng ông phản đối việc sử dụng các bộ phát hiện AI để đánh giá phạm vi của vấn đề, một phần vì ông cáo buộc chúng không thể phân biệt được giữa các bài đăng được tạo hoàn toàn bởi AI và các bài đăng sử dụng AI một cách nhẹ nhàng hơn. ("Điều đó không chính xác", Spero nói; ông khẳng định Pangram có thể phân biệt được giữa một bài đăng ChatGPT được tạo từ lời nhắc và một bài đăng dựa trên một bản phác thảo AI nhưng được phát triển thêm bằng sáng tác của con người.)
Theo Stubblebine, Medium đã thử nghiệm nhiều bộ phát hiện AI và quyết định chúng không hiệu quả. (Stubblebine cũng cáo buộc Pangram Labs cố gắng tống tiền "bằng báo chí" vì Spero, Giám đốc điều hành của Pangram, đã gửi một email chi tiết về kết quả của phân tích mà WIRED yêu cầu và sau đó đề nghị cung cấp dịch vụ của mình cho Medium. "Tôi chỉ nghĩ rằng chúng tôi có thể giúp họ", Spero nói.)
Các công cụ phát hiện AI thực sự có khuyết điểm. Chúng hoạt động bằng cách phân tích văn bản và đưa ra dự đoán, và có thể tạo ra các báo cáo sai lệch và sai lầm. Cần cẩn trọng khi sử dụng chúng để đánh giá từng tác phẩm viết và nghệ thuật, đặc biệt là với một làn sóng mới các công cụ để lừa chúng. Tuy nhiên, chúng có tính hữu ích như các thước đo để đánh giá những thay đổi trong lượng nội dung được tạo bởi AI trên một số nền tảng và trang web nhất định, và có thể giúp các nhà nghiên cứu, nhà báo và công chúng nhận ra các xu hướng.
"Vì các bộ phát hiện AI chính xác nhưng không hoàn hảo, nên không thể khẳng định chắc chắn liệu bất kỳ nội dung cụ thể nào có được tạo bởi AI hay không", Gillham nói. "Tuy nhiên, chúng rất tốt trong việc nhìn thấy xu hướng của việc viết bằng AI chiếm lĩnh các nền tảng như Medium."
Những người khác cũng nhận thấy xu hướng này. "Trong các lần quét thường xuyên của tôi để tìm các trang tin tức được tạo bằng AI mới, tôi thường xuyên gặp phải nội dung được tạo bằng AI trên Medium hàng tuần", McKenzie Sadeghi, biên tập viên của công ty theo dõi thông tin sai lệch trực tuyến NewsGuard, nói. "Tôi đã phát hiện ra rằng hầu hết nội dung này thường liên quan đến tiền điện tử, tiếp thị, SEO."
Stubblebine khẳng định rằng những con số này không phản ánh chính xác những gì độc giả Medium trải nghiệm. "Điều đó không quan trọng", ông nói. "Việc có quyền truy cập vào nguồn cấp dữ liệu thô của những gì được đăng lên Medium không đại diện cho hoạt động thực tế của những gì được đề xuất và xem. Phần lớn các câu chuyện có thể phát hiện được tạo bằng AI trong các nguồn cấp dữ liệu thô cho các chủ đề này đã có 0 lượt xem. 0 lượt xem là mục tiêu và chúng tôi đã có một hệ thống thực hiện điều đó." Ông tin rằng Medium đang hiệu quả kiềm chế dòng chảy AI của mình bằng sự kết hợp của hệ thống lọc spam dùng chung và hệ thống kiểm duyệt của con người.
Nhiều tài khoản có vẻ đăng tải khối lượng lớn nội dung được tạo bởi AI thực sự có lượng người đọc nhỏ bé hoặc không tồn tại. Một tài khoản được Pangram Labs cảnh báo là tác giả của các bài viết có khả năng được tạo bởi AI về tiền điện tử, ví dụ, đã đăng sáu lần trong một ngày, với không có tương tác nào trên các bài đăng, cho thấy tác động không đáng kể. Một số bài đăng được cảnh báo khác dường như đã bị gỡ bỏ gần đây; trong khi một số có thể đã được gỡ bỏ tự nguyện, những cái khác có thể đã bị Medium gỡ bỏ sau vài ngày hoặc vài tuần sau khi được đăng. Đôi khi, Medium cố ý trì hoãn việc gỡ bỏ spam, theo Stubblebine, nếu họ đã xác định được "các vòng lặp spam" cố gắng lừa hệ thống.
Tuy nhiên, không phải trường hợp nào cũng có 0 lượt xem. WIRED đã tìm thấy một số bài viết khác được Pangram, Originality và công ty phát hiện AI Reality Defender đánh dấu là có khả năng được tạo bởi AI, có hàng trăm "lượt vỗ tay", tương tự như "lượt thích" trên các nền tảng khác, cho thấy ít nhất là lượng người đọc lớn hơn nhiều so với 0.
Stubblebine xem con người là trụ cột của phương pháp kiểm soát chất lượng của Medium. "Medium hiện chủ yếu hoạt động dựa trên sự chọn lọc của con người", ông nói. Ông đề cập đến 9.000 biên tập viên của các ấn phẩm Medium, cũng như đánh giá thủ công bổ sung cho các câu chuyện có thể được "thúc đẩy" hoặc phân phối rộng rãi hơn. "Tôi nghĩ rằng bạn có thể, nếu bạn đang cẩn thận, nói rằng chúng tôi đang lọc ra AI - nhưng có một mục tiêu cao hơn, đó là chúng tôi chỉ đang cố gắng lọc ra những thứ không được tốt lắm."
Medium đã thực hiện các bước trong năm nay để hạn chế sự hiện diện của các Bots blog,
