人工智能的廢料正在流入人們在線發佈內容的每個主要平臺——Medium 也不例外。
這家已有 12 年曆史的出版平臺多年來經歷了令人眼花繚亂的轉型。它終於迎來了財務復甦，今年夏天首次實現月度盈利。Medium 首席執行官託尼·斯塔布爾拜因 (Tony Stubblebine) 和公司其他高管將該平臺描述為“人類寫作的家園”。但有證據表明，機器人博主也越來越多地湧向該平臺。
今年早些時候，《連線》雜誌要求人工智能檢測初創公司 Pangram Labs 對 Medium 進行分析。該公司在六週內對 274,466 條近期帖子進行了抽樣，估計其中超過 47% 的帖子可能是人工智能生成的。“這比我在互聯網上看到的其他帖子高出幾個數量級，”Pangram 首席執行官 Max Spero 表示。（該公司今年夏天對全球新聞網站的一天分析發現，其中 7% 的帖子可能是人工智能生成的。）
Medium 上的內容往往平庸，尤其是與充斥 Facebook 的達達主義廢話相比。人們更APT看到空洞的加密貨幣快訊，而不是蝦耶穌。最有可能由人工智能生成的標籤包括“NFT”——在過去幾個月中，Pangram 發現 5,712 篇帶有這個短語的文章中，有 4,492 篇（約 78%）被歸類為可能是人工智能生成的——以及“web3”、“以太坊”、“人工智能”，以及不知為何的“寵物”。
《連線》雜誌邀請了第二家人工智能檢測初創公司 Originality AI 進行自己的分析。該公司分析了 2018 年 Medium 上的帖子樣本，並將其與今年的樣本進行了比較。2018 年，估計有 3.4% 的帖子可能是人工智能生成的。首席執行官 Jon Gillham 表示，這一比例與公司的誤報率相對應，因為當時人工智能工具尚未得到廣泛使用。對於 2024 年，該公司對今年發表的 473 篇文章進行了抽樣，懷疑其中有超過 40% 的帖子可能是人工智能生成的。由於彼此不瞭解對方的分析結果，Originality 和 Pangram 都對人工智能內容的範圍得出了類似的結論。
當《連線》雜誌就本文聯繫 Stubblebine 並告知他 AI 檢測分析的結果時，Stubblebine 否認了 Medium 存在 AI 問題的說法。“我不相信這些結果的重要性，也不相信這些公司發現了什麼，”他說。
Stubblebine 並不否認 Medium 上 AI 生成文章的數量大幅增加。“我們認為，發佈到 Medium 上的 AI 生成內容可能比今年年初增加了 10 倍，”他說。他還對平臺上出現的 AI 垃圾採取了普遍的對抗態度：“我們強烈反對 AI 內容。”但他反對使用 AI 檢測器來評估問題的範圍，部分原因是他聲稱它們無法區分完全由 AI 生成的帖子和較少使用 AI 的帖子。（“這並不準確，”Spero 說；他聲稱 Pangram 確實可以區分根據提示生成的 ChatGPT 帖子和基於 AI 大綱但以人類寫作充實的帖子。）
據 Stubblebine 稱，Medium 測試了幾種人工智能檢測器，並認為它們並不有效。（Stubblebine 還指責 Pangram Labs 試圖“通過媒體”敲詐他，因為 Pangram 的首席執行官 Spero 發送了一封電子郵件，詳細說明了《連線》要求的分析結果，然後向 Medium 提供服務。“我只是覺得我們可以幫助他們，”Spero 說。）
人工智能檢測工具確實存在缺陷。它們的工作原理是分析文本並做出預測，可能會產生假陽性和假陰性。有必要謹慎使用它們來判斷個別文章和藝術作品，尤其是在有新一波工具可以欺騙它們的情況下。儘管如此，它們仍然可以作為衡量某些平臺和網站上人工智能生成內容數量變化的晴雨表，並且可以幫助研究人員、記者和公眾發現模式。
“由於人工智能檢測器雖然準確但並不完美，因此無法確定任何單一內容是否由人工智能生成，”吉勒姆說。“不過，他們非常善於發現人工智能寫作正在接管 Medium 等平臺的趨勢。”
其他人也注意到了這一趨勢。“在我定期掃描新的人工智能生成的新聞網站時，我每週都會在 Medium 上看到人工智能生成的內容，”在線虛假信息追蹤公司NewsGuard 的編輯 McKenzie Sadeghi 說。“我發現其中大部分內容通常與加密、營銷、搜索引擎優化有關。”
Stubblebine 堅稱這些數字並不能準確反映 Medium 讀者的體驗。“這無所謂，”他說。“訪問 Medium 發佈內容的原始信息流並不代表被推薦和查看的內容的實際活動。這些主題的原始信息流中絕大多數可檢測到的人工智能生成的故事的瀏覽量為零。零瀏覽量是我們的目標，我們已經有一個可以實現 [這一目標] 的系統。”他認為，Medium 結合了通用垃圾郵件過濾系統和人工審核，有效地遏制了人工智能的泛濫。
許多似乎發佈大量人工智能生成內容的賬戶確實似乎只有很少或根本沒有讀者。例如，一個被 Pangram Labs 標記為可能由人工智能生成的有關加密貨幣的帖子的賬戶在一天內發佈了六次帖子，但沒有任何帖子的互動，這表明影響微不足道。其他被標記的帖子似乎最近被撤下；雖然有些帖子可能是自願刪除的，但其他帖子可能是在發佈幾天或幾周後被 Medium 刪除的。根據 Stubblebine 的說法，有時，如果 Medium 發現試圖欺騙系統的“垃圾郵件團伙”，它會故意推遲刪除垃圾郵件。
不過，零閱讀量並非全都是如此。《連線》雜誌發現，其他被標記為可能是人工智能生成的文章（由 Pangram、Originality 和人工智能檢測公司 Reality Defender 撰寫）都有數百個“點贊”，這與其他平臺上的“贊”類似，這表明閱讀量至少遠高於零。
Stubblebine 認為，Medium 質量控制方法的基石是人。“Medium 現在基本上是靠人工策劃的，”他說。他提到 Medium 的出版物有 9000 名編輯，此外還有額外的人工評估，以便“提升”或更廣泛傳播的故事。“如果你很吹毛求疵的話，我認為你可以說我們正在過濾掉人工智能——但除此之外還有一個目標，那就是，我們只是想過濾掉那些不太好的東西。”
Medium 今年已採取措施遏制機器人博主的存在， 並更新了其 AI 政策。其立場與 LinkedIn 和 Facebook 等明確鼓勵人們使用 AI 的其他平臺形成了鮮明對比。相反，Medium 不再允許 AI 作品在其“合作伙伴”計劃中進入付費牆，也不允許其“Boost”計劃獲得更廣泛的人工策劃分發，也不允許推廣聯盟鏈接。公開的 AI 作品可以獲得普遍分發，但未公開的 AI 作品只能獲得“網絡”分發，這意味著它只會出現在關注作者的人的推送中。Medium 將 AI 生成的作品定義為“大部分內容由 AI 寫作程序創作，幾乎沒有或根本沒有編輯、改進、事實核查或更改的作品”。Medium 沒有針對這些新規則的任何 AI 專用執行工具。Stubblebine 說：“我們發現，我們現有的策展系統有一個副作用，就是會過濾掉 AI 生成的作品，因為 AI 生成的作品也是糟糕的作品。”
一些 Medium 作家和編輯確實對該平臺對人工智能的態度表示讚賞。Medium 最大的流行文化出版物 Fanfare 的創始人埃裡克·皮爾斯 (Eric Pierce) 表示，他不必拒絕許多人工智能生成的投稿，他相信 Medium 的 boost 計劃的人類策展人有助於突出該平臺上最好的人類寫作。“我想不起過去幾個月我在 Medium 上讀到的任何一篇文章，哪怕是暗示是人工智能創作的，”他說。“在互聯網拼命想要自生自滅的背景下，Medium 越來越像一個理智的堡壘。”
然而，其他作家和編輯認為，他們目前仍然看到該平臺上有大量人工智能生成的文章。內容營銷作家馬庫斯·穆西克（Marcus Musick）是多家出版物的編輯，他寫了一篇文章，哀嘆他懷疑是人工智能生成的文章如何在網上瘋傳。（Reality Defender 對這篇文章進行了分析，估計它有 99% 的可能性是“操縱的”。）這篇文章似乎被廣泛閱讀，獲得了超過 13,500 次“點贊”。
除了作為一名讀者發現可能的人工智能內容外，Musick 還認為，作為一名編輯，他經常遇到這種問題。他說，他每月會拒絕大約 80%的潛在投稿人，因為他懷疑他們使用了人工智能。他不使用人工智能檢測器，因為他認為這種檢測器“毫無用處”，而是依靠自己的判斷。
雖然 Medium 上可能由 AI 生成的內容數量驚人，但該平臺面臨的審核挑戰（如何展示好的作品並防止垃圾內容）一直困擾著整個網絡。AI 的熱潮只是加劇了這個問題。例如，雖然點擊農場長期以來一直是一個問題，但 AI 為痴迷於 SEO 的企業家提供了一種快速復活殭屍媒體的方法，即通過向其填充AI 垃圾內容。YouTube 上有一整群忙碌的文化企業家創建快速致富教程，鼓勵其他人在 Facebook、亞馬遜 Kindle 和 Medium 等平臺上創建 AI 垃圾內容。（示例標題：“一鍵 AI SEO Medium 帝國🤯。”）
“Medium 現在與整個互聯網處於同樣的境地。因為人工智能內容生成速度非常快，所以無處不在，”抄襲顧問喬納森·貝利 (Jonathan Bailey) 表示。“垃圾郵件過濾器、人工審核員等——這些可能是他們擁有的最好的工具。”
Stubblebine 的觀點是，一個平臺是否包含大量垃圾內容並不重要，只要它能夠成功擴大優秀寫作並限制垃圾內容的傳播範圍即可。這種觀點可能比任何試圖完全消除人工智能垃圾內容的嘗試都更為務實。他的審核策略很可能是最明智的方法。
這也預示著“ 互聯網死亡理論”將在未來成為現實。該理論曾是極端網絡陰謀論者的領地，認為互聯網的絕大部分都缺乏真人和人類創作的帖子，取而代之的是人工智能生成的垃圾和機器人。隨著生成人工智能工具變得越來越普遍，放棄試圖清除機器人的平臺將催生出一個網絡世界，在這個世界中，人類創作的作品在被人工智能淹沒的平臺上越來越難找到。
