隨著深度偽造、錯誤資訊和人工智慧輔助作弊在網路和課堂上的蔓延，谷歌DeepMind週二推出了SynthID檢測器。這個新工具可以掃描影象、音訊、影片和文字，尋找由谷歌不斷發展的人工智慧模型嵌入的隱形水印。
設計用於在一個地方跨多種格式工作，SynthID檢測器旨在透過識別谷歌人工智慧生成的內容來帶來更大的透明度，包括音訊人工智慧NotebookLM、Lyria和影象生成器Imagen，並突出顯示最可能被水印標記的部分。
"對於文字，SynthID會檢視接下來將生成哪些詞，並改變適當的詞選擇的機率，而不會影響整體文字質量和實用性，"谷歌在簡報中說。
"如果一段文字包含更多首選詞選擇的例項，SynthID將檢測到它已被水印標記，"它補充道。
SynthID在文字生成過程中調整詞選擇的機率分數，嵌入一個不影響輸出含義或可讀性的隱形水印。這個水印稍後可用於識別由谷歌Gemini應用或網路工具生成的內容。
谷歌最初在2023年8月引入SynthID水印作為檢測人工智慧生成影象的工具。隨著SynthID檢測器的推出，谷歌將這一功能擴充套件到包括音訊、影片和文字。
目前，SynthID檢測器處於有限釋出狀態，併為記者、教育工作者、設計師和研究人員設立了等候名單。
隨著生成式人工智慧工具變得越來越普遍，教育工作者發現越來越難以確定學生的作業是否原創，即使是旨在反映個人經歷的作業。
使用人工智慧作弊
《紐約雜誌》最近的一份報告突出了這一日益嚴重的問題。
聖克拉拉大學的一位技術倫理教授佈置了一篇個人反思論文，卻發現一名學生使用ChatGPT完成了作業。
在阿肯色州小石城大學，另一位教授發現學生依賴人工智慧撰寫課程介紹論文和課程目標。
儘管越來越多的學生使用其人工智慧模型在課堂上作弊，但OpenAI在2023年關閉了其人工智慧檢測軟體，理由是準確率低。
"我們認識到識別人工智慧寫作文字一直是教育工作者討論的重要議題，同樣重要的是認識到人工智慧生成文字分類器在課堂上的侷限性和影響，"OpenAI當時表示。
人工智慧作弊問題因像Cluely這樣的新工具而變得更加複雜，這是一款旨在繞過人工智慧檢測軟體的應用。由前哥倫比亞大學學生羅伊·李開發，Cluely可以在桌面級別規避人工智慧檢測。
被宣傳為在考試和麵試中作弊的方式，李籌集了530萬美元來開發這款應用。
"在我釋出了自己在亞馬遜面試期間使用它的影片後，它迅速走紅，"李之前告訴《Decrypt》。"在使用過程中，我意識到使用者體驗非常有趣——沒有人探索過這種可以看到你螢幕、聽到你音訊並像電腦第二個玩家一樣行動的半透明螢幕覆蓋的想法。"
儘管有SynthID等工具的承諾，但許多當前的人工智慧檢測方法仍然不可靠。
在10月份，《Decrypt》對領先的人工智慧檢測器進行的測試發現，在Grammarly、Quillbot、GPTZero和ZeroGPT四大檢測器中，只有兩個能夠確定美國獨立宣言是由人類還是人工智慧撰寫的。
