ChatGPT，還是CheatGPT？

ChatGPT竟成為美國學生作弊的「黑科技」，而OpenAI為了市場佔有率，暗藏ChatGPT文本識別工具！

在美國，WSJ稱近40%高中生、近50%大學生藉助AI作弊拿高分；在某些學校，作弊成風，肆無忌憚！

越來越多的美國學生，正在偷偷使用ChatGPT等AI軟件完成作業，拿到好成績，而家長和老師卻難以察覺、知情甚少。

AI「作弊」有多普遍？

一名17歲的新澤西州高中畢業生，坦言去年利用AI在英語、數學和歷史課上的作弊經歷。

這名學生的經歷揭示了生成式AI技術已經深深滲透到美國教育體系中，使得這一代學生能夠輕易地將學習任務「外包」給擁有海量知識的AI軟件。

高科技小抄｜圖片來源Alexandra Citrin-Safadi/WSJ

教育工作者承認AI在課堂上確實有其價值。

然而，在如何防止學生濫用這項技術逃避學習的問題上，教師和家長卻只能自行摸索對策。

提供AI工具的科技公司——不論是科技巨頭谷歌，還是AI初創公司OpenAI等——在這方面幾乎沒有提供任何實質性幫助。

AI如何成為學生的秘密武器？

這位17歲的學生向記者解釋了她去年在數十項作業中使用AI的原因：

有時是因為作業太枯燥或太難

有時是為了追求更好的成績

拖延症到最後，才發現作業完不成

她使用OpenAI的ChatGPT和谷歌的Gemini來獲取靈感和複習知識點，這些用途本是很多老師所允許的。

但更多時候，她是直接讓AI完成作業——Gemini不僅幫她解決數學作業，還在一次家庭作業測驗中取得了高分。

ChatGPT為她完成了科學實驗的數據計算，還代寫了一篇歷史課論文中較為困難的部分——她後來對這部分內容進行了改寫以逃避查重檢測。

谷歌的AI作業幫手介紹

在這些作弊行為中，她只被發現過一次。

40%中學生，50%大學生AI寫作業

AI正在改變白領工作的方方面面，從起草電子郵件、製作演示文稿到生成圖像，無所不包。

有些職場人士已經因此失去工作，許多公司CEO也開始調整未來的招聘計劃。

據OpenAI透露，ChatGPT的周活躍用戶已達4億。4 億相當於地球總人口數的 5%。

其中，學生群體是最主要的用戶。

ChatGPT的月活量增長

OpenAI的目標是讓學生養成終身使用ChatGPT解答問題的「習慣」——代替谷歌近30年來作為信息查詢首選平臺的地位。

Impact Research去年的調查顯示，在未經教師允許的情況下，在使用AI的學生中，約40%的初高中生承認曾使用AI完成作業。

而在大學生群體中，這一比例更是接近50%。

OpenAI的內部分析也證實，大學生經常使用ChatGPT協助撰寫論文。

在沒有成年人監督的數字世界裡，是否使用這些能暗中幫助獲取高分的AI工具，學生們不得不自行抉擇——AI公司設置的年齡限制形同虛設，很容易被繞過。

這種情況令人想起上一代人初次接觸社交媒體時的情形——關於AI對學生學習的利弊影響，包括其可能助長作弊行為的研究都還很不充分。

AI對教育到底是好是壞？

密西西比大學學術創新助理主任Marc Watkins表示：「這是一場沒有徵得任何人同意就已經開始的巨大社會實驗。」

那位新澤西的學生雖然順利通過了去年的所有課程，但她承認自己實際學到的知識遠少於本應掌握的內容。

在高中最後一年，她已經停止了違規使用AI。她說：「我決定退一步，重新開始用自己的大腦思考。」

保羅·格雷厄姆（Paul Graham）曾在去年10月的一篇博客中預言一個場景：AI出現後，人們會被分為「寫作」和「不寫作」兩類人。

學術不端是否應該由AI負責，AI公司的態度相當淡然。

OpenAI教育團隊成員Siya Raj Purohit表示：「作弊又不是OpenAI發明的，想要作弊的人總能找到辦法。」

Siya Raj Purohit

而眾多教育工作者擔憂，AI聊天機器人的便捷性，會誘使更多學生逃避具有難度的學習任務。

教育界：AI無益於教育

隨著AI技術的飛速發展，只要稍加巧妙運用，就很難在作業中發現AI的痕跡。

在去年10月的一次教育技術會議上，紐約州立大學系統校長、美國前教育部長John B. King Jr.表示：「很可能有大量學生，從小學生到大學生，昨晚用ChatGPT完成了作業，而他們根本沒有學到任何東西。這種情況令人擔憂。」

在會議上，當King表達了這一擔憂後，與他同臺的Purohit提出了一個具有爭議性的觀點。

她說，也許我們應該把善用AI的能力作為衡量批判性思維和溝通能力的標準。

她引用了最近與沃頓商學院一位教授的討論，反問道：「在AI時代，寫作的價值到底是什麼？」

對此，弗吉尼亞大學認知心理學家Daniel Willingham給出了他的答案：

寫作，能培養其他練習方式無法替代的思維模式。

當在解釋時，寫作迫使你解釋得更透徹；當在論證時，寫作促使你論證得更全面。

在課程中，南卡的八年級英語教師Jody Stallings，安排學生閱讀Harper Lee的《殺死一隻知更鳥》（To Kill a Mockingbird）。

每天上課伊始，他都會讓學生根據已讀內容，回答問題。

Stallings表示，這個寫作練習不僅能讓學生深入思考書的內容，還能通過寫作來提煉思想。

To Kill a Mockingbird首版封面

科技界：AI改革教育

然而，科技支持者們仍然堅信：AI能從根本上改革並提升教育質量。

去年，OpenAI首席執行官奧特曼，描繪了將來教育的美好願景：「未來，我們的孩子將擁有虛擬智能導師，能夠以任何語言、按照每個孩子的個性化節奏，提供所有學科的專門指導。」

OpenAI教育副總裁Leah Belsky，建議學校不要抵制，而是要在課堂上主動擁抱AI，從而應對作弊問題。

Leah Belsky：擁抱AI，轉變思路

她表示：「在教學和作業中，如果教育工作者能合理運用AI，AI就能從學生私下偷用的工具，轉變為學習過程中的重要輔助手段。」

目前，已有多個機構和企業，推出了AI智能輔導系統，旨在為學生提供無需教師在場的學習輔導。

同時，一些教師也開始使用AI工具來協助編寫教案、設計作業和起草家長通知。

新澤西州高中英語教師Sandy Mangarella表示，AI聊天機器人幫她改進了教學內容，並設計了新的課堂活動。

她說：「感覺就像多了一個能隨時討論的同事。」

教育部、各州政府、非營利組織以及包括OpenAI在內的科技公司，已經發布了教師如何負責任地使用AI的指導意見，其中提到了AI生成的信息並非總是準確的。

AI作弊肆無忌憚

然而，這些指導文件大多隻是簡單提及或完全忽略了作弊問題。

阿拉巴馬州庫薩縣的高中英語教師Jacob Moon說，他以前很少在課堂上發現作弊現象。

但僅在本學年，他就已經發現約二十多名學生在包括論文在內的作業中使用AI。

Moon擔憂地表示：「作為教師，最讓我憂心的是，等這些學生進入大學和職場後會怎麼樣？」

該校二年級學生Chris Prowell透露，儘管同學們經常使用AI完成作業，但他本人從不這樣做，因為擔心這會影響自己為大學學習做準備。

他說，肆無忌憚的AI作弊行為「對那些真正付出努力的人很不公平。」

對學生在家獨立完成作業時能否規範使用AI，一些教育工作者持懷疑態度。

加州索諾馬縣高中英語教師Joshua Allard-Howells表示，去年AI作弊在他的學生中如野火般蔓延。

為此，他採取了新措施：要求學生在課堂上手寫初稿，並嚴禁帶入或使用電子設備。

他說，這一改變帶來了意想不到的效果：學生開始認真對待寫作，作品也更顯真實性和個人特色。

這種方法的弊端是：他不得不取消了所有家庭作業。

他無奈地表示：「只要佈置作業，學生們就會用AI作弊。」

AI代寫鋪天蓋地

目前，已有數十家公司在推廣聲稱能用AI完成論文和作業的App，而且「神不知鬼不覺」。

比如今年7月，Facebook的一則廣告，畫面中是一個揹著書包、戴著耳機和牙套的市場營銷專業學生，配文寫道：

使用You的研究助手，我只用了幾分鐘就完成了論文，連參考文獻都搞定了。

這款搜索研究工具已獲得近10億美元的投資估值。

在本學年伊始，在Facebook和Instagram上，愛沙尼亞公司Aithor大力推廣寫作助手。

廣告配上兩個畢業帽表情，承諾「一鍵生成完美論文」。

對此，Aithor首席營銷官Anatoly Terentyev，在郵件回應中表示：「實際上，我們只是提供一個基礎框架，學生仍需要對內容進行潤色和個性化處理。」

他說公司正在重新審視廣告用語。

另一家AI公司Caktus的廣告語更為直白：「老師們恨死我們了」。

該公司CEO Harrison Leonard解釋說，這句話指的是那些抗拒變革的教師。

他認為，大學生本就具備寫作能力，Caktus AI只是幫助他們學習使用AI，為未來工作做準備。他強調這並非作弊工具。

然而，Caktus AI在社交媒體上的表現卻大相徑庭，在「美國貼吧」 Reddit曾發帖稱：

過去三年，我在一所名校踢足球，特別討厭做作業、參加訓練這些煩人的事。所以我開發了個軟件，能立刻生成所有論文，瞬間解決所有作業。

作為前聖母大學足球運動員的Leonard，對這則帖子避而不答，而他此前的說法是：「我無法控制學生們如何使用這個平臺。」

亞利桑那州立大學英語教授Patricia Webb，認為雖然明令禁止在她的課程中使用AI。

但從寫作風格來看，她估計在寫作作業中仍有20%到40%的學生在暗戳戳地使用AI。

但她表示，在沒有確鑿證據的情況下，她很難與這些學生當面對質。

正如Webb所說：「沒有證據就不能給出處罰。」

這就導致她不得不給那些她內心幾乎確信是AI代寫的作業打出及格分數。

為此，她採取了一個變通辦法：佈置需要寫個人經歷或進行採訪的作業，這類內容更難交給AI代寫。

OpenAI雪藏檢測工具

調查發現，雖然OpenAI已經開發出能夠準確識別ChatGPT生成文本的工具，但該公司選擇不對外發布。

因為內部調查顯示，如果推出這項檢測功能，將近30%的用戶會減少使用ChatGPT。

一些教師轉而求助於第三方AI檢測工具。

但這些軟件往往不夠可靠：有時會把AI生成的內容誤判為學生原創，有時又會把學生的真實作品誤判為AI生成。

目前使用最廣泛的檢測工具是Turnitin。

Turnitin稱能激發學生寫出原創作品

該公司首席產品官Annie Chechitelli聲稱，他們的工具能以85%的準確率識別AI生成的文本，而且很少會將學生的原創作品誤判為AI生成。

不過，該公司拒絕提供產品進行準確性測試。

2023年，Max Spero創立了Pangram Labs，這家公司最初的目標是幫助企業甄別AI生成的虛假產品評論。

Pangram Labs宣傳準確率在99.98%以上

讓他意外的是，許多客戶竟然是教師。

在一項測試中，記者讓ChatGPT撰寫了一篇分析《蠅王》主題的九年級水平作文。

經Pangram Labs的檢測軟件分析，這篇文章被判定為幾乎確定是AI生成的。

接著，研究人員將這篇文章輸入到HumanizeAI.pro——

這是一款聲稱能「將AI生成的內容轉化為自然、真實的人類寫作風格」的應用程序。

有趣的是，對於經過處理的新版本，Pangram Labs的檢測結果變得猶豫不決：

第一次檢測時，系統表示「可能含有AI撰寫的內容」；

而在用完全相同的文本進行第二次檢測時，卻得出了「完全是人類寫作」的結論。

對此，Spero表示，Pangram Labs正在努力研發新技術來「擊敗這些偽裝工具」。

在德克薩斯州休斯頓郊區任教的高中英語教師Carter Wright分享了他的困擾。

他說自己耗費了無數時間來追查AI作弊：試用各種檢測軟件的免費版，仔細核查學生谷歌文檔的修改記錄。

然而，學生們似乎總能想出新辦法，領先一步。

Wright無奈地表示：「除非徹底禁用這些技術，否則要完全杜絕作弊，幾乎是不可能的事情。」

參考資料：

https://www.wsj.com/tech/ai/chatgpt-ai-cheating-students-97075d3c?mod=tech_lead_pos2

本文來自微信公眾號“新智元”，作者：新智元，編輯：KingHZ 定慧，36氪經授權發佈。