“令人作嘔”:Grammarly 的全新 AI 工具提供來自已故學者的寫作反饋

avatar
Decrypt
03-07
本文為機器翻譯
展示原文

Grammarly 全新的 AI 功能以所謂知名「專家」的視角提供寫作回饋,但這項功能招致了學術界的批評。學者表示,該工具似乎是在「復活」學者來審閱用戶的作品。

這項名為「專家點評」的功能,能夠分析文本,並以特定學者、記者和其他專家的視角產生回饋。該人工智慧工具聲稱要模仿的許多專家已經去世——一位在BlueSky網站上發表文章的中世紀歷史學家稱這項功能「令人毛骨悚然」。

Grammarly 於 2009 年作為一款人工智慧輔助寫作和語法工具推出,其母公司於 10 月更名為Superhuman ,以反映其從單一寫作助理向一套人工智慧生產力代理的轉變,其中包括用於研究、日程安排、電子郵件和工作流程自動化的工具。

Grammarly去年夏天推出了專家審查功能。透過Grammarly瀏覽器擴充程序,選擇Superhuman Go版本的使用者可以選擇一位專家,並根據該專家的研究領域或已發表的作品獲得人工智慧生成的回饋。

Superhuman 的一位發言人告訴 Decrypt:“我們的專家評審代理會審閱用戶正在撰寫的文章,無論是營銷簡報還是關於生物多樣性的學生項目,並利用我們底層的 LLM 系統來Decrypt能夠幫助文檔作者完善作品的專家內容。推薦的專家取決於被評估文章的內容。”

發言人解釋說,專家評論代理並不聲稱這些專家認可或直接參與其中,而是提供「受專家作品啟發而提出的建議,並將用戶引向有影響力的學者,以便他們更深入地探索這些學者的作品」。

他們表示:“《專家評論》中的專家之所以出現在這裡,是因為他們發表的作品是公開的,並且被廣泛引用。”

在測試本文的審查功能時,該應用程式推薦的專家審查者包括《紐約時報》媒體專欄作家兼前編輯瑪格麗特·沙利文、 《政治報》前高級媒體撰稿人傑克·謝弗以及哈佛大學法學院教授勞倫斯·萊西格。其他可選人選還包括人工智慧倫理研究員蒂姆尼特·格布魯和康奈爾科技學院資訊科學教授海倫·尼森鮑姆。

雖然該功能旨在幫助學生和專業人士提高寫作能力,但伯明翰大學歷史學教授 Vanessa Heggie 質疑,在公司將「審查者」納入應用程式之前,他們是否已獲得審稿人的同意。

「我不知道該從何說起,但是…Grammarly現在提供由在世和已故學者對你的作品進行『專家評審』的服務,」Heggie在LinkedIn上寫道。 “沒錯,是已故學者——未經任何人的明確許可,它就根據抓取的作品創建小型法學碩士論文,並利用他們的姓名和聲譽。簡直是無恥。”

美國海軍學院政治學前副教授布里埃爾·哈賓稱其為「一個奇怪且令人擔憂的發展」。

「像這樣的選擇——尤其是在缺乏背景資訊、徵得同意或與教育工作者建立有意義的合作關係的情況下做出——可能會加深人們對高等教育中人工智慧工具的懷疑,」她在領英上寫道。 “具有諷刺意味的是,旨在加速推廣應用的決策最終可能會加劇抵制情緒。信任和合作在當下至關重要。”

Grammarly只是眾多開發旨在模仿真人的AI程式的公司之一。

2023年,Meta公司為其Meta AI平台推出了一系列以名人身份為主題的聊天機器人,包括Snoop Dogg、湯姆·布雷迪、肯達爾·詹娜和大坂直美。同年,可汗學院推出了人工智慧導師Khanmigo,該平台允許學生與歷史人物進行角色扮演對話,例如英國首相溫斯頓·邱吉爾和美國內戰時期的間諜及「地下鐵路」組織負責人哈里特·塔布曼

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
78
收藏
18
評論