“令人作呕”:Grammarly 的全新 AI 工具提供来自已故学者的写作反馈

avatar
Decrypt
03-07
本文为机器翻译
展示原文

Grammarly 全新的 AI 功能以所谓知名「专家」的视角提供写作回馈,但这项功能招致了学术界的批评。学者表示,该工具似乎是在「复活」学者来审阅用户的作品。

这项名为「专家点评」的功能,能够分析文本,并以特定学者、记者和其他专家的视角产生回馈。该人工智慧工具声称要模仿的许多专家已经去世——一位在BlueSky网站上发表文章的中世纪历史学家称这项功能「令人毛骨悚然」。

Grammarly 于 2009 年作为一款人工智慧辅助写作和语法工具推出,其母公司于 10 月更名为Superhuman ,以反映其从单一写作助理向一套人工智慧生产力代理的转变,其中包括用于研究、日程安排、电子邮件和工作流程自动化的工具。

Grammarly去年夏天推出了专家审查功能。透过Grammarly浏览器扩充程序,选择Superhuman Go版本的使用者可以选择一位专家,并根据该专家的研究领域或已发表的作品获得人工智慧生成的回馈。

Superhuman 的一位发言人告诉 Decrypt:“我们的专家评审代理会审阅用户正在撰写的文章,无论是营销简报还是关于生物多样性的学生项目,并利用我们底层的 LLM 系统来Decrypt能够帮助文档作者完善作品的专家内容。推荐的专家取决于被评估文章的内容。”

发言人解释说,专家评论代理并不声称这些专家认可或直接参与其中,而是提供「受专家作品启发而提出的建议,并将用户引向有影响力的学者,以便他们更深入地探索这些学者的作品」。

他们表示:“《专家评论》中的专家之所以出现在这里,是因为他们发表的作品是公开的,并且被广泛引用。”

在测试本文的审查功能时,该应用程式推荐的专家审查者包括《纽约时报》媒体专栏作家兼前编辑玛格丽特·沙利文、 《政治报》前高级媒体撰稿人杰克·谢弗以及哈佛大学法学院教授劳伦斯·莱西格。其他可选人选还包括人工智慧伦理研究员蒂姆尼特·格布鲁和康奈尔科技学院资讯科学教授海伦·尼森鲍姆。

虽然该功能旨在帮助学生和专业人士提高写作能力,但伯明翰大学历史学教授 Vanessa Heggie 质疑,在公司将「审查者」纳入应用程式之前,他们是否已获得审稿人的同意。

「我不知道该从何说起,但是…Grammarly现在提供由在世和已故学者对你的作品进行『专家评审』的服务,」Heggie在LinkedIn上写道。 “没错,是已故学者——未经任何人的明确许可,它就根据抓取的作品创建小型法学硕士论文,并利用他们的姓名和声誉。简直是无耻。”

美国海军学院政治学前副教授布里埃尔·哈宾称其为「一个奇怪且令人担忧的发展」。

「像这样的选择——尤其是在缺乏背景资讯、征得同意或与教育工作者建立有意义的合作关系的情况下做出——可能会加深人们对高等教育中人工智慧工具的怀疑,」她在领英上写道。 “具有讽刺意味的是,旨在加速推广应用的决策最终可能会加剧抵制情绪。信任和合作在当下至关重要。”

Grammarly只是众多开发旨在模仿真人的AI程式的公司之一。

2023年,Meta公司为其Meta AI平台推出了一系列以名人身份为主题的聊天机器人,包括Snoop Dogg、汤姆·布雷迪、肯达尔·詹娜和大坂直美。同年,可汗学院推出了人工智慧导师Khanmigo,该平台允许学生与历史人物进行角色扮演对话,例如英国首相温斯顿·邱吉尔和美国内战时期的间谍及「地下铁路」组织负责人哈里特·塔布曼

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
78
收藏
18
评论