亞馬遜支援的公司Anthropic的一位人工智慧專家被指在法庭檔案中引用了一篇虛構的學術文章，該檔案旨在為公司辯護，反駁未經許可使用受版權保護的歌詞訓練其人工智慧模型的指控。
這份由Anthropic資料科學家陳奧麗維亞提交的檔案，是公司對環球音樂集團、康科特、ABKCO和其他主要出版商提起的7500萬美元訴訟的法律回應的一部分。
出版商在2023年的訴訟中指控Anthropic非法使用了包括碧昂斯、滾石樂隊和海灘男孩在內的數百首歌曲的歌詞來訓練其Claude語言模型。
陳的宣告中引用了一篇發表在《美國統計學家》上的文章，旨在支援Anthropic的論點，即Claude僅在罕見和特定條件下複製受版權保護的歌詞，根據路透社的報道。
在週二聖何塞的聽證會上，原告律師馬特·奧本海姆稱這個引用是"完全虛構的"，但他不相信陳故意捏造，而是她可能使用Claude本身生成了這個來源。
Anthropic的律師西·達姆勒告訴法庭，陳的錯誤似乎是引用錯誤，而非捏造，同時批評原告在訴訟後期才提出這個問題。
據路透社報道，美國地方法官蘇珊·範·科倫表示這個問題"非常嚴重和嚴峻"，並指出"誤引用和人工智慧生成的幻覺之間存在天壤之別"。
她拒絕立即質詢陳，但要求Anthropic在週四前正式回應這一指控。
Anthropic尚未對Decrypt的評論請求作出回應。
針對Anthropic的訴訟於2023年10月提起，原告指控Claude模型在大量受版權保護的歌詞上訓練，並可按需複製。
他們要求賠償、披露訓練集，並銷燬侵權內容。
Anthropic於2024年1月回應，否認其系統設計用於輸出受版權保護的歌詞。
它稱任何此類複製都是"罕見的錯誤"，並指責出版商未提供普通使用者遇到侵權內容的證據。
2024年8月，該公司再次遭遇訴訟，這次是作家安德烈亞·巴茨、查爾斯·格雷伯和柯克·華萊士·約翰遜指控Anthropic在盜版版本的書籍上訓練Claude。
這一案例是對生成式人工智慧公司的持續反擊，這些公司被指在未經同意的情況下將受版權保護的材料輸入訓練資料集。
OpenAI正面臨喜劇演員莎拉·西爾弗曼、作家協會和《紐約時報》的多起訴訟，指控該公司未經許可或授權使用受版權保護的書籍和文章來訓練其GPT模型。
Meta也被捲入類似訴訟，原告指控其LLaMA模型是在從盜版資料集獲取的未經授權的文學作品上訓練的。
與此同時，在3月，OpenAI和谷歌敦促特朗普政府放寬人工智慧訓練的版權限制，稱其為即將出臺的美國"人工智慧行動計劃"中的創新障礙。
在英國，一項將允許人工智慧公司在未經許可的情況下使用受版權保護作品的政府法案本週遇到阻礙，在上議院支援了一項要求人工智慧公司披露其模型中使用的受版權保護材料的修正案後。
