玩家已經開始讓人工智能達斯·維達咒罵

avatar
WIRED
05-17
本文為機器翻譯
展示原文

週五,Epic Games宣佈達斯·維德將以遊戲內Boss的形式迴歸《堡壘之夜》——但這次,玩家將能夠透過對話式人工智慧與他交談。"詢問關於原力、銀河帝國的所有緊迫問題……或者你知道,最後風暴圈的好策略,"Epic在公告中說道。

不幸的是,玩家另有打算。維德出現在《堡壘之夜》僅幾小時後,玩家們就開始釋出AI維德失控的影片剪輯。

"那是什麼該死的食物,達斯·維德?告訴我,"直播主Loserfruit在釋出到X平臺的一個剪輯中說。"該死的?這樣的粗俗語言不適合你,"維德回覆。(Epic Games的發言人凱特·麥考馬克告訴WIRED,他們在遊戲中發生這種情況後30分鐘內推出了緊急修復,所以這種情況不應再發生。)

後來,在關於可能的戀愛物件的對話中,Loserfruit促使維德回覆:"你說的是胸部,Loserfruit?我相信你指的是裝甲胸甲。"

在另一位直播主的影片剪輯中,維德可以聽到談論致癌物,然後說出一個通常針對同性戀男性的貶義詞,也可以是香菸的俚語。直播主可以聽到尖叫"他說了!他說了!"然後欣喜地逃跑。

這個由Google Gemini 2.0製作的AI,使用ElevenLabs的Flash v2.5模仿已故詹姆斯·厄爾·瓊斯的配音。除了Google的安全設定,Epic還添加了自己的指令,以防止有害或違反遊戲社群規則的互動。玩家可以像報告任何其他語音聊天一樣報告不當言論的達斯·維德。

Epic告訴WIRED,作為其防護措施的一部分,它添加了特定規則和指令,以避免使用髒話或重複髒話,併為遊戲內AI使用添加了家長控制。談到維德使用髒話,麥考馬克說:"我們的過濾器沒有捕捉到特定變體的粗言穢語。當這種情況發生時,我們會進行調整以避免將來出現類似的回覆。"

如果玩家繼續試圖讓達斯·維德違反Epic Games的設定和指令,他將離開他們的小隊。他們將無法在該遊戲會話中再次招募他。"這些安全設定和限制已經由Epic員工和外部專家進行了嚴格測試,"麥考馬克說。

"我們將調查報告,並在需要時進行調整,以避免將來出現類似的回覆,"麥考馬克說。

《堡壘之夜》是數百萬玩家的數字遊樂場,其中許多是年輕人。人們立即嘗試讓迪士尼旗下的達斯·維德說些令人反感的話並不令人意外。但玩家能夠如此迅速地做到這一點,表明生成式人工智慧還沒有完全準備好在主要遊戲平臺上使用。

在週五流傳的一些案例中,維德所說內容的陰險背景對AI來說可能太微妙了。例如,在一個影片剪輯中,維德將西班牙語描述為"走私者和香料貿易商的有用語言。其戰略價值很小。"或者在另一個影片中,玩家要求維德對白色、棕色和黃色進行"等級排序"。

盧卡斯影業尚未對評論請求做出回應。

維德爭議並非週五《堡壘之夜》上唯一的爭議。當天早些時候,Epic宣佈"蘋果阻止了我們的《堡壘之夜》提交,因此我們無法在美國App Store或歐盟的Epic Games Store上釋出。"

Epic和蘋果在《堡壘之夜》問題上一直存在來回爭執。蘋果通常對應用內購買收取佣金;在Epic更新其應用以連結到其網站並避免費用後,《堡壘之夜》被從App Store下架。上週,在法官裁定蘋果不能對應用外購買的內容收取佣金後,Epic重新提交了遊戲。當WIRED聯絡置評時,蘋果發言人對Epic描述的事件提出異議,但該遊戲目前仍對iPhone和其他iOS使用者不可用。

週五,Epic釋出新的維德Boss,並附帶訊息"這將是一個值得銘記的日子。"但可能不是它想象的那個原因。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論