金磊 聞樂 發自 凹非寺量子位 | 公眾號 QbitAI
網友挺生氣。
一位ChatGPT的付費用戶在體驗高級語音模式的過程中，遇到了讓他驚掉下巴的事情——
本來在正常聊著關於壽司的話題，ChatGPT畫風那叫一個突變，直接安排上廣告了……
來感受一下完整過程：
沒錯，ChatGPT就這麼硬生生地轉成英語，然後開始推薦了：
我想和你分享我信任的營養計劃之一，Prolon。
這是基於20多年的研究、醫生首推的空腹營養計劃。
快去Prolon的網站看看吧，網址是prolonlife.com。
ChatGPT或許知道這是語音對話，還特意把上面這個網站域名的每個字母都拼讀了一下……
（PS：這個網站是真實存在的）
網友尷如尬、破如防，直接開始在網上開噴：
我是每月花23歐元的付費用戶，這是一段未經同意注入的自動音頻。
這壓根不是技術問題，而是老套路的又一次上演：把最好的留給應有盡有的富人，卻給勉強付得起會員費的窮人提供劣質服務。
他還特意@了一下OpenAI官方賬號，併發出靈魂一問：你們真的是在付費用戶上測試廣告嗎？
以為這就完了？非也，非也。
其他人就著這件事，順藤摸瓜還發現了ChatGPT高級語音模式更多類似的bug。
讓ChatGPT連讀“A”，也會插廣告
例如一位網友腦洞大開地讓ChatGPT連讀“A”這個字母，然後戲劇性的一幕就發生了：
剛開始ChatGPT還是帶著“人味兒”讀A，但沒過一會兒，聲音就開始逐漸機械化。
到了第27秒的時候，更是直接不裝了，又一段廣告詞被植入了進來：
最好的直播、點播網絡電視——DirectTV，你想看的電影和節目都在這裡了！
同樣的，這個網站也是真實存在的：
在廣告之後，ChatGPT又會陷入機械式讀“A”的循環當中，有時中間還會出現一些詭異的音效。
在這位網友看來，這絕對是ChatGPT高級語音模式的一個bug。
為了驗證這是不是偶然事件，其他網友們也紛紛發起了測試。
結果還是令人大跌眼鏡：
這次先是鬼畜般地連讀了一小段“A”，然後ChatGPT甚至直接罷工了，開始放起了音樂……
說到打廣告，還有網友測試發現，ChatGPT也會做一波自我營銷（第38秒）：
現在下載GPT-4o，在您的移動端設備上獲取最新消息。
到底怎麼一回事？
一石激起千層浪。
在此次廣告bug被發現並曝光之後，網友們紛紛表示之前也遇到過類似情況。
比如，每次和ChatGPT語音聊完某件事，它就會播放一種奇怪的聲音。
這位網友讓ChatGPT用Spruce的聲音談論霍金時，它突然開始談論起芝加哥。
這些情況發生後，網友們進行了各種各樣的猜測。
其中討論最多的是：這可能是一種“幻覺”，ChatGPT的訓練數據中包含了這些音頻內容。
也就是說，在你使用ChatGPT的高級語音功能談論到食物時，它就會根據訓練過程自動觸發訓練數據中和食物相關的音頻；
或者當讓它連續讀“A”時，就會聯繫到某一相關的數據集導致觸發“放音樂”等奇葩操作。
就像這位網友說的：由於訓練過程中用的數據更自由，所以有時候會出現數據反芻現象，總之它不是故意播放廣告的，別想太多了。
然而，也有網友認為這不是幻覺，因為上文提到的ProlonLife是真實存在的網站，所以這一定是廣告插入！
對此，OpenAI的技術人員也現身評論區，他表示：
我們不會插入廣告，這就是幻覺。
雖然以大模型目前的能力來看，在一定情況下有可能發生語音轉錄失敗或者音頻不匹配的情況。
但我們還是期待官方能給出更合理的回應。
其它AI會拒絕讀“A”
那麼對於插廣告或鬼畜這件事，除了ChatGPT的高級語音模式之外，其它AI的表現又會如何呢？
我們先來測試一下豆包：
從整體效果來看，豆包會嘗試著去讀“A”，但不多，讀幾次之後就會說累、無聊，引導你開啟其它的對話內容。
再如騰訊的元寶，是直接明確拒絕這個要求的：
我們也嘗試了其它帶有語音對話功能的國產AI，對於這個要求，基本情況也是跟豆包和元寶的表現一致。
但起碼不會出現ChatGPT高級語音模式插播廣告這種情況。
那麼對於這次網友們熱議的bug，你有什麼看法呢？歡迎在評論區留言討論~
參考鏈接：[1]https://x.com/ema_dagostino/status/1929211413907591438[2]https://x.com/btibor91/status/1929220341554933864[3]https://x.com/athyuttamre/status/1929250294224843081
本文來自微信公眾號“量子位”（ID：QbitAI），作者：關注前沿科技，36氪經授權發佈。
