從病歷、口味偏好到不堪回首的往事，AI正悄悄建立你的數字人格檔案。但你真準備好讓AI永遠記住你的每一句話？AI算法背後，不止有溫柔，還有社死和殘酷。
今年4月，OpenAI發佈了ChatGPT的「記憶」功能：
此後，ChatGPT的記憶功能正在全面升級，不僅更智能、更自然，甚至免費用戶也能享受。它能記住你說過的話，形成個性化檔案，不斷優化對話體驗。但問題也隨之而來——
你，真的準備好讓一個AI永遠記得你嗎？
這很重要：並不是每個人都準備好接受永不遺忘的聊天機器人。
ChatGPT的記憶功能通過利用之前對話中的上下文信息，為用戶提供更個性化的回答。
例如：記者Megan Morrone曾要求ChatGPT提供素食餐單，但不包含扁豆。從那以後，聊天機器人就記住了她不喜歡扁豆。
最初的記憶功能像是私人備忘錄，需要你主動寫下。
而現在，它變得更「懂你」——甚至能自動記錄你在不同對話中的行為和偏好。
OpenAI個性化負責人Christina Wadsworth Kaplan告訴媒體，今年的重大更新就是讓「記憶更自然、更自動」。
她還分享了一次親身經歷：
有次她準備出國旅遊，ChatGPT基於她過去上傳的健康記錄，主動在推薦疫苗清單裡多加了一種疫苗。
護士看過後點頭認可。
這才是真正的「AI很懂你」。
新型AI社死與網絡創傷
但並非像OpenAI承諾的那樣美好，「記憶」功能背後也有問題。
比如，它可能會突然提醒：「你不是不吃扁豆嗎？」
或者，它隨口提到你幾個月前說過的傷心事。
有時，這種「AI的長記性」會讓人心裡發毛。
在2024年2月，OpenAI首次公佈該功能，當時承諾：諸如健康信息等敏感內容，ChatGPT會剋制，除非用戶明確要求。
但你信嗎？沒錯，現在你可以直接告訴它：「記住這件事。」或者反過來說：「別記住這個。」AI會遵守你的指令。
如今的ChatGPT的「記憶」功能，會自動記錄之前的聊天內容，用來理解用戶的偏好和背景。
這是個性化系統，涉及到的不僅是隱私問題，更尷尬的事情也不少。
Megan Morrone讓ChatGPT根據記憶生成一張她自己的形象。
結果AI畫像中，出現了婚戒——可她早已對婚姻失望透頂了。❤️🩹
記憶不是越久越好，尤其當它來自無法控制的機器。
持久記憶還可能讓聊天機器人變「無所不知」，從而減少用戶對大語言模型（LLM）的控制。
開發者Simon Willison上傳了狗狗的照片，請ChatGPT給它P個鵜鶘裝，結果圖上還加了個「Half Moon Ba」的牌子。
AI解釋說：「因為你之前提到過這個地方。」
他氣笑了：「我不希望我對狗穿奇裝異服的愛好，干擾我未來想認真工作的提示詞啊！」🥲
AI有了永久的記憶，卻忘了生活本身就該有選擇性遺忘。
你以為只是技術 bug，其實背後藏著兩類讓人發毛的問題👇：
（1）無意的算法殘忍（Inadvertent Algorithmic Cruelty）；
（2）上下文崩塌（context collapse）。
無意之失：算法的殘忍
大概十年前，博主Eric Meyer提出了「無意的算法殘忍」這一術語。
那天下午，悲傷卻不期而至，而這一切竟要歸功於一群設計師和程序員——此刻，這些臉書幕後的創作者或許正沉浸在成就感中。
他們為「年度回顧」應用傾注心血，的確值得驕傲——無數用戶藉此分享年度高光時刻。
但過去一年非常艱難，他不願意製作個人回顧。
動態頁裡不斷湧現他人制作的回顧卡片，幾乎都配著默認文案：「這是精彩的一年！感謝有你參與。」
單是看到「精彩」這個形容詞，就足以令他不適：這個詞與他毫不相干。
直到他的首頁突然跳出他女兒微笑的照片，慫恿他也創建一份：「Eric，這就是你的年度回顧！」
就是在這一年，他的女兒因癌症去世，當時早已不在人世。
是的，這就是他的「年度後顧」。千真萬確。就是這一年，就是他的女兒再也見不到的面容，在提醒他要年度回顧！
提醒如此生硬，實在殘忍。
這不是蓄意的傷害，他當然理解。
這種「無心的算法暴力」，源於一套代碼——在絕大多數情況下，它運行良好，提醒人們回顧自己「精彩」的一年，展示大家在派對上的自拍、遊艇邊看到的鯨魚噴水、度假屋外的碼頭風景。
但就在同一年，有人失去至親，有人在醫院度過漫長時光，有人遭遇離婚、失業或其他生活危機……
或許，他們並不想再回望這一年。
將已故女兒的面容展示給他，還再一旁說「這是今年的你！」——此情此景，誰都會感到不適。
是個人，就覺這不對。
如果出自真人之手，那確實就是錯的。但來自代碼，只能說是不幸。而且這些問題難以解決，真的很難。
這並非簡單的任務，算法很難判斷一張照片收穫無數點贊，究竟是因為滑稽可笑、驚豔絕倫，還是令人心碎？
本質上，算法沒有「心眼」，甚是「無腦」。它們按照設定的流程運行，一旦啟動，便不再思考。
說一個人「缺心眼」，通常是一種輕慢或侮辱。然而，人類卻讓這麼多真正「缺心眼」的算法流程，肆意侵入用戶的生活，甚至反噬自身。
真正的智能，不只是「記住你說過的每一句話」，而是「懂什麼才是你的傷心事」。
上下文崩塌
Willison遇到的問題是算法系統中另一種常見的現象，叫做「上下文崩塌」(context collapse)。
這指的是用戶在不同領域（工作、家庭、愛好等）中的數據被混在一起，模糊了它們之間的界限。
像許多學術概念一樣，「context collapse」並不是某個人靈光一現的產物，而是在不斷的交流碰撞中，慢慢浮現。
但不斷有學界人士寫信給danah boyd，詢問她是否創造了「上下文坍塌」（context collapse）一詞，因此她回過頭查閱自己的記錄以弄清楚這個問題。
danah boyd（達娜·博伊德）：微軟研究院首席研究員兼Data & Society研究所創始人及主席。她的研究關鍵詞包括：隱私、人口普查、語境、算法、公平、正義
2001年，她開始在MIT攻讀碩士。
於是在2002年，她寫了一篇碩士論文，題為《Faceted Id/entity》，深受Erving Goffman和Joshua Meyrowitz思想影響。
在那篇論文中，她花了整整一章反覆討論「collapsed contexts」，儘管當時並沒有系統地定義這個詞。
整篇論文其實就是在探討：在不同的語境中，如何構建和管理身份。
論文鏈接：https://www.danah.org/papers/Thesis.FacetedIdentity.pdf
她尤其熱愛Meyrowitz的那本《No Sense of Place》。這本書剖析了媒體如何影響人際互動，揭示了人們如何在多重受眾之間周旋的困境。比如，一張假期照片被不同人看到後產生的錯位理解。
中譯本為《消失的地域》，著重研究了新的信息流動模式對社會行為的影響。作者繼承了場景理論和媒介理論，提出了將面對面的交往研究與媒介研究聯繫在一起的切入點：社會「場景」結構。
在2003-2004年，她做過幾場講座。在幻燈片裡面。她把「collapsed contexts」一詞應用到了Friendster社交平臺，用來描述不同小眾文化意外交集的現象。
在某些講稿筆記中，偶爾她也把「collapsed contexts」簡化成了「context collapse」，但大多數時候，還是用原來的說法。
一直到2005—2008年，她發表的一些文章依然在用「collapsed contexts」。比如她的博士論文把「語境坍塌」作為核心概念。
論文鏈接：https://www.danah.org/papers/TakenOutOfContext.pdf
2009年，她開始和Alice Marwick合作。
Alice E. Marwick：北卡羅來納大學教堂山分校（University of North Carolina at Chapel Hill，UNC）傳播學系副教授、信息、技術與公共生活中心（CITAP）聯合創始人兼首席研究員。她專注於社交媒體技術的社會文化影響研究，主要學術貢獻包括：網絡媒體操縱與虛假信息、微名人現象（micro-celebrity）、網絡隱私、語境崩塌（context collapse）。最新著作：《私域即政治：網絡時代的隱私與社交媒體》（耶魯大學出版社，2023年5月出版）
Alice對「collapsed contexts」和「想象中的受眾」很感興趣，也她從「微名人」角度對這些觀點提出了挑戰。
Alice收集了大量Twitter用戶如何管理受眾的資料。
後來，利用這些數據，她們發表了一篇文章。
這是第一次在正式出版物中使用「context collapse」這個表達。
具體是怎麼從「collapsed contexts」變成「context collapse」，danah boyd也記不清了。
與此同時，2009年Michael Wesch也發表了一篇文章，題目中也出現了「Context Collapse」這一術語。
雖然都在媒體研究圈活動，但他們應該不是直接引用彼此的作品，而是都在同一片理論土壤中生根發芽。
如今，當談起「context collapse」時，danah boyd經常會提到Meyrowitz。
雖然這個術語並非他提出的，但正是他的理論，讓danah boyd意識到了這種現象的重要性。
總結
ChatGPT的記憶讓AI更像一個有個性的助手——它能記住你的喜好、經歷、健康狀況，甚至你的笑點。
但這也意味著：
它可能說出你不願被提醒的往事；
可能誤解你某一時刻的心情為永久偏好；
甚至讓人覺得：「它知道得太多了。」
所以，真正的挑戰，不是讓AI記住你——而是讓你有權決定，它記什麼、怎麼記、記多久。
歡迎來到AI的「永久記憶」時代。
但別忘了，你才是記憶的真正主人。
請記住，你總是可以對AI說「別記住」。
參考資料：
https://www.axios.com/newsletters/axios-ai-plus-cc128fe8-9e1b-42ca-8c75-b681425dca55.html
https://meyerweb.com/eric/thoughts/2014/12/24/inadvertent-algorithmic-cruelty/
https://www.zephoria.org/thoughts/archives/2013/12/08/coining-context-collapse.html
本文來自微信公眾號“新智元”，作者：新智元，36氪經授權發佈。
