Từ hồ sơ bệnh án, sở thích hương vị cho đến quá khứ mà bạn không nỡ nhìn lại, AI đang âm thầm xây dựng hồ sơ tính cách số của bạn. Nhưng bạn có thực sự sẵn sàng để AI ghi nhớ từng lời nói của bạn mãi mãi? Đằng sau thuật toán AI, không chỉ có sự dịu dàng, mà còn có cả cái chết xã hội và sự tàn nhẫn.
Vào tháng 4 năm nay, OpenAI đã phát hành chức năng "bộ nhớ" của ChatGPT:
Kể từ đó, chức năng bộ nhớ của ChatGPT đã được nâng cấp toàn diện, không chỉ thông minh hơn và tự nhiên hơn mà còn có sẵn cho người dùng miễn phí. Nó có thể ghi nhớ những gì bạn đã nói, tạo kho lưu trữ được cá nhân hóa và liên tục tối ưu hóa trải nghiệm trò chuyện. Tuy nhiên, cũng có một số vấn đề phát sinh -
Bạn có thực sự sẵn sàng để AI ghi nhớ bạn mãi mãi không?
Điều này rất quan trọng: Không phải ai cũng sẵn sàng sử dụng chatbot không bao giờ quên.
Tính năng ghi nhớ của ChatGPT cung cấp cho người dùng những phản hồi được cá nhân hóa hơn bằng cách tận dụng thông tin theo ngữ cảnh từ các cuộc trò chuyện trước đó.
Ví dụ: Phóng viên Megan Morrone từng yêu cầu ChatGPT cung cấp một thực đơn chay không có đậu lăng. Từ đó trở đi, chatbot nhớ ra rằng cô ấy không thích đậu lăng.
Chức năng bộ nhớ ban đầu giống như một bản ghi nhớ riêng tư yêu cầu bạn phải chủ động viết ra.
Và giờ đây, nó có thể hiểu bạn hơn - thậm chí có thể tự động ghi lại hành vi và sở thích của bạn trong các cuộc trò chuyện khác nhau.
Christina Wadsworth Kaplan, người đứng đầu bộ phận cá nhân hóa tại OpenAI, chia sẻ với giới truyền thông rằng bản cập nhật lớn nhất trong năm nay là giúp "trí nhớ trở nên tự nhiên và tự động hơn".
Cô cũng chia sẻ một trải nghiệm cá nhân:
Lần cô chuẩn bị đi du lịch nước ngoài, ChatGPT đã chủ động thêm một loại vắc-xin bổ sung vào danh sách vắc-xin được khuyến nghị dựa trên hồ sơ sức khỏe mà cô đã tải lên trước đó.
Cô y tá nhìn nó và gật đầu tán thành.
Đây chính là ý nghĩa thực sự của câu "AI hiểu bạn rất rõ".
Cái chết xã hội AI mới và chấn thương mạng
Nhưng nó không tốt như OpenAI đã hứa hẹn, còn có vấn đề đằng sau chức năng "bộ nhớ".
Ví dụ, nó có thể đột nhiên nhắc bạn: "Bạn không ăn đậu lăng sao?"
Hoặc nó tình cờ nhắc đến một điều buồn mà bạn đã nói cách đây vài tháng.
Đôi khi, "bộ nhớ dài hạn của AI" này có thể khiến mọi người cảm thấy bất an.
OpenAI lần đầu công bố tính năng này vào tháng 2 năm 2024, khi đó cam kết rằng ChatGPT sẽ không cung cấp nội dung nhạy cảm, chẳng hạn như thông tin sức khỏe, trừ khi người dùng yêu cầu rõ ràng.
Nhưng bạn có tin không? Có chứ, giờ bạn có thể nói thẳng với nó: "Nhớ điều này nhé." Hoặc ngược lại: "Đừng nhớ điều này." AI sẽ tuân theo chỉ dẫn của bạn.
Chức năng "Bộ nhớ" của ChatGPT hiện nay tự động ghi lại nội dung trò chuyện trước đó để hiểu sở thích và bối cảnh của người dùng.
Đây là một hệ thống cá nhân hóa, không chỉ liên quan đến vấn đề riêng tư mà còn nhiều điều đáng xấu hổ khác.
Megan Morrone đã yêu cầu ChatGPT tạo ra hình ảnh của chính cô ấy theo trí nhớ.
Kết quả là, một chiếc nhẫn cưới xuất hiện trong bức chân dung AI - nhưng cô ấy đã vô cùng thất vọng về cuộc hôn nhân. ❤️🩹
Trí nhớ không phải lúc nào cũng tốt hơn, đặc biệt là khi nó đến từ một cỗ máy mà bạn không thể kiểm soát.
Bộ nhớ liên tục cũng có thể cho phép chatbot trở nên "toàn năng", do đó làm giảm khả năng kiểm soát của người dùng đối với các mô hình ngôn ngữ lớn (LLM).
Nhà phát triển Simon Willison đã tải lên ảnh chú chó của mình và yêu cầu ChatGPT mặc cho nó một bộ đồ bồ nông. Kết quả là biển báo "Half Moon Ba" đã được thêm vào ảnh.
AI giải thích: "Vì bạn đã từng nhắc đến nơi này trước đây."
Anh ta cười giận dữ: "Tôi không muốn sở thích cho chó mặc quần áo kỳ lạ của mình ảnh hưởng đến lời nhắc nhở về công việc tương lai!" 🥲
AI có trí nhớ vĩnh viễn, nhưng quên rằng bản thân sự sống cũng cần có sự quên lãng có chọn lọc.
Bạn nghĩ rằng đó chỉ là lỗi kỹ thuật, nhưng thực ra có hai loại vấn đề nghiêm trọng ẩn sau nó:
(1) Sự tàn ác vô ý của thuật toán;
(2) Sự sụp đổ của bối cảnh.
Những sai lầm vô ý: sự tàn nhẫn của thuật toán
Khoảng một thập kỷ trước, blogger Eric Meyer đã đặt ra thuật ngữ “sự tàn ác vô ý của thuật toán”.
Chiều hôm đó, nỗi buồn bất ngờ ập đến, tất cả là nhờ một nhóm các nhà thiết kế và lập trình viên - lúc này, những người sáng tạo đứng sau Facebook có lẽ đang đắm chìm trong cảm giác thành tựu.
Họ nên tự hào về những nỗ lực mà họ đã bỏ ra cho ứng dụng "Nhìn lại năm" - vô số người dùng sử dụng ứng dụng này để chia sẻ những điểm nổi bật trong năm.
Nhưng năm vừa qua quá khó khăn đến nỗi ông không muốn tạo ra hồi tưởng cá nhân.
Trang động này liên tục xuất hiện với các thẻ đánh giá do người khác tạo ra, hầu hết đều đi kèm với nội dung mặc định: "Đây là một năm tuyệt vời! Cảm ơn bạn đã tham gia."
Chỉ cần nhìn thấy tính từ "xuất sắc" là đủ khiến anh ta cảm thấy không thoải mái: từ này chẳng liên quan gì đến anh ta cả.
Cho đến khi một bức ảnh con gái anh đang mỉm cười bất ngờ xuất hiện trên trang chủ của anh, thúc giục anh cũng tạo một bức ảnh như vậy: "Eric, đây là bài tổng kết năm của con!"
Cũng trong năm này, con gái ông qua đời vì bệnh ung thư và không còn sống được nữa.
Phải, đây là "Tổng kết năm" của ông. Đúng vậy. Chính năm nay, và khuôn mặt mà con gái ông sẽ không bao giờ nhìn thấy nữa, đã nhắc nhở ông tổng kết năm!
Lời nhắc nhở này thẳng thừng đến mức tàn nhẫn.
Anh ấy chắc chắn hiểu rằng đây không phải là hành vi cố ý gây hại.
"Bạo lực thuật toán vô tình" này bắt nguồn từ một tập hợp các mã - trong hầu hết các trường hợp, nó hoạt động tốt, nhắc nhở mọi người nhìn lại năm "tuyệt vời" của mình, hiển thị ảnh tự sướng của mọi người tại các bữa tiệc, vòi phun nước của cá voi được nhìn thấy trên du thuyền và quang cảnh bến tàu bên ngoài các ngôi nhà nghỉ dưỡng.
Nhưng trong cùng năm đó, một số người mất đi người thân yêu, một số phải nằm viện trong thời gian dài, một số phải ly hôn, thất nghiệp hoặc gặp phải những khủng hoảng khác trong cuộc sống...
Có lẽ họ không muốn nhìn lại năm nay.
Chỉ cho ông ấy thấy khuôn mặt của đứa con gái đã mất và nói "Năm nay chính là ông!" - bất kỳ ai cũng sẽ cảm thấy không thoải mái trong tình huống này.
Là một con người, tôi cảm thấy điều này là không đúng.
Nếu nó đến từ một người thật thì sai rồi. Nhưng nếu nó đến từ mã nguồn thì thật đáng tiếc. Và những vấn đề này rất khó sửa. Khó lắm.
Đây không phải là một nhiệm vụ dễ dàng. Thật khó để một thuật toán xác định liệu một bức ảnh nhận được vô số lượt thích vì nó hài hước, ấn tượng hay đau lòng?
Về bản chất, thuật toán không có “tâm trí” hay “bộ não”. Chúng hoạt động theo một quy trình nhất định và một khi đã được khởi động, chúng không còn suy nghĩ nữa.
Gọi ai đó là "ngu ngốc" thường là một sự xúc phạm hoặc khinh miệt. Tuy nhiên, con người đã để quá nhiều quy trình thuật toán thực sự "ngu ngốc" xâm phạm cuộc sống của người dùng và thậm chí còn phản tác dụng với chính họ.
Trí thông minh thực sự không chỉ là "nhớ mọi lời bạn nói" mà là "hiểu được điều gì khiến bạn buồn".
Thu gọn ngữ cảnh
Vấn đề mà Willison gặp phải là một hiện tượng phổ biến khác trong các hệ thống thuật toán, được gọi là "sụp đổ ngữ cảnh".
Điều này đề cập đến thực tế là dữ liệu của người dùng ở nhiều lĩnh vực khác nhau (công việc, gia đình, sở thích, v.v.) được trộn lẫn với nhau, làm mờ ranh giới giữa chúng.
Giống như nhiều khái niệm học thuật khác, "sự sụp đổ bối cảnh" không phải là sản phẩm của cảm hứng đột ngột của ai đó, mà xuất hiện từ từ thông qua giao tiếp và va chạm liên tục.
Nhưng các học giả vẫn tiếp tục viết thư cho Danah Boyd để hỏi liệu bà có phải là người nghĩ ra thuật ngữ "sụp đổ bối cảnh" hay không, vì vậy bà đã xem lại hồ sơ của mình để tìm hiểu.
Danah Boyd là nhà nghiên cứu chính tại Microsoft Research, đồng thời là người sáng lập kiêm chủ tịch Viện Dữ liệu & Xã hội. Các từ khóa nghiên cứu của bà bao gồm: quyền riêng tư, điều tra dân số, bối cảnh, thuật toán, công bằng và công lý.
Năm 2001, cô bắt đầu theo học chương trình thạc sĩ tại MIT.
Vì vậy, vào năm 2002, bà đã viết luận văn thạc sĩ có tựa đề "Faceted Id/entity", chịu ảnh hưởng sâu sắc từ các ý tưởng của Erving Goffman và Joshua Meyrowitz.
Trong bài báo đó, bà đã dành hẳn một chương để thảo luận nhiều lần về "bối cảnh sụp đổ", mặc dù vào thời điểm đó bà không định nghĩa thuật ngữ này một cách có hệ thống.
Toàn bộ bài viết thực chất nói về cách xây dựng và quản lý bản sắc trong các bối cảnh khác nhau.
Liên kết bài báo: https://www.danah.org/papers/Thesis.FacetedIdentity.pdf
Cô đặc biệt thích cuốn sách No Sense of Place của Meyrowitz, cuốn sách phân tích cách phương tiện truyền thông ảnh hưởng đến tương tác giữa các cá nhân và tiết lộ tình thế tiến thoái lưỡng nan về cách mọi người ứng xử với nhiều đối tượng khán giả, chẳng hạn như những cách diễn giải khác nhau về một bức ảnh kỳ nghỉ sau khi được nhiều người khác nhau xem.
Bản dịch tiếng Trung là "Vùng Biến Mất", tập trung vào tác động của các mô hình dòng thông tin mới lên hành vi xã hội. Tác giả kế thừa lý thuyết bối cảnh và lý thuyết truyền thông, đồng thời đề xuất một điểm khởi đầu để liên kết nghiên cứu giao tiếp trực diện với nghiên cứu truyền thông: cấu trúc "bối cảnh" xã hội.
Trong các năm 2003-2004, bà đã có một số bài giảng. Trong các slide, bà đã áp dụng thuật ngữ "bối cảnh sụp đổ" vào nền tảng xã hội Friendster để mô tả hiện tượng giao thoa bất ngờ giữa các nền văn hóa ngách khác nhau.
Trong một số ghi chú bài giảng của mình, đôi khi bà đã đơn giản hóa “bối cảnh sụp đổ” thành “sự sụp đổ bối cảnh”, nhưng hầu hết thời gian, bà vẫn sử dụng thuật ngữ gốc.
Cho đến năm 2005-2008, bà vẫn sử dụng "bối cảnh sụp đổ" trong một số bài báo đã xuất bản của mình. Ví dụ, luận án tiến sĩ của bà đã sử dụng "sự sụp đổ bối cảnh" làm khái niệm cốt lõi.
Liên kết bài báo: https://www.danah.org/papers/TakenOutOfContext.pdf
Năm 2009, cô bắt đầu làm việc với Alice Marwick.
Alice E. Marwick là phó giáo sư ngành truyền thông tại Đại học Bắc Carolina ở Chapel Hill (UNC), đồng thời là đồng sáng lập và nghiên cứu viên chính của Trung tâm Thông tin, Công nghệ và Đời sống Công cộng (CITAP). Bà tập trung nghiên cứu tác động văn hóa xã hội của công nghệ mạng xã hội, và những đóng góp học thuật chính của bà bao gồm: thao túng truyền thông trực tuyến và thông tin sai lệch, người nổi tiếng nhỏ lẻ, quyền riêng tư trực tuyến và sự sụp đổ của bối cảnh. Cuốn sách mới nhất: Private is Political: Privacy and Social Media in the Internet Age (Nhà xuất bản Đại học Yale, tháng 5 năm 2023)
Alice quan tâm đến “bối cảnh sụp đổ” và “khán giả tưởng tượng”, và cô thách thức quan điểm này từ góc nhìn của “người nổi tiếng nhỏ”.
Alice đã thu thập lượng lớn dữ liệu về cách người dùng Twitter quản lý đối tượng của họ.
Sau đó, họ đã xuất bản một bài báo sử dụng dữ liệu này.
Đây là lần thuật ngữ "sụp đổ bối cảnh" được sử dụng trong một ấn phẩm chính thức.
Danah Boyd không thể nhớ chính xác "bối cảnh sụp đổ" đã trở thành "sự sụp đổ bối cảnh" như thế nào.
Cùng thời điểm đó, vào năm 2009, Michael Wesch cũng đã xuất bản một bài viết trong đó thuật ngữ “Context Collapse” cũng xuất hiện trong tiêu đề.
Mặc dù tất cả họ đều hoạt động trong lĩnh vực nghiên cứu truyền thông, nhưng có lẽ họ không trích dẫn trực tiếp tác phẩm của nhau mà đều có chung một nền tảng lý thuyết.
Ngày nay, khi nói về "sự sụp đổ bối cảnh", danah boyd thường nhắc đến Meyrowitz.
Mặc dù ông không phải là người đặt ra thuật ngữ này, nhưng chính lý thuyết của ông đã khiến Danah Boyd nhận ra tầm quan trọng của hiện tượng này.
Tóm tắt
Bộ nhớ của ChatGPT khiến AI giống như một trợ lý cá nhân hơn - nó có thể ghi nhớ sở thích, trải nghiệm, tình trạng sức khỏe và thậm chí cả khiếu hài hước của bạn.
Nhưng nó cũng có nghĩa là:
Nó có thể nói về những sự kiện trong quá khứ mà bạn không muốn nhớ lại;
Bạn có thể hiểu sai tâm trạng của mình tại một thời điểm nào đó thành sở thích cố định;
Nó thậm chí còn khiến mọi người cảm thấy: "Nó biết quá nhiều."
Do đó, thách thức thực sự không phải là để AI ghi nhớ bạn - mà là trao cho bạn quyền quyết định những gì nó ghi nhớ, cách ghi nhớ và thời gian ghi nhớ.
Chào mừng đến với kỷ nguyên "bộ nhớ vĩnh viễn" trong AI.
Nhưng đừng quên, bạn là chủ nhân thực sự của trí nhớ của mình.
Hãy nhớ rằng, bạn luôn có thể bảo AI "đừng nhớ".
Tham khảo:
https://www.axios.com/newsletters/axios-ai-plus-cc128fe8-9e1b-42ca-8c75-b681425dca55.html
https://meyerweb.com/eric/thoughts/2014/12/24/inadvertent-algorithmic-cruelty/
https://www.zephoria.org/thoughts/archives/2013/12/08/coining-context-collapse.html
Bài viết này được trích từ tài khoản công khai WeChat "Xinzhiyuan" , tác giả: Xinzhiyuan, được 36Kr xuất bản với sự cho phép.
