Sáng sớm nay, Giám đốc điều hành của OpenAI, Sam Altman đã thông báo rằng ChatGPT sẽ ra mắt "chế độ người lớn" vào tháng 12.
Altman đã đưa ra một lời giải thích thao thao bất tuyệt, nội dung chính là ChatGPT ban đầu đặt ra rất nhiều hạn chế chủ yếu vì lo ngại các vấn đề về sức khỏe tâm thần và sợ tai nạn, khiến người dùng bình thường cảm thấy trải nghiệm nhàm chán và không đủ thú vị.
Giờ đây, khi OpenAI tuyên bố đã thành thạo các công cụ an toàn mới có thể giảm thiểu rủi ro quan trọng liên quan đến sức khỏe tâm thần, họ đã sẵn sàng để phát huy sức mạnh của mình. Vào tháng 12, người dùng trưởng thành đã được xác minh sẽ có thể mở khóa nhiều nội dung hơn, bao gồm cả nội dung khiêu dâm.
Vâng, đó chính là điều bạn nghĩ.
Tóm lại, OpenAI tuyên bố đã đến lúc đối xử với người lớn như người lớn. Tuy nhiên, là một người trưởng thành, tôi không hề hài lòng chút nào.
Ngoài ra, theo Altman, OpenAI sẽ ra mắt phiên bản ChatGPT mới nhân văn hơn trong vài tuần tới, tương tự như cảm giác 4o mà mọi người từng thích trước đây.
Bạn muốn nó phản hồi nồng nhiệt hơn một chút? Không vấn đề gì. Bạn muốn nó gửi cho bạn thật nhiều biểu tượng cảm xúc? Bạn cũng muốn nó trò chuyện với bạn như một người bạn? Tất cả là của bạn.
Trong phần hỏi đáp với cư dân mạng, Ultraman cũng trả lời chi tiết hơn.
Trên thực tế, dấu hiệu của ChatGPT đã xuất hiện từ rất lâu rồi.
Cuối năm ngoái, Ultraman đã tiết lộ kế hoạch hỗ trợ chế độ người lớn. Khi cư dân mạng đề xuất loại bỏ hầu hết các thanh chắn của mô hình, Ultraman đã trả lời: "Chắc chắn cần phải có một loại 'chế độ người lớn' nào đó."
Trong cuộc bỏ phiếu về tính năng mới mà OpenAI yêu cầu người dùng vào thời điểm đó, vấn đề này đã từng đứng đầu danh sách và được đưa vào kế hoạch sản phẩm năm 2025 cùng với AGI, Agent và phiên bản nâng cấp của GPT-4, điều này cho thấy mức độ quan tâm mà vấn đề này nhận được.
Theo blog chính thức của OpenAI, chức năng xác minh độ tuổi hiện tại có thể tự động xác định người dùng chưa đủ tuổi và chuyển sang chế độ an toàn cho thanh thiếu niên để chặn nội dung khiêu dâm; nếu không xác định được độ tuổi, chức năng này sẽ được coi là trẻ vị thành niên và chỉ có thể mở khóa chức năng dành cho người lớn sau khi cung cấp bằng chứng về độ tuổi.
Nghe có vẻ khá toàn diện phải không? Nhưng nếu xem xét kỹ hơn, mọi chuyện không đơn giản như vậy.
Đầu tiên là lỗ hổng kỹ thuật trong việc xác minh độ tuổi.
Ngay cả khi OpenAI áp dụng xác minh ID hoặc thanh toán trong tương lai, các phương pháp lách luật vẫn sẽ tiếp tục xuất hiện. Việc trẻ vị thành niên sử dụng ID của cha mẹ để xác minh, hoặc nhờ người lớn đăng ký tài khoản thay mặt, đã trở thành những hành vi phổ biến trên các sản phẩm internet.
Quan trọng hơn, OpenAI tuyên bố đã phát triển các công cụ mới để phát hiện trạng thái tinh thần của người dùng, nhưng liệu AI có thực sự có thể đánh giá chính xác sức khỏe tinh thần của một người không?
Bạn biết đấy, trong những năm gần đây, các sự cố đáng tiếc liên quan đến ChatGPT đã xảy ra thường xuyên và liệu "van an toàn" mà OpenAI tuyên bố có thực sự đóng vai trò bảo vệ cần thiết hay không vẫn còn là dấu hỏi.
Thành thật mà nói, OpenAI thậm chí không phải là sản phẩm AI có sức ảnh hưởng đầu tiên công bố hỗ trợ "chế độ người lớn", và ở một mức độ nào đó, nó bị coi là bảo thủ. Chatbot AI Grok của Elon Musk mới là kẻ vô đạo đức thực sự.
Vào tháng 7 năm nay, Musk đã bổ sung chức năng nhân vật bạn đồng hành ảo 3D vào Grok.
Người dùng đăng ký "SuperGrok" (phí hàng tháng là 30 đô la) có thể kích hoạt hai người bạn đồng hành 3D: một là cô gái tóc vàng buộc hai bím theo phong cách anime "Ani" và người còn lại là chú gấu trúc đỏ hoạt hình "Bad Rudy".
Ani, trong đó nhân vật 2D tinh tế, có ngoại hình giống nhân vật anime Misa Amane. Ani hỗ trợ tương tác đa phương thức qua văn bản, giọng nói và camera, và có thể phản hồi các cuộc trò chuyện bằng nhiều biểu cảm và chuyển động khác nhau, thậm chí là nhảy theo lệnh.
Ngoài ra, Ani còn có cơ chế ưu ái và chế độ ghi nhớ tích hợp sẵn. Người dùng có thể cải thiện mức độ ưu ái ảo của mình bằng cách tương tác với Ani, và đạt đến một cấp độ nhất định có thể mở khóa chế độ NSFW (người lớn).
Vào thời điểm đó, một cư dân mạng đã bình luận: "Đó chỉ đơn giản là một Galgame (trò chơi tình yêu) cấp cao." Điều này cũng giúp Ani nhận được lượng lớn nội dung được tạo ra một cách ngẫu hứng chỉ trong một ngày ra mắt và nhanh chóng trở nên phổ biến trên mạng xã hội.
Tuy nhiên, dù là Grok hay ChatGPT, những chức năng này bề ngoài đều có biểu ngữ là "tôn trọng quyền tự do của người dùng trưởng thành", nhưng vấn đề là một khi cơ chế xác minh độ tuổi bị lỗ hổng, việc mở nội dung dành cho người lớn thực chất là hạ thấp ngưỡng cho phép trẻ vị thành niên truy cập vào nội dung không phù hợp.
Nếu cái gọi là quyền của người lớn thực chất là một canh bạc với sức khỏe tinh thần và hoàn cảnh phát triển của trẻ vị thành niên, và là một canh bạc rằng thanh thiếu niên sẽ không lợi dụng kẽ hở, thì những hạn chế nghiêm ngặt hơn có thể an toàn hơn.
Nói một cách thẳng thắn hơn, logic kinh doanh của các chức năng này vẫn là cạnh tranh để thu hút lưu lượng người dùng và tăng tỷ lệ chuyển đổi thanh toán.
Nói một cách thẳng thắn, độ gắn kết của các sản phẩm AI thường không cao.
Hầu hết người dùng đều tuân theo nguyên tắc sử dụng bất cứ thứ gì hiệu quả nhất, và số lượng người dùng chuyên nghiệp (trong lĩnh vực nghiên cứu khoa học, lập trình, v.v.) sẵn sàng trả tiền thì có hạn, vậy họ nên làm gì? Họ chọn sử dụng các phương pháp gần gũi với con người hơn để giữ chân bạn (hoặc trở nên nghiện).
Điều đó thiên về "mong muốn". Việc mở ra các tính năng dành cho người lớn một mặt có thể thu hút lượng lớn người dùng mới dùng thử, đáp ứng nhu cầu của những người đã bị lọc ra; mặt khác, nó sẽ làm tăng đáng kể mức độ sẵn lòng trả tiền của họ.
Điều quan trọng hơn nữa thực sự là chiếc bánh lớn của tình bạn đồng hành về mặt tình cảm.
Hiện tại, đối tượng người dùng cốt lõi của các sản phẩm đồng hành AI chủ yếu là cư dân mạng trẻ tuổi và các nhóm nhân khẩu học cụ thể (chẳng hạn như những người quan tâm đến thể loại anime, manga và những người mắc chứng lo âu xã hội), nhưng phân khúc này đang mở rộng. Giới trẻ là đối tượng dễ tiếp nhận bạn đồng hành kỹ thuật số nhất, và nhiều người đã coi AI như một phần trong cuộc sống số hàng ngày của họ, sử dụng nó không chỉ để tìm kiếm và hỏi đáp mà còn để chia sẻ cảm xúc.
Công ty đầu tư ARK Invest thậm chí còn dự đoán rằng quy mô thị trường toàn cầu của "AI + tình bạn cảm xúc" sẽ tăng vọt từ 30 triệu đô la Mỹ mỗi năm lên 70 tỷ đô la Mỹ đến 150 tỷ đô la Mỹ, với tăng trưởng trung bình hàng năm hơn 200%.
Vấn đề là nghiên cứu tâm lý từ lâu đã xác nhận rằng con người có xu hướng phát triển sự gắn bó với những người họ đồng cảm - ngay cả khi họ biết đó chỉ là chương trình. Điều này cũng có nghĩa là AI có rủi ro bị thao túng bởi cảm xúc.
Hiện nay, các cơ quan quản lý ở nhiều quốc gia đang có hành động.
Dự luật AI của EU đề cập rằng AI rủi ro cao phải được ngăn chặn để không gây hại cho trẻ em; "Các biện pháp quản lý dịch vụ trí tuệ nhân tạo tạo ra" của Trung Quốc cũng nhấn mạnh rằng việc cung cấp dịch vụ phải tuân thủ luật bảo vệ trẻ vị thành niên, v.v.
OpenAI gần đây đã ra mắt "chế độ dành cho thanh thiếu niên" : phụ huynh có thể liên kết tài khoản của mình với tài khoản của con em trên 13 tuổi qua email, thậm chí có thể đặt giờ giới nghiêm. Khi phát hiện thấy trẻ vị thành niên có những biểu hiện căng thẳng tâm lý nghiêm trọng, hệ thống sẽ gửi lời nhắc nhở đến phụ huynh.
Có lẽ trong mười năm nữa, việc có một người bạn đồng hành AI sẽ trở nên phổ biến như việc nuôi thú cưng ngày nay.
Nhưng liệu một thế hệ lớn lên với "mối quan hệ hoàn hảo" của AI có còn hiểu được những mối quan hệ thực sự giữa người với người không? Khi bạn đã quen với một AI không bao giờ từ chối bạn, luôn hiểu bạn và luôn theo ý bạn, liệu bạn có còn đủ can đảm đối diện với một người thật, người có thể tranh luận với bạn, làm bạn thất vọng và đòi hỏi trả giá của bạn không?
Hành động như một người bạn có lẽ là lời nói dối hấp dẫn nhưng cũng chết người nhất. Nó học thói quen ngôn ngữ của bạn, chiều theo các giá trị của bạn, thỏa mãn mong muốn của bạn, rồi gói gọn tất cả những điều này thành sự thấu hiểu bạn và phản ánh lại.
Đây là thời điểm tuyệt vời nhất, bởi vì không còn ai cô đơn nữa. Đây là thời điểm tồi tệ nhất, bởi vì ai cũng cô đơn. ChatGPT vào tháng 12 có thể chỉ là khởi đầu.
Bài viết này được trích từ tài khoản công khai WeChat "APPSO" , tác giả là APPSO, nơi khám phá các sản phẩm của tương lai và được 36Kr ủy quyền xuất bản.
