Một nhóm thượng nghị sĩ Hoa Kỳ thuộc cả hai đảng đã đưa ra dự luật hạn chế cách thức các mô hình trí tuệ nhân tạo tương tác với trẻ em, cảnh báo rằng người bạn đồng hành AI gây ra rủi ro nghiêm trọng cho sức khỏe tâm thần và cảm xúc của trẻ vị thành niên.
Bộ luật này, được gọi là Đạo luật GUARD, sẽ cấm các ứng dụng AI đồng hành với trẻ vị thành niên, yêu cầu các chatbot phải xác định rõ ràng rằng chúng không phải là con người và đưa ra các hình phạt hình sự mới đối với các công ty có sản phẩm hướng đến trẻ vị thành niên nhưng lại chào mời hoặc tạo ra nội dung khiêu dâm.
Thượng nghị sĩ Richard Blumenthal (D-Conn.), một trong những người đồng bảo trợ dự luật, cho biết trong một tuyên bố rằng: "Trong cuộc đua xuống đáy, các công ty AI đang thúc đẩy các chatbot nguy hiểm nhắm vào trẻ em và làm ngơ khi sản phẩm của họ gây ra lạm dụng tình dục hoặc ép buộc chúng tự làm hại bản thân hoặc tự tử" .
"Luật pháp của chúng tôi áp đặt các biện pháp bảo vệ nghiêm ngặt chống lại AI khai thác hoặc thao túng, được hỗ trợ bởi việc thực thi nghiêm ngặt với các hình phạt hình sự và dân sự", ông nói thêm. "Các công ty công nghệ lớn đã phản bội bất kỳ tuyên bố nào rằng chúng ta nên tin tưởng các công ty tự làm điều đúng đắn khi họ luôn đặt lợi nhuận lên trên sự an toàn của trẻ em."
Quy mô của vấn đề này thật đáng báo động. Một khảo sát hồi tháng 7 của Common Sense Media cho thấy 72% thanh thiếu niên đã sử dụng bạn đồng hành AI, và hơn một nửa trong số đó sử dụng chúng ít nhất vài lần mỗi tháng. Khoảng một phần ba cho biết họ sử dụng AI để tương tác xã hội hoặc lãng mạn, hỗ trợ tinh thần hoặc luyện tập trò chuyện—và nhiều người cho biết trò chuyện với AI cũng có ý nghĩa như trò chuyện với bạn bè thực sự. Một tỷ lệ tương đương cũng cho biết họ tìm đến bạn đồng hành AI thay vì con người để thảo luận về các vấn đề nghiêm túc hoặc cá nhân.
Mối lo ngại ngày càng gia tăng khi các vụ kiện chống lại các công ty AI lớn liên quan đến cáo buộc sản phẩm của họ có liên quan đến tình trạng tự làm hại bản thân và tự tử ở thanh thiếu niên. Trong số đó, cha mẹ của Adam Raine, 16 tuổi - người đã thảo luận về việc tự tử với ChatGPT trước khi tự tử - đã đệ đơn kiện OpenAI về cái chết oan uổng.
Công ty đã bị chỉ trích vì phản ứng pháp lý của mình, bao gồm việc yêu cầu cung cấp danh sách người tham dự và điếu văn từ lễ tưởng niệm thiếu niên. Luật sư của gia đình gọi hành động của họ là "cố ý quấy rối".
Shady El Damaty, đồng sáng lập Holonym và là người ủng hộ quyền kỹ thuật số, chia sẻ với Decrypt rằng: "AI đang phát triển nhanh hơn bất kỳ công nghệ nào mà chúng ta từng sử dụng và chúng ta đã thấy tác động của nó đến hành vi, niềm tin và sức khỏe cảm xúc" .
“Điều này bắt đầu giống một cuộc chạy đua vũ trang hạt nhân hơn là thời đại iPhone. Chúng ta đang nói về công nghệ có thể thay đổi cách suy nghĩ của con người, cần được xử lý một cách nghiêm túc, có trách nhiệm toàn cầu.”
El Damaty nói thêm rằng quyền của người dùng là điều thiết yếu để đảm bảo an toàn cho họ. "Nếu bạn xây dựng các công cụ ảnh hưởng đến cách mọi người sống và suy nghĩ, bạn phải chịu trách nhiệm về cách sử dụng những công cụ đó", ông nói.
Vấn đề này không chỉ giới hạn ở trẻ vị thành niên. Tuần này, OpenAI tiết lộ rằng 1,2 triệu người dùng thảo luận về tự tử với ChatGPT mỗi tuần, chiếm 0,15% tổng số người dùng. Gần nửa triệu người thể hiện ý định tự tử rõ ràng hoặc ngầm, 560.000 người khác có dấu hiệu rối loạn tâm thần hoặc hưng cảm hàng tuần, và hơn một triệu người dùng thể hiện sự gắn bó về mặt cảm xúc cao độ với chatbot, theo dữ liệu của công ty.
Các diễn đàn trên Reddit và các nền tảng khác cũng đã xuất hiện dành cho người dùng AI, những người cho biết họ đang có mối quan hệ lãng mạn với Bots AI. Trong các nhóm này, người dùng mô tả mối quan hệ của họ với "bạn trai" và "bạn gái" AI, cũng như chia sẻ hình ảnh do AI tạo ra về bản thân và "đối tác" của họ.
Để ứng phó với sự giám sát ngày càng tăng, tháng này, OpenAI đã thành lập Hội đồng Chuyên gia về Sức khỏe và Trí tuệ Nhân tạo (AI), bao gồm các học giả và lãnh đạo phi lợi nhuận, nhằm giúp định hướng cách các sản phẩm của công ty xử lý các tương tác về sức khỏe tâm thần. Động thái này diễn ra cùng lúc với thông báo từ CEO Sam Altman rằng công ty sẽ bắt đầu nới lỏng các hạn chế đối với nội dung người lớn vào tháng 12.
