Khi luật quốc gia về nội dung khiêu dâm deepfake đang được Quốc hội thông qua, các tiểu bang trên khắp đất nước đang cố gắng tự mình giải quyết vấn đề. Ba mươi chín tiểu bang đã đưa ra một loạt luật được thiết kế để ngăn chặn việc tạo ra deepfake không có sự đồng thuận và trừng phạt những người tạo ra và chia sẻ chúng.
Đầu năm nay, nữ dân biểu đảng Dân chủ Alexandria Ocasio-Cortez, bản thân cũng là nạn nhân của deepfake không có sự đồng thuận, đã giới thiệu Đạo luật Phá vỡ Hình ảnh Giả mạo Rõ ràng và Chỉnh sửa Không đồng thuận, hay Đạo luật Thách thức . Nếu được thông qua, dự luật này sẽ cho phép các nạn nhân của nội dung khiêu dâm deepfake được kiện miễn là họ có thể chứng minh được nội dung deepfake đã được tạo ra mà không có sự đồng ý của họ. Vào tháng 6, thượng nghị sĩ đảng Cộng hòa Ted Cruz đã giới thiệu Đạo luật Gỡ bỏ , theo đó các nền tảng sẽ xóa cả nội dung khiêu dâm trả thù và nội dung khiêu dâm deepfake không có sự đồng thuận.
Mặc dù có sự hỗ trợ song phương cho nhiều biện pháp này, luật liên bang có thể mất nhiều năm để thông qua cả hai viện của Quốc hội trước khi được ký thành luật. Nhưng các cơ quan lập pháp tiểu bang và các chính trị gia địa phương có thể hành động nhanh hơn—và họ đang cố gắng làm như vậy.
Tháng trước, văn phòng Luật sư thành phố San Francisco David Chiu đã công bố một vụ kiện chống lại 16 trang web được truy cập nhiều nhất cho phép người dùng tạo nội dung khiêu dâm do AI tạo ra. “AI tạo ra có triển vọng to lớn, nhưng giống như tất cả các công nghệ mới, có những hậu quả không mong muốn và tội phạm tìm cách khai thác công nghệ mới. Chúng ta phải rất rõ ràng rằng đây không phải là sự đổi mới—mà là lạm dụng tình dục”, Chiu cho biết trong một tuyên bố do văn phòng của ông đưa ra vào thời điểm đó.
Vụ kiện này chỉ là nỗ lực mới nhất nhằm hạn chế tình trạng khiêu dâm deepfake không có sự đồng thuận đang ngày càng gia tăng.
"Tôi nghĩ có một quan niệm sai lầm rằng chỉ những người nổi tiếng mới bị ảnh hưởng bởi điều này", Ilana Beller, giám đốc tổ chức tại Public Citizen, người đã theo dõi luật deepfake không có sự đồng thuận và chia sẻ những phát hiện của họ với WIRED, cho biết. "Rất nhiều người bình thường cũng đang trải qua trải nghiệm này".
Dữ liệu từ Public Citizen cho thấy 23 tiểu bang đã thông qua một số hình thức luật deepfake không có sự đồng thuận. Beller cho biết: "Đây là một vấn đề rất phổ biến, vì vậy các nhà lập pháp tiểu bang đang coi đây là một vấn đề". "Tôi cũng nghĩ rằng các nhà lập pháp quan tâm đến việc thông qua luật AI ngay bây giờ vì chúng ta đang thấy công nghệ này phát triển nhanh như thế nào".
Năm ngoái, WIRED đưa tin rằng nội dung khiêu dâm deepfake chỉ đang gia tăng và các nhà nghiên cứu ước tính rằng 90 phần trăm video deepfake là nội dung khiêu dâm, phần lớn là nội dung khiêu dâm không có sự đồng thuận của phụ nữ. Nhưng bất chấp vấn đề này phổ biến như thế nào, Kaylee Williams, một nhà nghiên cứu tại Đại học Columbia, người đã theo dõi luật deepfake không có sự đồng thuận, cho biết bà đã thấy các nhà lập pháp tập trung nhiều hơn vào deepfake chính trị.
Bà cho biết: “Nhiều tiểu bang quan tâm đến việc bảo vệ tính toàn vẹn của cuộc bầu cử theo cách đó hơn là giải quyết vấn đề hình ảnh riêng tư”.
Matthew Bierlein, một đại diện của đảng Cộng hòa tại Michigan, người đồng tài trợ cho gói dự luật deepfake không có sự đồng thuận của tiểu bang, cho biết ban đầu ông đã tìm đến vấn đề này sau khi nghiên cứu luật về deepfake chính trị. "Kế hoạch của chúng tôi là biến [deepfake chính trị] thành hành vi vi phạm tài chính chiến dịch nếu bạn không đưa ra tuyên bố từ chối trách nhiệm để thông báo cho công chúng". Bierlein cho biết thông qua công việc của mình về deepfake chính trị, ông bắt đầu làm việc với đại diện của đảng Dân chủ Penelope Tsernoglou, người đã giúp thúc đẩy các dự luật deepfake không có sự đồng thuận.
Vào thời điểm tháng 1, các video deepfake không có sự đồng thuận của Taylor Swift vừa lan truyền rộng rãi và chủ đề này được đưa tin rộng rãi. "Chúng tôi nghĩ rằng đây là thời điểm thích hợp để có thể làm điều gì đó", Beirlein nói. Và Beirlein nói rằng ông cảm thấy Michigan đang ở vị thế trở thành người dẫn đầu khu vực ở Trung Tây, bởi vì, không giống như một số tiểu bang lân cận, tiểu bang này có một cơ quan lập pháp toàn thời gian với đội ngũ nhân viên được trả lương cao ( hầu hết các tiểu bang đều không có ). "Chúng tôi hiểu rằng đây là vấn đề lớn hơn nhiều so với vấn đề của Michigan. Nhưng rất nhiều thứ có thể bắt đầu ở cấp tiểu bang", ông nói. "Nếu chúng tôi hoàn thành việc này, thì có thể Ohio sẽ áp dụng điều này trong phiên họp lập pháp của họ, có thể Indiana sẽ áp dụng điều gì đó tương tự hoặc Illinois, và điều đó có thể giúp việc thực thi dễ dàng hơn".
Nhưng hình phạt cho việc tạo và chia sẻ deepfake không có sự đồng thuận là gì—và ai được bảo vệ—có thể khác nhau rất nhiều giữa các tiểu bang. Williams cho biết: “Bối cảnh của Hoa Kỳ thực sự không nhất quán về vấn đề này”. “Tôi nghĩ rằng gần đây đã có một quan niệm sai lầm rằng tất cả các luật này đang được thông qua trên khắp cả nước. Tôi nghĩ rằng những gì mọi người đang thấy là đã có rất nhiều luật được đề xuất”.
Một số tiểu bang cho phép đưa ra các vụ án dân sự và hình sự đối với thủ phạm, trong khi những tiểu bang khác chỉ có thể đưa ra một trong hai. Ví dụ, các luật như luật gần đây có hiệu lực ở Mississippi tập trung vào trẻ vị thành niên. Trong khoảng một năm trở lại đây, đã có một loạt các trường hợp học sinh trung học cơ sở và trung học phổ thông sử dụng AI tạo sinh để tạo ra hình ảnh và video rõ ràng về bạn cùng lớp, đặc biệt là các bé gái. Các luật khác tập trung vào người lớn, với các nhà lập pháp về cơ bản là cập nhật các luật hiện hành cấm khiêu dâm trả thù.
Không giống như luật tập trung vào deepfake không có sự đồng thuận của trẻ vị thành niên, mà Williams cho biết có Consensus rộng rãi rằng chúng là "sai trái về mặt đạo đức cố hữu", luật xoay quanh những gì được coi là "đạo đức" khi nói đến deepfake không có sự đồng thuận của người lớn thì "mềm yếu hơn". Trong nhiều trường hợp, luật và dự luật được đề xuất yêu cầu phải chứng minh ý định, rằng mục tiêu của người tạo và chia sẻ deepfake không có sự đồng thuận là gây hại cho chủ thể.
Nhưng trực tuyến, Sara Jodka, một luật sư chuyên về quyền riêng tư và an ninh mạng, cho biết, sự chắp vá của luật pháp dựa trên tiểu bang này có thể đặc biệt khó khăn. "Nếu bạn không thể tìm thấy một người đứng sau một địa chỉ IP, làm sao bạn có thể chứng minh được người đó là ai, chứ đừng nói đến việc chứng minh ý định của họ?"
Williams cũng lưu ý rằng trong trường hợp deepfake không có sự đồng thuận của người nổi tiếng hoặc những nhân vật công chúng khác, nhiều người sáng tạo không nhất thiết coi mình là người gây hại. "Họ sẽ nói, 'Đây là nội dung của người hâm mộ,' rằng họ ngưỡng mộ người này và bị thu hút bởi họ", cô nói.
Jobka cho biết, luật của tiểu bang, mặc dù là một khởi đầu tốt, nhưng có khả năng có quyền hạn hạn chế để thực sự giải quyết vấn đề này và chỉ có luật liên bang chống lại deepfake không có sự đồng thuận mới cho phép tiến hành các cuộc điều tra và truy tố liên tiểu bang có thể thực sự thực thi công lý và trách nhiệm giải trình. Bà cho biết: "Các tiểu bang thực sự không có nhiều khả năng theo dõi xuyên biên giới tiểu bang trên phạm vi quốc tế". "Vì vậy, sẽ rất hiếm và sẽ có những tình huống rất cụ thể mà luật pháp thậm chí có thể được thực thi".
Nhưng Bierlein của Michigan cho biết nhiều đại diện của tiểu bang không bằng lòng chờ đợi chính quyền liên bang giải quyết vấn đề này. Bierlein bày tỏ mối quan ngại đặc biệt về vai trò của deepfake không đồng thuận trong các vụ lừa đảo tống tiền tình dục, mà FBI cho biết đã gia tăng . Năm 2023, một thiếu niên Michigan đã tự tử sau khi những kẻ lừa đảo đe dọa sẽ đăng ảnh riêng tư (thực) của cậu lên mạng. Ông cho biết: "Mọi thứ diễn ra rất chậm ở cấp liên bang và nếu chúng ta chờ họ làm gì đó, chúng ta có thể phải chờ lâu hơn nữa".
