딥페이크 포르노 에 대한 국가적 법률이 의회를 통과하면서 , 전국의 주들은 스스로 문제를 해결하려 하고 있습니다. 39개 주에서 합의되지 않은 딥페이크의 제작을 억제하고 이를 만들고 공유하는 사람들을 처벌하기 위해 고안된 여러 법률을 도입했습니다.
올해 초, 합의되지 않은 딥페이크의 피해자인 민주당 의원 알렉산드리아 오카시오-코르테즈는 Disrupt Explicit Forged Images and Non-Consensual Edits Act, 즉 Defiance Act를 발의했습니다. 이 법안이 통과되면 딥페이크 포르노 피해자는 딥페이크가 자신의 동의 없이 만들어졌다는 것을 증명하는 한 소송을 제기할 수 있습니다. 6월, 공화당 상원의원 테드 크루즈는 Take It Down Act를 발의했는데, 이는 플랫폼이 복수 포르노와 합의되지 않은 딥페이크 포르노를 모두 삭제하도록 요구하는 것입니다.
이러한 조치 중 다수에 대한 양자적 지지가 있지만, 연방 법안은 법률로 서명되기 전에 의회 양원을 통과하는 데 몇 년이 걸릴 수 있습니다. 하지만 주 의회와 지방 정치인들은 더 빨리 움직일 수 있으며, 그렇게 하려고 노력하고 있습니다.
지난달 샌프란시스코 시 변호사 데이비드 치우의 사무실은 사용자가 AI 생성 포르노를 만들 수 있는 가장 많이 방문한 웹사이트 16곳을 상대로 소송을 제기했다고 발표했습니다 . 치우는 당시 사무실에서 발표한 성명에서 "생성 AI는 엄청난 가능성을 가지고 있지만 모든 신기술과 마찬가지로 의도치 않은 결과와 새로운 기술을 악용하려는 범죄자들이 있습니다. 이것이 혁신이 아니라 성적 학대라는 점을 분명히 밝혀야 합니다."라고 말했습니다.
이 소송은 합의 없이 딥페이크 포르노를 촬영하는 일이 계속 늘어나는 상황을 줄이기 위한 최근의 시도일 뿐입니다.
"유명인만 이런 영향을 받는다는 오해가 있는 것 같아요." 동의 없는 딥페이크 입법을 추적하고 WIRED에 결과를 공유한 Public Citizen의 조직 관리자인 일라나 벨러의 말이다. "이런 경험을 하는 사람들이 많은데요."
Public Citizen의 데이터에 따르면 23개 주가 어떤 형태의 비동의적 딥페이크 법률을 통과시켰습니다. Beller는 "이것은 매우 만연한 문제이기 때문에 주 의원들이 이를 문제로 보고 있습니다."라고 말합니다. "또한 의원들이 지금 AI 법률을 통과시키는 데 관심이 있는 것 같습니다. 기술이 얼마나 빨리 발전하고 있는지 보고 있기 때문입니다."
작년에 WIRED는 딥페이크 포르노가 증가하고 있다고 보도했고 , 연구자들은 딥페이크 영상의 90% 가 포르노이며, 그 대부분이 여성의 합의되지 않은 포르노라고 추정합니다. 하지만 이 문제가 얼마나 만연해졌는가에도 불구하고, 합의되지 않은 딥페이크 입법을 추적해 온 컬럼비아 대학교의 연구자인 케일리 윌리엄스는 입법자들이 정치적 딥페이크에 더 집중하는 것을 보았다고 말합니다.
그녀는 "더 많은 주들이 친밀한 이미지 문제를 다루는 것보다 이런 방식으로 선거의 공정성을 보호하는 데 관심을 갖고 있습니다."라고 말했습니다.
미시간주 공화당 의원 매튜 비어라인은 주의 합의 없는 딥페이크 법안 패키지를 공동 발의한 사람으로, 정치적 딥페이크에 대한 입법을 조사한 후 이 문제에 처음 발을 들였다고 말합니다. "저희 계획은 [정치적 딥페이크]를 대중에게 알리기 위해 면책 조항을 넣지 않으면 선거 자금 위반으로 만드는 것이었습니다." 비어라인은 정치적 딥페이크에 대한 작업을 통해 합의 없는 딥페이크 법안을 선도한 민주당 의원 페넬로페 체르노글루와 협력하기 시작했다고 말합니다.
1월 당시 테일러 스위프트의 합의되지 않은 딥페이크 영상이 막 바이러스처럼 퍼졌고, 이 주제는 뉴스에서 널리 다루어졌습니다. "우리는 지금이 무언가를 할 수 있는 적절한 시기라고 생각했습니다."라고 베이를라인은 말합니다. 그리고 베이를라인은 미시간이 중서부 지역의 리더가 될 수 있는 위치에 있다고 느꼈다고 말합니다. 왜냐하면 일부 이웃 주와 달리, 급여가 좋은 직원이 있는 상임 의회가 있기 때문입니다( 대부분 주에는 없습니다 ). "우리는 이것이 미시간만의 문제가 아니라는 것을 알고 있습니다. 하지만 많은 것이 주 차원에서 시작될 수 있습니다."라고 그는 말합니다. "이것을 해낸다면 오하이오가 입법 세션에서 이것을 채택할 수도 있고, 인디애나가 비슷한 것을 채택할 수도 있고, 일리노이가 그럴 수도 있고, 그러면 집행이 더 쉬워질 수 있습니다."
하지만 합의하지 않은 딥페이크를 만들고 공유하는 것에 대한 처벌은 무엇이고, 누가 보호받는지는 주마다 크게 다를 수 있습니다. 윌리엄스는 "미국의 상황은 이 문제에 대해 매우 일관성이 없습니다."라고 말합니다. "최근에 이 모든 법률이 전국적으로 통과되고 있다는 오해가 있었습니다. 사람들이 보고 있는 것은 많은 법률이 제안되었다는 것입니다."
일부 주에서는 가해자에 대한 민사 및 형사 소송을 허용하는 반면, 다른 주에서는 두 가지 중 하나만 허용할 수 있습니다. 예를 들어 미시시피에서 최근 발효된 법률은 미성년자에 초점을 맞춥니다. 지난 1년 정도 동안 중·고등학생들이 생성 AI를 사용하여 급우, 특히 여학생의 노골적인 이미지와 비디오를 만드는 사례가 급증 했습니다. 다른 법률은 성인에 초점을 맞추고 있으며, 입법자들은 본질적으로 복수 포르노를 금지하는 기존 법률을 업데이트합니다.
미성년자의 비합의적 딥페이크에 초점을 맞춘 법률과 달리, 윌리엄스는 "본질적인 도덕적 잘못"이라는 광범위한 합의 있다고 말하며, 성인의 비합의적 딥페이크에 관해서 "윤리적"인 것이 무엇인지에 대한 법률은 "더 유연하다"고 말합니다. 많은 경우, 법률과 제안된 법률은 의도를 증명해야 하며, 비합의적 딥페이크를 만들고 공유하는 사람의 목적이 대상에게 해를 끼치는 것이었다는 것을 증명해야 합니다.
하지만 프라이버시와 사이버 보안을 전문으로 하는 변호사인 사라 조드카는 온라인에서 이러한 주 기반 법률의 패치워크는 특히 어려울 수 있다고 말합니다. "IP 주소 뒤에 있는 사람을 찾을 수 없다면 그 사람이 누구인지 어떻게 증명할 수 있고, 그들의 의도를 보여줄 수 있겠습니까?"
윌리엄스는 또한 유명인이나 다른 대중 인물에 대한 합의되지 않은 딥페이크의 경우, 많은 제작자가 반드시 자신이 해를 끼친다고 생각하지 않는다고 지적합니다. 그녀는 "그들은 '이건 팬 콘텐츠야'라고 말할 것이고, 이 사람을 존경하고 그 사람에게 끌린다고 말할 것입니다."라고 말합니다.
Jobka는 주법이 좋은 시작이기는 하지만 실제로 이 문제를 다룰 수 있는 권한이 제한될 가능성이 높으며, 비합의적 딥페이크에 대한 연방법만이 정의와 책임을 실제로 강제할 수 있는 종류의 주간 조사와 기소를 허용할 것이라고 말합니다. 그녀는 "주들은 국제적으로 주 경계를 넘어 추적할 능력이 많지 않습니다."라고 말합니다. "그래서 매우 드물 것이고, 법률을 시행할 수 있는 매우 구체적인 시나리오가 될 것입니다."
하지만 미시간의 비엘라인은 많은 주 의원들이 연방 정부가 이 문제를 다룰 때까지 기다리는 데 만족하지 않는다고 말합니다. 비엘라인은 FBI가 증가하고 있다고 말하는 섹스토션 사기에서 합의하지 않은 딥페이크가 어떤 역할을 할 수 있는지에 대해 특히 우려를 표명했습니다. 2023년에 미시간의 한 청소년이 사기꾼들이 그의 (실제) 친밀한 사진을 온라인에 게시하겠다고 위협한 후 자살했습니다 . 그는 "연방 차원에서는 일이 정말 느리게 진행되고, 그들이 무언가를 하기를 기다린다면 훨씬 더 오래 기다려야 할 수도 있습니다."라고 말합니다.
