AI와 딥페이크가 미국 선거에 영향을 미칠 수 있을까?

avatar
WIRED
09-06
이 기사는 기계로 번역되었습니다
원문 표시

몇 달 전만 해도 모두가 AI가 2024년 선거에 어떤 영향을 미칠지 걱정했습니다. 일부 불안은 사라진 듯하지만, 포르노 이미지와 비디오를 포함한 정치적 딥페이크는 여전히 어디에나 있습니다. 오늘 쇼에서 WIRED 리포터 Vittoria Elliott과 Will Knight는 AI로 인해 무엇이 바뀌었는지, 그리고 우리가 무엇에 대해 걱정해야 하는지에 대해 이야기합니다.

Leah Feiger는 @LeahFeiger 입니다. Vittoria Elliott는 @telliotter 입니다. Will Knight는 @willknight 입니다. 아니면 politicslab@WIRED.com 으로 편지를 보내셔도 됩니다. WIRED Politics Lab 뉴스 레터 를 구독하세요.

이번 주에 언급된 내용:
OpenAI가 설득력을 시험하고 있다 , 저자: Will Knight
AI 가짜 탐지가 글로벌 사우스의 유권자들에게 실패를 안겨주고 있다 , Vittoria Elliott 지음
2024년은 생성적 AI 선거의 해다 , Vittoria Elliott 지음

이번 주 팟캐스트는 이 페이지의 오디오 플레이어를 통해 언제든지 청취할 수 있지만, 모든 에피소드를 무료로 구독하려면 다음과 같이 하세요.

iPhone 또는 iPad를 사용하는 경우 Podcasts라는 앱을 열거나 이 링크를 탭하세요. Overcast 또는 Pocket Casts와 같은 앱을 다운로드하고 WIRED Politics Lab을 검색할 수도 있습니다. Spotify 에서도 제공됩니다.

참고: 이것은 자동으로 작성된 기록이므로 오류가 포함되어 있을 수 있습니다.

Leah Feiger: 여기는 WIRED Politics Lab 입니다. 기술이 정치를 어떻게 변화시키고 있는지에 대한 쇼입니다. 저는 WIRED의 수석 정치 편집자인 Leah Feiger입니다. 몇 달 전만 해도 많은 사람들이 인공지능이 2024년 미국 대선에 어떤 영향을 미칠지 우려했습니다. AI가 생성한 이미지, 오디오, 비디오가 너무나 좋아져서 만들고 퍼뜨리기가 너무 쉬웠습니다. 전 세계 선거에서 AI 사용을 추적하는 우리 프로젝트의 WIRED 정치팀은 실제로 2024년을 생성적 AI 선거의 해라고 불렀습니다. 최근에는 AI에 대한 공포가 다소 가라앉은 듯하지만 카말라 해리스, 조 바이든, 도널드 트럼프, 그리고 다른 정치인과 그들의 지지자들의 딥페이크가 도처에 있습니다. 그리고 오늘 이야기하겠지만, AI가 생성한 포르노를 포함한 정치적 딥페이크에 대한 법률은 정말 까다롭습니다. 그렇다면 선거가 다가오면서 무엇이 바뀌었고, 우리는 AI에 대해 얼마나 걱정해야 할까요? 이 모든 것에 대해 이야기하기 위해 저와 함께하는 사람은 WIRED의 AI 전문가 두 명입니다. 정치 기자 Vittoria Elliott이 있습니다.

비토리아 엘리엇: 안녕, 리아.

Leah Feiger: 안녕, 토리. 그리고 매사추세츠 케임브리지에서 온 수석 작가 윌 나이트. 윌, 와주셔서 정말 감사합니다. 처음 오셨잖아요.

윌 나이트: 네. 안녕하세요. 초대해 주셔서 감사합니다.

Leah Feiger: 포르노부터 시작해 볼까요, 괜찮다면요. Tori, 오늘 미국 주에서 AI가 만든 포르노 문제를 다루는 것에 대한 큰 기사가 나왔잖아요. 그것에 대해 말해주세요. 사람들은 이것을 어떻게 다루고 있나요?

비토리아 엘리엇: 사실 정말 단편적입니다. 근본적으로 이 문제에 대한 국가적 규제가 없기 때문입니다. 올해 합의되지 않은 딥페이크 포르노의 표적이 된 알렉산드리아 오카시오-코르테즈 의원은 피해자가 합의되지 않은 딥페이크 포르노를 만들고 공유하는 사람들을 고소할 수 있도록 하는 Defiance Act를 제안했습니다. 단, 이미지나 비디오가 합의되지 않은 방식으로 만들어졌다는 것을 보여줄 수 있어야 합니다. 그리고 테드 크루즈 상원의원은 Take It Down Act라는 법안을 제안했는데, 이 법안은 사람들이 플랫폼에 이미지와 비디오를 삭제하도록 강요할 수 있도록 합니다. 하지만 몇 달 동안 이 문제에 대한 큰 움직임은 없었고, 이 문제는 많은 주목을 받았습니다. 특히, 중학생과 고등학생들이 생성 AI 기술을 사용하여 동료들을 괴롭히고, 동료들의 노골적인 이미지와 비디오를 만드는 일이 급증했기 때문입니다. 그리고 우리는 생성적 AI가 아직도 정치에 사용되고 있다는 것을 보여주는 데이터를 가지고 있고, 확실히 사용되고 있는 사례가 많이 있지만, 대부분은 여성을 표적으로 삼아 괴롭히고 위협하는 데 사용됩니다.

Leah Feiger: 그럼 좀 더 자세히 설명해 주세요. 어떤 주들이 여기서 조치를 취하고 있나요? 연방 정부에서 막혔다는 건 무슨 뜻인가요? 어떤 모습인가요?

비토리아 엘리엇: 제 말은, 우리가 법안을 상정했지만, 지금은 별로 진전이 없다는 뜻입니다. 의회는 다른 많은 일을 해야 합니다. 우리는 선거 연도에 돌입합니다. 앞으로 몇 달 동안은 캠페인을 운영하는 데 주력할 예정이고, 주 의회는 좀 더 빠르게 움직일 수 있는 여유가 있습니다. 그리고 이건 양당이 쉽게 논의할 수 있는 문제입니다. 우리는 이 기술이 배치되는 것을 보고, 젊은이들을 보호하고, 두 번째로는 여성들이 인터넷에서 학대를 당하지 않도록 보호하고 싶습니다.

Leah Feiger: 그럼 주정부는 사람들을 이로부터 보호하기 위해 구체적으로 무엇을 하고 있나요? 그리고 그것은 어떤 모습인가요? 전반적으로 비슷한가요? 아니면 어떤 모습인가요?

비토리아 엘리엇: 주마다 정말 다릅니다. 예를 들어, 미시간에는 미성년자에 초점을 맞춘 법안이 있습니다. 특히 청소년을 대상으로 한 노골적인 딥페이크 비합의적 포르노를 다루는 데 초점을 맞추고 있으며, 피해자가 이를 만든 사람을 고소할 수 있도록 허용합니다. 일부 주에서는 형사상 책임이 따르므로 기소되어 감옥에 갈 수도 있습니다. 미성년자 이미지에 대해 구체적으로 이야기할 때, 미성년자의 노골적인 이미지와 관련하여 컴퓨터나 인터넷에 무엇을 넣을 수 있고 무엇을 넣을 수 없는지에 대한 많은 규칙이 이미 있습니다. 따라서 입법자들이 작업할 수 있는 많은 구성 요소가 있습니다.

Leah Feiger: 그리고 물론 AI는 수년 동안 포르노를 만드는 데 사용되었습니다. 특정 입법자들이 여기에 개입하는 이유는 무엇입니까?

비토리아 엘리엇: 사실 정말 흥미롭습니다. 올해는 우리가 많이 이야기했듯이 정치에서 AI의 위협이 매우 현실적으로 느껴지고, 사실 그렇습니다. 여기서 벗어나고 싶지는 않지만, 현실은 AI가 생성한 콘텐츠의 상당수가 포르노이고 여성을 표적으로 삼고 있다는 것을 이미 알고 있다는 것입니다. 상당수가 합의하지 않은 것입니다. 저는 미시간 주의 공화당 의원인 매튜 비어라인과 이야기를 나누었는데, 그는 실제로 합의하지 않은 딥페이크에 대한 주의 패키지의 공동 발의자가 되었습니다. 그는 딥페이크 정치 광고에 관심을 가졌기 때문입니다. 처음에는 작년에 첫 임기 주 의원으로 취임했을 때 가장 먼저 하고 싶었던 것이 딥페이크 정치 광고에 대한 법안을 발의하여 선거 자금 위반으로 만들고 싶었습니다. 그리고 그 작업을 통해 그는 AI가 생성한 콘텐츠, 특히 합의하지 않은 딥페이크에 대한 다른 정책에 참여하게 되었습니다. 올해 초 테일러 스위프트 사건이 일어났을 때, 테일러 스위프트의 동의 없는 딥페이크 영상이 소셜 미디어 플랫폼, 특히 X에 널리 유포되었고, 그녀가 그것을 올릴 수 없었을 때, 비어라인과 그의 공동 발의자는 그녀가 너무 눈에 띄고, 너무 강력하고 부유한 사람이 여전히 이것의 표적이 되고 자신의 이미지를 스스로 통제할 수 없다는 점에서 이것을 추진해야 할 순간이라고 생각했습니다. 그들은 지금이 이런 일을 해야 할 순간이라고 확신했습니다.

Leah Feiger: 하지만 당연히 여기 있는 회사들도 있고, Will, 당신은 이 모든 회사와 그들이 가드레일을 설치하거나 설치하지 않기 위해 무엇을 하는지에 대한 절대적인 전문가입니다. AI 포르노가 그렇게 많은가요? 그 질문을 하는 게 거의 미친 짓인 것 같지만, 어디에나 있고 멈추지 않습니다.

윌 나이트: 그 질문에 대한 답은 오픈소스나 제한 없는 애플리케이션이 많이 있다는 것입니다. 다운로드하고 구하기가 꽤 쉽습니다. 이미지를 생성하는 데 사용되는 기술은 본질적으로 오픈소스입니다. 사람들은 그 방법을 알고 있으며, 프로그램에 제한을 두는 대기업에서 제공하는 것을 복사하는 것은 그렇게 어렵지 않았습니다. 유명인의 얼굴은 물론이고 일반적으로 생성되는 포르노 이미지는 가질 수 없고, 사람들은 때때로 그러한 가드레일을 깨는 방법을 알아낼 수 있습니다. 하지만 일반적으로 AI와 그 의미의 경우와 마찬가지로, 요점 중 하나는 항상 가능했다는 것입니다... 누군가가 무엇을 하는지 가짜 이미지를 만들 수 있는 리소스가 있다면, 갑자기 매우 쉽게 접근할 수 있게 되었습니다. 인터넷에서 다운로드할 수 있습니다. 사람들이 다양한 이미지를 만드는 것으로 가득 찬 Discord가 있습니다. 그래서 그곳에서 지니가 병에서 나왔다고 생각합니다.

Leah Feiger: 들불처럼 퍼지고 있어요. 이건 딥페이크 포르노가 아니지만, Elon Musk의 X는... 저는 제 For You 페이지 전체가 AI 이미지라고 생각합니다. 사실 대부분은 Elon이 직접 푸시하고 게시한 것입니다. 이번 주에 카말라 해리스가 공산주의 모자를 쓰고 붉은 옷을 입은 이미지를 보셨습니까? 그는 "트럼프에게 투표하지 않으면 이런 미래가 있을 거야"라고 말했습니다. 이건 처벌 없이 일어나고 있는 일이에요.

Will Knight: 네, 제 말은, 그걸 보는 건 흥미로운데, 얼마 전만 해도 딥페이크가 사람들을 완전히 속여서 누군가가 유죄 판결을 받는 일을 하는 걸 보여줄 것이라는 이야기나 아이디어가 있었지만, 실제로는 그렇지 않아요. 그저 선전의 아주 단순한 도구가 되었을 뿐이에요. 어떤 사람들은 속았을지 몰라도, 대부분은 사람들을 조롱하거나 선전 스타일의 이미지를 대량 생산하는 방법일 뿐이에요. 그러니까, 카말라 동지예요. 제 말은, 그게 흥미로운 부분 중 하나예요. AI 프로그램이 얼마나 편향되어 있는지도 보여주거든요. 카말라 해리스처럼 보이게 만드는 데는 별로 능숙하지 않거든요.

Leah Feiger: 아니요, 아니요. 사실, 정확히 무슨 일이 일어나고 있는지 알 수 있도록 캡션이 있어야 합니다. 하지만 당신이 옳습니다. 모든 것의 조롱 요소는 분명히 존재하지만 위험하기도 합니다. 그리고 Tori, 오늘 딥페이크 포르노를 표적으로 삼는 모든 법률에 대한 기사가 성공하고 있습니까? 이를 금지하는 법을 실제로 알아낸 주가 있습니까?

비토리아 엘리엇: 특정 주에서만 이 문제를 파악했는지는 모르겠습니다. 23개 주가 어떤 종류의 법률을 가지고 있지만, 문제는 그것들이 모두 맞물리지 않는다는 것입니다. 다시 말해서, 미성년자를 주로 다루는 주와 성인 여성을 주로 다루는 주가 있다면, 그 두 가지는 근본적으로 다른 법률입니다. 주 경계를 넘어 조사하는 경우, 어떤 것이 한 주에서는 불법이지만 다른 주에서는 완전히 괜찮을 수 있기 때문에 정말 위험해질 수 있습니다. 그리고 인터넷은 유명하게도 국경이 없습니다. 그래서 이러한 법률 패치워크는 고등학교나 중학교 또는 학대 관계에 대해 이야기할 때 그런 종류의 지역적 수준을 넘어서 시행하기 정말 어렵게 만들 수 있습니다. 하지만 우리가 매우 광범위하게 퍼진 것에 대해 이야기할 때는 시행하기가 더 어렵습니다.

Leah Feiger: Will, OpenAI 등 대형 AI 기업 중 주 관리들과 협력하여 이러한 경계를 만드는 방법을 알아내는 데 도움을 주고 있다고 생각하십니까? 이 법안에 포괄적인 금지 외에 어떤 질문을 해야 할지 생각하고 있습니다.

윌 나이트: 저는 그들이 어느 정도 정치인들과 협력하고, 어느 정도 조언하고 있다고 생각합니다. 그리고 그들이 공동으로 사용하기로 한 특정 기술이 있는데, 그것은 일종의 워터마크 이미지입니다. 하지만 토리가 쓴 것처럼, 그것은 실제로 움직이는 표적이며, 기술은 더 좋아지고, 딥페이크를 잡는 이런 방법은 계속해서 그것을 우회하고 있습니다. 저는 얼마 전에 하니 파리드와 이야기를 나누었는데, 그는 토리가 딥페이크를 잡는 것에 대해 잘 알고 있는 일종의 세계적 전문가이고, 그는 새로운 회사를 가지고 있습니다. 그의 견해에 따르면, 우리는 마치 모든 사람이 무언가를 가져야 하는, 많은 회사와 많은 개인이 이런 것들을 잡기 위한 기술을 가져야 하는, 일종의 맬웨어 방지 또는 스팸 제한과 유사한 상황에 처하게 될 것입니다. 그리고 그는 또한 그것이 실제로 일종의 개인화된 것이 될 것이라고 제안합니다. 그것은 정치인들에게만 영향을 미치는 것이 아닐 것입니다. 복수 포르노가 그 선두주자일 수도 있겠네요. 성공한 금융 사기를 몇 가지 보게 되거든요. 잠깐 CEO의 얼굴이 보이고, 그가 돈을 많이 보내달라고 하는 거죠. 그래서 어떻게 훨씬 더 널리 퍼질 수 있는지 알 수 있을 거예요.

Leah Feiger: 포르노는 여기서 미끄러지는 경사로일 뿐이고, Comrade Harris도요. 듣고 싶어요. 하지만 두 분 모두 말씀하시는 이 패치워크를 감안하면, 적어도 미국적 맥락에서 연방 정부가 여기서 무언가를 하는 것은 분명 합리적입니다. 그리고 AOC를 포함하여 AI가 만든 포르노에 동의 없이 포함된 사람들은 당신이 말했듯이, 의회에서 이 문제를 규제하려고 노력했지만, 토리, 왜 지연이 있나요?

비토리아 엘리엇: 정치인들이 적극적으로 "아, 우리는 신경 안 써."라고 말할 일은 아니라고 생각합니다. 하지만 다른 여러 가지 문제가 있습니다. 정말 까다로운 것 중 하나는 많은 사람이 "그래, 그거 나쁘다. 뭔가 해야지."라고 말할 수 있는 주제라고 생각합니다. 하지만 실제로 무슨 의미인지 생각하는 것은 더 어렵습니다. 예를 들어, 제가 이야기를 나눈 변호사는 특히 성인, 주로 성인 여성의 딥페이크를 다룰 때, 주로 성인 여성이 타깃이기 때문에 의도를 보여야 한다고 말했습니다. 누군가를 해치려는 의도였다는 것을 보여줘야 합니다. 모든 사람이 서로에게 문자 메시지를 보내서 "이 사람이 싫어. 딥페이크를 만들 거야."라고 말하는 것은 아니기 때문에 정말 어려울 수 있습니다. 그래서 의도를 증명하는 것은 아주 중요한 일입니다. 그리고 저는 컬럼비아에서 비합의적 딥페이크에 집중하는 박사과정 학생인 케일리 윌리엄스와 이야기를 나누었는데, 그녀는 우리가 유명인, 테일러 스위프트, AOC, 공인에 대해 이야기할 때, 겉으로는 분명히 학대적으로 보이지만, 이런 비합의적 딥페이크를 만드는 사람들은 이것을 팬 콘텐츠로 생각한다고 말했습니다. 그들은 이것을 "이 사람은 훌륭해, 정말 매력적이거나 섹시해, 내가 만들었어"라고 생각합니다. 그들은 이것을 "내가 학대적인 것으로 인터넷을 범람시키고 있어"라고 생각하지 않습니다. 그들은 이것을 "이 사람의 이 버전을 보고 싶어"라고 생각합니다. 그래서 이런 경우 해를 끼치려는 의도를 증명하는 것은 정말 어려울 것입니다. 그래서 저는 사람들이 이것에 관심이 있든 없든 문제가 아니라, 이것을 실제로 어떻게 강제할 수 있을지 생각하는 것이 정말 어렵다고 생각합니다. 그리고 연방 차원에서, 우리는 현재 사이버범죄와 같은 법률을 많이 가지고 있고, 특히 아동 성적 학대 자료를 다룹니다. 우리는 그와 관련된 많은 것들을 가지고 있지만, 미성년자에 대한 학대를 보지 않을 때 성인 여성을 위한 것들을 구축하는 것은 조금 더 까다로워집니다.

Leah Feiger: 물론입니다. 저는 그들이 이 모든 것을 처리할 길이 분명히 있다는 것을 말하고 싶습니다. 잠깐 휴식을 취하고 돌아오면 AI가 2024년 선거에 어떤 영향을 미치는지에 대해 더 자세히 설명하겠습니다.

[ 부서지다 ]

Leah Feiger: WIRED Politics Lab 에 다시 오신 것을 환영합니다. Tori, Will, 두 분 모두 항상 AI를 다루시는데, 우리 선거에서 AI에 대한 공포가 사라진 것 같습니다. 몇 주 전 New York Times에서 "AI 선거가 없었던 해"라는 제목의 기사를 실었습니다. 동의하시나요? 딥페이크에 대한 두려움이 사라진 것 같나요? 아니면 앞으로 몇 달이 어떻게 될지 정말 걱정하는 사람들과 여전히 대화하고 계신가요?

윌 나이트: 그렇게 큰 문제는 아니라고 생각하지만, 사람들이 여전히 우려하고 있는 것 같아요. 가장 큰 우려 중 하나는 선거가 거의 끝나갈 즈음에 꽤 설득력 있는 딥페이크 영상이 나와서 큰 영향을 미칠 수 있다는 거예요.

리아 파이거: 그렇죠.

윌 나이트: 하지만 다른 흥미로운 점 중 하나는 설득력 있는 딥페이크가 등장하지 않았다는 것입니다. 해리스 동지처럼 이런 이미지를 공유하는 경우가 있는데, 저는 그것이 많은 사람들이 의지하고 있는 진실을 침식하려는 정말 광범위하게 우려되는 종류의 캠페인의 일부라고 생각합니다. 그리고 트럼프가 AI가 생성한 군중에 대해 말하는 것을 많이 보았고, 그것이 그렇게 큰 반향을 일으키지는 않았지만, 그의 지지자들 중 많은 사람들에게는 그랬을 수도 있습니다. 그리고 현실을 그냥 부정할 수 있고 진실은 상대적이거나 대체 가능하다는 생각은 잠시 동안 진행되어 온 것이고, 거기에서 매우 강력한 것으로 판명될 수 있을 것 같습니다.

Leah Feiger: 그리고 매일 일어나고 있습니다. 저는 Comrade Harris와 군중 규모에 대해 이야기했지만, 더 작은 규모에서도, 여러분은 기억하십니까? 몇 주 전 트럼프가 트럼프를 위해 AI가 생성한 Swifties의 게시물과 사진을 공유했고, 젊은 여성들이 모두 Swifties for Trump 셔츠를 입고 있었고, 매우 충격적이었습니다. 하지만 당신이 전적으로 옳습니다, Will, X는 분명히 제가 진실이나 뉴스를 찾는 곳이 아니지만, 정말 엄청나게 강력합니다.

비토리아 엘리엇: 이건 사람들을 속일 수는 없겠지만 효과적인 선전이라는 생각으로 돌아갑니다. 반지의 제왕 이 가짜라는 건 알지만, 샘이 프로도를 산 위로 끌고 올라갈 때마다 여전히 울어요. 그리고 사람들은—

리아 파이거: 이 포드캐스트에서 우리가 서로에 대해 이런 것들을 배울 수 있다는 점이 좋아요.

비토리아 엘리엇: 하지만 사람들은 카말라 동지 이야기를 보고 그것이 가짜라는 걸 알 수도 있지만, 그것이 그녀에 대해 깊이 느끼는 것과 공명한다는 사실은 바뀌지 않습니다. 그리고 제 생각에 또 다른 것은 선거에서 AI에 대해 이야기할 때, 사람들은 기본적으로 딥페이크라고 말하는 것 같습니다. 하지만 딥페이크는 AI의 아주 구체적인 용도 중 하나일 뿐입니다. 우리는 이미 AI Global Elections Project에서 연설문을 쓰는 데 ChatGPT를 사용하는 여러 사람과 이야기를 나누었습니다. 그들은 홍보 활동을 자동화하고 있습니다. 인도에서는 유권자에게 전화를 걸는 것을 자동화했습니다. 그것은 반드시 속이는 것을 목적으로 하는 것은 아니지만, 그것이 여전히 일어나고 있다는 사실은 바뀌지 않습니다. 그리고 12월이 끝나갈 무렵, 점점 더 많은 캠페인에서 실제로 많은 AI를 사용했다는 것을 꽤 확실하게 보여줄지라도, 하지만 이렇게 직접적으로, 노골적으로 기만적인 방식이 아니라, 아마도 유권자를 정말 효율적으로 타겟팅하거나 응답을 생성하거나 챗봇을 사용하거나 사람들이 AI를 찾지 않는 방식일 수 있는 더 미묘한 방식으로 AI가 더 조용하고 백엔드에서 무섭고 기만적인 표면이 아니기 때문에 그럴 수도 있습니다. 하지만 저는 그것이 거기에 있다고 생각합니다. 저는 우리가 그것의 작은 부분을 지나치게 강조하고 있다고 생각합니다.

Leah Feiger: New York Times에서 얼마 전 AI 회사가 캠페인에 제품을 판매하는 데 그다지 성공적이지 못했다고 보도했습니다. 사람들이 AI 콜러를 사용하여 유권자에게 다가가려고 했고, 분명히 추적기에 대해 썼는데, 인도 유권자에게는 효과가 있었지만 미국 유권자에게는 효과가 없었습니다. 공무원이나 캠페인을 대신하여 전화를 건 AI 봇이라는 말을 듣자마자 전화를 끊었습니다. Will, 지금 회사들은 어떻게 관리하고 있나요? 분명히 그들은 Tori가 말했듯이, 이런 종류의 조작적이지 않은 용도를 직장 제품군에 롤인하는 방식으로 실제로 만들려고 노력했습니다. 이것은 Microsoft Word와 Excel의 다른 버전이며, 또한 AI 봇이지만 그렇게 성공적이지 못했습니다. 회사들은 어떻게 처리하고 있나요?

Will Knight: 언어 모델과 최근에는 오디오 및 비디오 기능이 있는 모델의 광범위한 사용이 막 시작되었다는 점을 기억하는 것이 좋다고 생각합니다. 그리고 그들이 그것을 판매하는 데 그다지 성공적이지는 않았지만, 저는 그들이 이러한 도구가 얼마나 설득력이 있는지 실험하고 이해하기 위해 매우 열심히 노력하고 있다는 것을 압니다. 그리고 기억해야 할 것 중 하나는 ChatGPT가 그렇게 성공한 이유는 사람들을 설득하는 데 매우 유능했기 때문이라는 것입니다. 그것은 지능적이었고 진실을 말했고, 종종 전혀 그렇지 않았고, 그렇게 하도록 설계되었으며, 사람들이 원하는 답변을 하는 데 능숙하도록 훈련되었습니다. 그래서 OpenAI는 감정적 사회적 단서를 제공하도록 설계된 이 음성 인터페이스를 출시하기 시작했습니다. 바로 이 팟캐스트에서 하는 것과 같은, 매력적으로 느껴지는 것입니다. 아마도 사람들은 항상 그것을 거부할 것입니다. 특히 그것이 AI가 생성한 것이라는 것을 알고 있다면요. 사람들이 AI 여자친구와 같은 것을 사용하는 것을 보는 것을 잊지 마세요. 그들은 그것이 감정적으로 매력적이라고 생각하기 때문입니다. 그리고 저는 앞으로의 큰 일 중 하나는, 지금은 너무 이르지만, 점점 더 많은 회사가 설득을 위해 이런 것들을 무기화할 수 있다는 것을 깨닫게 될 것이라고 생각합니다. 저는 LLM과 이야기할 때 무언가에 대한 인식을 바꿀 수 있고, 그들은 그것을 점점 더 설득력 있게 만들기 위해 노력할 수 있다는 것을 보여주는 연구가 이미 있습니다. 저는 그것이 광고에 큰 영향을 미칠 수 있다고 생각하지만, 아마도 가장 큰 위험은 정치에서의 설득 측면에서 있을 것입니다. 그래서 당신은 그 챗봇들이 사람들에게 잘못된 정보를 제공하는 것뿐만 아니라, 진정으로 특정 관점으로 그들을 설득하는 데 매우 능숙하다는 것을 볼 수 있을 것입니다. 그리고 그것은 흥미로운 무기 경쟁이 될 수 있습니다.

Leah Feiger: 그리고 정말 위험합니다. Will, 몇 달 전에 당신이 이에 대해 보도했던 걸 기억하는데, 솔직히 말해서 저는 아직도 이 기사에서 AI가 사람들에게 영향을 미칠 수 있는 능력과 OpenAI의 Sam Altman이 이 기술이 사람들의 행동을 좌우할 수 있는 능력을 선전하는 것에 대해 생각하지 않을 수 없습니다. 특히 AI가 점점 더 유능해지고 사람들이 AI에 더 의존하게 되면서 그 힘이 어떻게 실제로 남용될 수 있는지 보는 것은 어렵지 않습니다. 미래에 AI가 실제로 사람들의 마음을 바꾸어 사람들의 투표를 바꾸는 데 사용될 수 있을지 살펴볼 수 있을까요?

윌 나이트: 그런 식으로 될 가능성이 매우 높아 보입니다. 그런 식으로 제한하려는 노력이 없다면요. 제 말은, 지능뿐만 아니라 공감 능력 등도 뛰어나다고 진정으로 느끼는 더 유능한 AI 조수가 있다면, 마치 훌륭한 세일즈맨처럼, 온갖 것으로 설득할 수 있을 거라고 생각합니다.

Leah Feiger: 이를 막기 위해 마련된 보호 장치에 대해 말씀해 주세요. 지금까지의 대화에서 가장 무서운 부분이라고 할 수 있습니다.

윌 나이트: 그들은 막 이 문제를 탐구하기 시작했을 뿐이고 LLM을 정치적으로 사용하는 것을 금지하는 규정이 있으며, 이것이 사람들의 행동을 어떻게 변화시키는지 모니터링하려고 노력하고 있습니다. 하지만 그들은 그것을 야외에서 하고 있는데, 다소 과격하죠.

비토리아 엘리엇: 이 기술이 유용하지 않다거나 영향력이 없다고 말하기에는 너무 이르다고 생각합니다. 제가 마이스페이스 계정을 만들었을 때, 부모님이 "인터넷은 기본적으로 포식자와 나쁜 정보로 가득 차 있어. 인터넷에 있는 글은 믿지 마."라고 말씀하셨던 걸 기억합니다. 그리고 소셜 미디어 초기에 사람들이 정보 생태계를 어떻게 인식할지 판단했다면, "물론이죠. 아무도 정치적인 걸 믿지 않을 거예요. 이건 음악을 공유하고 친구를 평가하기 위한 거예요."라고 말했을 겁니다.

리아 파이거: 정말 그 시절이 그리워요. 그렇죠.

비토리아 엘리엇: 저도요. 10년도 채 지나지 않아, 우리는 그것이 우리 시대의 가장 중요한 정치적 담론의 장소였고, 그것이 선거에 영향을 미칠 수 있다는 사실을 다루고 있었습니다. 그래서 저는 AI 선거가 현실이 아닌 지금 이 순간에 우리는 아직 모른다고 생각합니다. 그리고 지금은 "아, AI가 만든 것들은 너무나 명백하고 너무나 스팸성이 강하고, 누가 그걸 믿겠어? 뭐뭐뭐."라고 말할 수 있는 지경에 이르렀을지 모르지만, 우리는 사물이 어떻게 변할지, 얼마나 빨리 변할지 전혀 모릅니다. 그리고 우리는 지금을 돌아보며 "와, 이게 어떤 것에도 영향을 미치지 않을 거라고 생각했던 게 믿기지 않아."라고 말할지도 모릅니다.

Leah Feiger: 맞아요. 저는 딥페이크 감지에 대해 이야기하고 싶습니다. 딥페이크가 사람들을 속일 만큼 발전함에 따라, 딥페이크를 감지할 수 있다고 주장하는 많은 회사들이 생겨났습니다. Will, 이 기술들은 얼마나 좋은가요?

윌 나이트: 글쎄요, 그렇죠. 파일 자체를 분석하는 것부터 이미지나 오디오 신호를 분석하는 것까지, 딥페이크를 잡을 수 있는 방법은 여러 가지가 있습니다. 그리고 당연히 상상할 수 있겠지만, 답은 AI에 더 가깝고, 사실은 감지가 그렇게 좋지 않다는 것입니다. 몇 가지 예를 들어보면, 그런 도구 중 상당수가 모든 것을 잡는 데 훌륭하게 해내지 못하고, 일종의 군비 경쟁이라는 것을 어느 정도 입증할 수 있습니다.

Leah Feiger: 토리, 당신은 이번 주에 미국과 유럽 외의 딥페이크 감지가 얼마나 끔찍한지에 대해 보도했습니다. 거기에는 어떤 어려움이 있을까요? 왜 그렇게 심각한 걸까요? 이미 모든 곳에서 심각한 것 같은데, 왜 미국과 유럽 외에서는 특히 심각한 걸까요?

비토리아 엘리엇: 네, 정말 어려운 문제입니다. 그리고 부분적으로는 AI가 학습하는 데이터, 즉 생성 AI를 만드는 도구와 이를 감지하는 도구가 모두 압도적으로 백인, 압도적으로 영어, 압도적으로 서양의 데이터 집합을 기반으로 하기 때문입니다. 그리고 이것이 일부 도구가 카말라 해리스의 딥페이크를 만드는 데 어려움을 겪는 이유 중 하나입니다. 데이터에서 그녀와 비슷한 사람이 충분하지 않기 때문입니다. 하지만 사람들이 영어를 사용하지 않고 백인이 아니며 이러한 학습 데이터에 포함되지 않은 상황에서는 정말 어려울 수 있습니다. 거짓 양성과 거짓 음성이 많고, 텍스트 주변에서만 감지에 대해 이야기할 때조차 영어를 사용하지 않는 사람들은 종종 쓰는 방식에 다른 구문이 있으며, 많은 감지 도구는 사람이 쓴 경우에도 AI가 만들었다고 말합니다. 그리고 많은 곳에서 구할 수 있는 휴대전화, 특히 이런 저렴한 중국산 휴대전화는 품질이 낮은 미디어를 생산하고, 많은 AI 훈련 데이터는 정말 고품질 미디어를 기반으로 합니다. 따라서 진짜일 때조차도 AI가 생성한 것으로 표시될 수 있는 형편없는 미디어가 있다면요. 그리고 탐지 모델이 정말 민감한 이런 종류의 사례는 글로벌 사우스에 국한되지 않습니다. 예를 들어, Witness의 Sam Gregory는 시민 사회와 언론인에게 제공하는 신속한 대응 탐지 서비스를 제공하는 조직에서 Joe Biden의 연설을 딥페이크한 오디오에 배경 오디오를 추가하면 AI가 배경 소음의 추가 레이어를 처리할 수 없기 때문에 그것이 진짜라고 말한다는 것을 발견했다고 말했습니다. 그래서 이러한 탐지 모델은 여전히 정말 맞고 틀립니다.

Leah Feiger: 선거일까지 9주가 남았습니다. 저는 기업들이 "아니요, 아니요, 우리가 감지했어요. AI가 아니에요. 아니면 AI예요."라고 말하는 세상을 보고 있습니다. 그리고 이미 지난 몇 달 동안 너무나 많은 것이 바뀔 수 있었습니다. 올해 초에 모든 사람이 AI 선거와 예측, 그리고 다가올 일에 대한 팟캐스트와 기사를 내놓았을 때, 저는 우리 중 누구도 Biden이 경쟁에 나서지 않을 것이라고, Trump가 Harris와 경쟁할 것이라고 예측할 수 없었을 것이라고 생각합니다. 여기에는 많은 차이가 있습니다. 무엇이 다가올 것이라고 생각하십니까? 우리가 주의해야 할 점은 무엇이라고 생각하십니까?

윌 나이트: 지금으로선 도널드 트럼프에게 실제로 유죄 판결을 내릴 만한 증거가 떠오르지 않습니다. 하지만 녹음된 내용이 있다면 그는 확실히 AI가 생성한 것이라고 주장할 것이 아닌가요?

리아 파이거: 그렇죠.

윌 나이트: 그리고 AI 딥페이크 감지 기술을 지적할 수도 있는데, 이는 다소 불확실하고 모호한 측면이 있어서, 글쎄요, 그럴 수도 있고, 또 다른 유형의 녹음이 유죄를 입증하는 요소가 될 수 있다고 말할 수도 있습니다.

Leah Feiger: 이상하죠. 정보 격차가 거의 있잖아요, 그렇죠? AI 기술이 존재하고 우리 모두가 그것이 무엇인지 알고 있고, 우리 모두가 딥페이크가 무엇인지 알고 있다는 사실조차도, 그 기술이 사용되지 않더라도, 그것은 그것에 대한 담론에서 그렇게 중요한 역할을 할 수 있습니다. 트럼프가 무언가를 AI 이미지라고 주장하는 것, 카말라 해리스가 행사에서 모인 군중의 규모, 또는 당신이 말했듯이, 아마도 특별히 유죄를 입증할 만한 것이 튀어나오고, 그 기술은 전혀 관련되지 않습니다.

비토리아 엘리엇: 글쎄요, 그게 전문가들이 거짓말쟁이의 배당금이라고 부르는 거예요. 무엇이든 가능하다면 아무것도 현실이 아니라는 생각이죠. 2016년으로 돌아가서 Access Hollywood 테이프를 떠올려보죠. 지금 당장 그런 일이 일어난다면, 우리는 Truth Social에 "그게 AI야, 진짜 나 아니야"라고 말하는 트윗이나 게시물을 올릴 거예요. 정말 쉬운 지름길이에요. 그리고 이 기술이 의심을 퍼뜨리고 공유된 현실 감각을 깨는 수단으로 무기화되는 것을 계속 보게 될 거라고 생각해요.

Leah Feiger: 저는 그것이 절대적으로 옳다고 생각합니다. 그리고 더 세부적인 측면에서 말씀드리자면, 지금 제가 특히 우려하는 것은 AI가 선전에 사용되는 것에 대해 많은 시간을 보냈다는 것입니다. 사람들은 이미지가 실제가 아니라는 것을 알 수 있고, 트럼프를 위한 Swifties는 실제가 아니지만, 그것은 거기에 있고 사람들에게 영향을 미칠 가능성이 있습니다. 저는 우리가 훨씬 더 많은 것이 걸려 있는 2개월 주기에 들어가려고 한다고 생각합니다. 미시간 번호판을 단 사람이 네바다에서 이 투표함을 몰아내고 있는 것일까요? 여기에는 너무나 많은 다른 것들이 있습니다. 특히 2020년 선거와 2022년 선거에서 선거 부정론자들이 여전히 던지는 질문을 볼 때, 이러한 커뮤니티는 준비가 되어 있고, 선거 부정론자들은 온갖 주장을 할 준비가 되어 있으며, AI는 그러한 것에 매우 유용한 도구입니다. 우리는 준비가 되어 있습니까?

비토리아 엘리엇: 아니요.

윌 나이트: 아니요.

비토리아 엘리엇: 아니요.

Leah Feiger: 아니요, 좋아요. 방에 있는 모든 사람이 단호하게 거절했습니다.

윌 나이트: 공유된 진실과 그것을 정의하려는 의지가 그 어느 때보다 중요하다고 생각합니다. 그리고 그것은 그 어느 때보다 공격을 받고 있습니다. 하지만 토리가 말했듯이, 매우 흥미로운 것은 몇 년 전에 트럼프의 첫 행정부 때 나온 The Death of Truth 라는 책이 있었는데, 대중을 통제하는 방법으로 진실 자체를 공격한다는 아이디어를 살펴보고 있었습니다. 그리고 그렇죠, 우리는 진실은 상대적이라고 말하는 함정에 빠져서는 안 된다는 생각이 듭니다. 저는 그것이 정치적 스펙트럼의 특정 부분에서 확실히 한동안 일어났다고 생각합니다.

Leah Feiger: 두 분을 몇 주 또는 몇 달 후에 다시 모시고 이 모든 것에서 진실의 상대성에 대해 이야기하는 것을 정말 기대하고 있습니다. 어떤 예를 전면에 내세울까요? 누가 알겠습니까. 오늘 저와 함께 해주셔서 두 분 모두 정말 감사합니다. 잠깐 휴식을 취하고 돌아오면 Conspiracy of the Week를 시작할 시간입니다.

[ 부서지다 ]

Leah Feiger: WIRED Politics Lab 에 다시 오신 것을 환영합니다. Conspiracy of the Week의 시간입니다. 게스트들이 최근에 접했거나 과거에 접한, 특히 마음에 드는 음모론을 가져오고, 저는 우승자를 뽑습니다. 너무 기대됩니다. Tori, 당신은 오랫동안 이기고 싶어했습니다. 이번 주에는 무엇을 준비하셨나요?

비토리아 엘리엇: 기술적으로 두 가지 옵션을 제안하고 있지만, 둘 다 제 진짜 남자친구인 RFK Jr.를 중심으로 돌아갑니다. 저는 그에 대한 Google Alerts를 가지고 있습니다. 저는 그의 Telegram 채널을 확인하고 있습니다. 우리는 매우 긴밀하게 연결되어 있습니다.

Leah Feiger: 솔직히 말해서 이게 당신의 선거 보도 경험의 일부가 되어서 정말 기쁩니다. 더 이상 대선 후보가 아닌 사람과 이런 준사회적 관계를 느낀다는 게 기쁩니다.

비토리아 엘리엇: 글쎄요, 선거 대리인이죠.

Leah Feiger: 물론 선거 대리자죠. 좋아요, 날 때려보세요. 뭐가 나왔나요?

비토리아 엘리엇: 알겠습니다. 글쎄요, 제가 가장 먼저 말씀드리고 싶은 건 RFK에 대한 "나쁜 소식"이 있을 때마다 이상한 동물 이야기가 나온다는 겁니다. 이상한 동물 이야기가 있죠. 첫 번째는 New Yorker 기사가 나왔을 때 센트럴 파크에 있던 죽은 곰이었습니다. 그리고 그가 대선 출마를 철회하고 도널드 트럼프의 대선 출마를 지지한다고 발표한 직후, 그가 좋아하는 고래 머리에 대한 이야기가 나왔는데—

Leah Feiger: 그리고 앞서 언급한 개들을 잊지 마세요. Will, 당신은 정치 책상에 앉아 항상 이것에 몰두하고 싶지 않나요?

윌 나이트: 물론입니다.

리아 파이거: 사실은 동물 책상이에요.

비토리아 엘리엇: 하지만 사람들은 또한 그의 지역 까마귀에게 먹이를 주는 TikTok 동영상 때문에 그를 비난했고, 저는 그것이 실제로 정말 멋진 점이라고 생각합니다. 그리고 당신이 이걸 알고 있는지 모르겠지만, 까마귀 무리를 음모라고 부르는데, 제가 가장 좋아하는 음모입니다.

리아 파이거: 끔찍해. 정말 나빠, 토리.

Vittoria Elliott: 천만에요. 사실 저는 진짜 주간 음모론을 가지고 있지만, RFK이기도 합니다. 하지만 당신이 말장난을 즐길 거라는 걸 알고 있었습니다. 저도 까마귀 음모론을 원합니다. 하지만 올해 초에 있었던 또 다른 음모론은 4월에 뉴욕에서 있었던 행사에서 RFK가 CIA가 미국 언론을 체계적으로 장악하는 데 일조했으며, 실제로 대형 미디어 회사를 책임지는 많은 사람들이 CIA와 연결되어 있다고 말했습니다. 이 경우, 그는 NPR의 새 사장이 CIA 요원이라고 언급했습니다. 그리고 저는 사실 우리가 엄청나게 낮은 급여를 받고 엄청나게 자세한 조사 기술을 가진 사람들이 아니라는 생각이 좋습니다. 사실 우리는 이중 스파이입니다. 그리고 정부 자금이 있다면, 제가 어디로 파견되고 싶은지에 대한 생각이 있고, 이후에 논의할 수 있습니다.

Leah Feiger: 좋아요, 좋은 질문이네요. 고맙습니다, Tori. Will, 우리에게 줄 게 뭐 있어요?

윌 나이트: 와, RFK와 정말 경쟁할 수 있을지 모르겠지만, 훌륭한 CIA 요원으로서 AI, AI와 철학의 이상한 구석에서 무언가를 홍보할 것 같아요. 로코의 바실리스크라는 게 있어요. 바실리스크는 신화 속 생물인 뱀인데, 눈을 들여다보면 사람을 죽일 수도 있어요. 그래서 AI 포럼에 누군가가 올린 사고 실험이 있었는데, 미래의 초지능은 우리 모두가 그 안에 존재하는 시뮬레이션을 만들도록 인센티브를 받을 것이고, 초지능이 생겨나는 것에 반대하거나 반대하는 생각을 하는 사람을 고문하도록 인센티브를 받을 거라는 내용이었어요. 그래서 이런 것들 중 하나에서...

리아 파이거: 놀랍죠.

윌 나이트: … 포럼에서 로코에 대한 이야기, 이 사고 실험, 로코의 바실리스크에 대한 이야기를 금지했습니다. 그 아이디어는 만약 당신이 그것에 대해 생각만 해도 위험할 수 있다는 것이었습니다. 특히 바나나가 그렇습니다.

Leah Feiger: 정말 웃기네요. 이게 어떤 포럼에서 퍼지고 있나요, 아니면 퍼지지 않고 있나요?

Will Knight: 이것은 LessWrong에서 있었던 일입니다. LessWrong은 AI 위험과 정렬에 전념하는 매우 유명한 포럼입니다.

리아 파이거: 당신은 개인적으로 로코의 바실리스크에 대해 얼마나 자주 생각하시나요?

윌 나이트: 사실, 저는 최근에야 그것을 발견했고, 혹시나 해서 그것에 대해 생각하지 않으려고 노력합니다. 파스칼의 내기 같은 거죠, 그렇죠? 그냥 초지능이 생겨날 확률을 두고 하는 거고, 그래서 당신은 그것을 생겨나게 하려고 노력해야 합니다. 네, 완전히 미친 짓이죠.

Leah Feiger: 오, 아주 좋은 질문이네요. 좋아요. 오, 사실 이번 주에는 좀 힘들지만, 토리와 함께 가야겠어요. CIA 자산, 여기 있습니다.

비토리아 엘리엇: 마침내. 레이븐스가 나를 끝까지 밀어붙였나? 알아야겠어.

Leah Feiger: 레이븐스는 당신을 한계점에 몰아넣었어요. 저는 그것을 좋아했고, 그것은 당신이 이것을 위해 얼마나 많은 노력을 했는지 보았고, 네, 그것은 노력에 대한 A와 실행에 대한 A였습니다. 좋은 일이었습니다.

비토리아 엘리엇: 고맙습니다.

Leah Feiger: 그리고 부분적으로는, 다시는 생각할 수 없는 것에 승리를 줄 수 없습니다. Tori와 Will, 함께 해주셔서 정말 감사합니다. 훌륭한 게스트였습니다.

비토리아 엘리엇: 고맙네요, 리아.

윌 나이트: 초대해 주셔서 감사합니다.

Leah Feiger: WIRED Politics Lab 을 들어주셔서 감사합니다. 오늘 들은 내용이 마음에 드셨다면 쇼를 팔로우하고 원하는 팟캐스트 앱에서 평가해 주세요. Makena Kelly가 매주 쓰는 뉴스레터도 있습니다. 오늘 언급한 뉴스레터와 WIRED 보도에 대한 링크는 쇼 노트에 있습니다. 질문, 의견 또는 쇼 제안 사항이 있으시면 politicslab@WIRED.com 으로 메일을 보내 주세요. politicslab@WIRED.com 입니다. 여러분의 소식을 듣게 되어 매우 기쁩니다. WIRED Politics Lab은 Jake Harper가 제작했습니다. Pran Bandi는 스튜디오 엔지니어입니다. Amar Lal이 이 에피소드를 믹싱했습니다. Stephanie Kariuki가 총괄 프로듀서입니다. Chris Bannon은 Condé Nast의 글로벌 오디오 책임자이고, 저는 진행자 Leah Feiger입니다. 다음 주에 새로운 에피소드로 피드에 다시 올라올 예정입니다.

출처
면책조항: 상기 내용은 작자의 개인적인 의견입니다. 따라서 이는 Followin의 입장과 무관하며 Followin과 관련된 어떠한 투자 제안도 구성하지 않습니다.
라이크
1
즐겨찾기에 추가
코멘트