크리스토퍼 펠키는 2021년 애리조나에서 발생한 도로 난폭 사건에서 자신을 살해한 남성에게 직접 말을 걸었다 - 그의 죽음으로부터 3년 반이 지난 후였다.
"존경하는 랭 판사님, 이 사건을 끝까지 다루기 위해 시간을 내주셔서 감사합니다. 특히 재판 일정이 판사님의 딸 봄방학과 겹쳤을 때에도 말입니다," 크리스토퍼 펠키의 AI 버전이 피닉스 애리조나 법정에서 제시된 영상에서 말했다.
"나를 쏜 가브리엘 호르카시타스에게: 그날 그런 상황에서 우리가 만난 것은 유감스러운 일입니다," 펠키의 목소리와 모습이 법정에 울려 퍼졌다. "다른 인생이었다면 우리는 아마도 친구가 될 수 있었을 것입니다. 나는 용서를 믿고, 용서하시는 하나님을 믿습니다. 항상 그래왔고 지금도 그렇습니다."
그 목소리는 실제로 펠키의 것이 아니었다 - 그것은 선고 공판을 위해 그의 가족이 만든 AI 생성 영상에서 나온 것이었다. 이 디지털 부활은 인공지능이 법정에서 피해자 진술서를 전달하는 데 사용된 최초의 사례로 여겨진다.
마리코파 카운티 상급 법원 판사 토드 랭은 이 발표에 눈에 띄게 감동받았다. "그 AI를 정말 좋아해요. 그 영상을 보고 감사합니다," 랭 판사는 가족에게 말했다. "크리스토퍼가 말한 내용의 아름다움을 좋아했어요... 그것이 진실된 것 같았습니다."
호르카시타스는 2021년 챈들러, 애리조나에서 도로 난폭 대치 상황에서 37세 펠키를 총격한 혐의로 과실치사죄로 유죄 판결을 받았다. 판사는 50세 호르카시타스에게 검찰이 요청한 것보다 1년 더 긴 거의 13년의 징역형을 선고했다.
법정에서 피해자의 모습을 사용하는 아이디어는 펠키의 자매인 스테이시 웨일스가 가족과 친구들의 진술서를 수집하는 과정에서 나왔다. 그녀는 판사에게 읽을 49통의 편지를 받았지만, 그것으로는 충분하지 않았다.
"한 가지가 부족했어요. 그 편지들에 없는 한 목소리가 있었죠," 웨일스는 폭스 10 피닉스에 말했다.
그의 AI 버전을 만드는 것은 간단하지 않았다. 웨일스는 남편 팀과 오랫동안 AI 기술을 다뤄온 친구 스콧 옌처에게 도움을 요청했다. 팀은 다양한 도구를 모아 펠키를 되살렸는데, 웨일스는 이를 "사랑의 프랑켄슈타인"이라고 불렀다.
기술적 측면을 다루는 것보다 더 어려웠던 것은 펠키가 실제로 무엇을 말할지를 결정하는 것이었다. 웨일스는 선고와 호르카시타스를 용서할지에 대해 강한 의견을 가지고 있었지만, 최대한 공정하게 하려 노력했다고 주장했다.
"중요한 것은 크리스에게 제가 느끼는 감정을 말하게 하지 않고, 거리를 두고 그가 말하게 하는 것이었어요 - 그가 제 입에서는 절대 나오지 않을 말을 했지만, 그의 입에서 나올 말이라는 것을 알고 있었거든요," 웨일스가 설명했다.
AI 시뮬레이션은 완벽하지 않았지만, 그것을 본 사람들에게 감정적 반응을 불러일으키기에는 충분했다. 영상에는 심지어 펠키의 사진을 "노화" 필터를 통해 그가 살았다면 어떻게 보였을지 보여주는 사진도 포함되어 있었다.
"이것이 제가 나이 들어 어떻게 보였을지 줄 수 있는 최선의 모습입니다," AI 버전의 펠키가 말했다. "기억하세요, 나이 드는 것은 모두에게 주어지는 선물이 아니니, 그것을 받아들이고 주름에 대해 걱정하는 것을 멈추세요."
물론, 죽은 사람의 딥페이크 이미지를 사용해 판사와 배심원을 조작하는 개념은 생성형 AI만이 만들어낼 수 있는 새로운 종류의 문제다. 애리조나 대법원장 앤 티머는 ABC 애리조나에 성명을 통해 AI가 잠재적 이점을 제공할 수 있지만, 부적절하게 사용될 경우 "정의를 방해하거나 심지어 뒤엎을 수 있다"고 언급했다.
그리고 이는 앞으로 악용될 수 있는 양날의 검이다. 특히 AI 비디오 생성기의 품질이 거의 생생한 결과물을 만들어낼 만큼 개선되고 - 사람들이 고인이 된 사랑하는 이들의 사진을 점점 더 많이 애니메이션화하기 때문이다. 애리조나 주립대 법학 교수 개리 마천트 역시 법정에서의 AI 사용에 의문을 제기했다.
"이 사건의 사실을 보면, 그 가치가 편견의 효과를 능가한다고 말할 수 있습니다," 그는 지역 뉴스 매체 AZ 패밀리에 말했다. "하지만 다른 사건들을 보면, 매우 편견을 줄 수 있는 경우를 상상할 수 있습니다."
앤드류 헤이워드가 편집함
