2026 년 6월, 영국 더비셔 경찰은 공식적으로 형사 수사에 착수했습니다. 수사 대상은 현직 경찰관으로, 인공지능 시스템을 이용해 여러 사건에서 "증거 자료"를 위조한 혐의를 받고 있습니다. 더비셔 경찰은 "경찰관이 인공지능을 이용해 허위 증거를 조작하고 이를 형사 소송에 제출한 혐의를 받고 있다"고 밝혔습니다.
해당 경찰관은 일선 근무에서 제외되었지만 아직 신원이 공개되거나 체포되지는 않았습니다. 스카이 뉴스 에 따르면, 이 사건은 영국 형사 사법 제도 역사상 최초의 사례로 여겨지고 있습니다.
증거 조작 기준이 단 한 줄의 안내 문구로 변경되었습니다.
생성형 인공지능은 이미지, 비디오, 오디오 및 텍스트 생성 품질 면에서 빠르게 발전하고 있습니다. 기술 전문가가 아니거나 고가의 장비가 없어도 괜찮습니다. 단지 몇 분 만에 실제 자료와 구별하기 어려운 "증거"를 생성하도록 지시하는 방법만 알면 됩니다.
범죄 현장을 훼손하거나 샘플을 교체하는 등 기존의 물리적 증거 위조 방식과는 달리, 인공지능으로 생성된 디지털 자료는 기술 및 시스템 측면에서 비교적 성숙한 위조 방지 메커니즘을 갖추고 있습니다. 그러나 현재 모델 수준으로는 대화 기록, 사진, 파일 등 인공지능이 생성한 디지털 자료는 실제 데이터와 거의 구별할 수 없을 정도로 정교합니다.
더욱이 경찰은 이번 사건이 "여러 건의 다른 사건"과 관련되어 있다고 밝혔는데, 이는 해당 경찰관의 충동적인 행동에 의한 단발적인 사건이 아니라 여러 사건에 걸쳐 조직적으로 진행된 작전이었음을 시사합니다.
사법 시스템의 가격을 재조정해야 합니다.
영국 검찰청(CPS)은 이번 사건에 개입하여 오염된 증거로 인해 어떤 재판이 뒤집히거나 재개되어야 할지 판단하기 위해 변호인 및 법원과 적극적으로 접촉하고 있다고 밝혔습니다.
이 발언은 겉으로 보이는 것보다 훨씬 더 큰 의미를 지닙니다. 이는 인공지능이 조작한 증거 때문에 무고한 피고인이 이미 기소하다 유죄 판결을 받았을 수도 있음을 의미합니다. 사건이 심각할수록 허위 증거로 인해 피고인이 입는 피해는 더욱 커집니다. 검찰이 현재 진행하고 있는 것은 사실상 역 감사 입니다.
형사 사법 시스템이 "디지털 증거"를 신뢰하는 것은 거의 암묵적인 가정에 기반합니다. 즉, 법 집행관 스스로 증거를 조작하지 않거나, 조작하더라도 시스템에서 배제될 만큼 극히 드물 것이라는 가정입니다. 그러나 이제 이러한 가정이 드러났습니다. 그것도 시스템 내부자에 의해, 모든 외부 검증 메커니즘(변호인, 판사, 배심원)은 무용지물이 되었습니다.
사법 시스템에서 디지털 증거를 수용하는 기준은 "인공지능 생성 콘텐츠의 대량 확산" 시대를 고려하여 설계된 것이 아닙니다. 검증 메커니즘, 사후 분석 및 포렌식 프로그램은 여전히 "위조는 예외적인 경우"라는 프레임 에 기반하고 있습니다. 위조로 인한 손실이 거의 없는 시대에는 이러한 메커니즘의 효과성을 재평가해야 합니다.
관련 보고서
OpenAI는 ChatGPT가 "사용자 보안을 소홀히 했다"는 혐의로 미국 여러 주의 법무장관들로부터 조사를 받고 있습니다.
