미국-멕시코 국경 근처의 미국 경찰 부서들은 입증되지 않은 비밀스러운 기술에 수십만 달러를 지불하고 있습니다. 이 기술은 AI가 생성한 온라인 페르소나를 사용하여 "대학 시위자", "급진화된" 정치 활동가, 그리고 의심되는 마약 및 인신매매 조직과 상호작용하고 정보를 수집하도록 설계되었습니다.
뉴욕에 기반을 둔 회사인 매시브 블루는 이 기술을 "공공 안전을 위한 AI 기반 전력 증강제"로 마케팅하며, 다양한 채널에서 범죄 네트워크에 침투하고 개입하는 사실적인 가상 요원을 배치한다고 설명합니다.
매시브 블루는 오버워치의 사용 사례로 "국경 보안", "학교 안전", "인신매매 중단" 등을 나열하고 있습니다. 이 기술은 지난여름 기준으로 알려진 체포로 이어지지 않았으며, 민간 기업들이 경찰과 국경 요원들에게 제안하는 소셜 미디어 모니터링 및 잠입 도구의 유형을 보여줍니다.
"저는 매시브 블루 웹사이트를 보았는데, 추가 정보나 링크가 없는 원페이지였습니다," 당시 제1지구 감독이었던 케빈 카바나우는 피널 카운티 보안관 사무소의 수석 부관 매튜 토마스에게 말했습니다. "그들은 우리가 구매하는 소프트웨어를 생산하는데, 그게 무엇을 하는 건가요? 우리에게 설명해 줄 수 있나요?"
"이는 본질적으로 영업 비밀이기 때문에 자세히 말할 수 없고, 나쁜 사람들에게 우리의 계획을 알리고 싶지 않습니다," 토마스가 말했습니다. "하지만 제가 말씀드릴 수 있는 것은 이 소프트웨어가 우리 수사관들이 인신매매, 마약 밀매, 총기 밀매에 대한 사건을 찾고 조사하고 구축하는 데 도움을 주도록 설계되었다는 것입니다."
카바나우는 이사회 회의에서 매시브 블루가 "50개의 AI 봇"을 사용한다는 기본 정보를 얻었다고 말했습니다. 그는 이 소프트웨어가 성공적이었는지, 법 집행기관이 체포를 했는지 물었습니다. 토마스는 아직 체포는 하지 않았지만 개념 증명이 "우리와 우리 수사관들이 앞으로 나아가기에 충분히 좋았다"고 설명했습니다. "이것이 승인되고 우리가 매시브 블루와 계약을 맺으면, 사건 기소를 진행할 것입니다."
카바나우는 오버워치가 다른 카운티에서도 사용되는지 물었고, 이에 토마스는 클렘을 연단으로 초대했습니다. 클렘은 최근 은퇴한 국경 요원이라고 소개하며 매시브 블루가 현재 애리조나의 세 카운티와 협상 중이라고 말했습니다.
"피널 카운티에서 14년 동안 거주한 사람으로서 여기서 무슨 일이 일어나고 있는지 알고 있습니다," 클렘은 감독 이사회에 말했습니다. "이 프로그램을 사용하여 온라인 아동 착취, 인신매매 피해자, 그리고 보안관이 추적하고자 하는 다른 모든 분야에 필요한 모든 정보를 제공할 수 있습니다."
카바나우는 다시 매시브 블루가 체포로 이어진 데이터를 수집했는지 물었습니다.
"아직 체포는 하지 않았지만, 현재 방화 사건에 대한 수사가 진행 중이며 수사관들에게 단서를 제공했습니다," 클렘은 프로그램이 약 6개월 동안만 활성화되었다고 설명하며 말했습니다. "수사에는 시간이 걸리지만, 우리가 관여하고 있는 특정 카운티와 민간 부문에 필요한 단서를 생성할 수 있었습니다."
피널 카운티 감독 이사회는 다른 관련 없는 프로젝트에 대한 지불을 승인하며 이 대화를 마무리했지만, 이사회 구성원들은 매시브 블루에 대한 지불 투표를 "추가 조사를 위해" 지연시키기를 요청했습니다.
매시브 블루에 자금을 지원하지 않기로 한 결정은 지역 신문에 보도되었습니다. 카바나우는 신문에 소프트웨어의 장점을 설명하기 위해 회사에 감독들과 만나달라고 요청했다고 말했습니다.
"애리조나 주에서 보조금을 제공했지만, 보조금은 납세자 돈입니다. 자금의 출처와 상관없이 인신매매와 성매매 근절은 너무 중요해서 검증되지 않은 기술에 50만 달러를 위험에 빠뜨릴 수 없습니다," 그는 말했습니다. "회사가 인신매매범 체포를 위한 증거를 제공할 수 있다는 것을 입증한다면 가치가 있을 것입니다. 하지만 아직 이 목표를 달성하지 못했습니다."
404 미디어의 공공 기록 요청으로 카바나우 사무실에서 IT 전문가와 법 집행기관에 AI 제품을 제공하는 다른 회사들에게 보낸 여러 이메일이 확보되었습니다. 이러한 회의에서 무슨 말이 오갔는지, 실제로 회의가 열렸는지는 알 수 없지만, 피널 카운티 감독 이사회가 6월 19일에 다시 소집되었을 때 추가 논의 없이 매시브 블루의 오버워치에 대한 지불을 결정했습니다.
"감독 [카바나우]는 궁극적으로 매시브 블루가 인신매매 근절을 추구한다고 주장하기 때문에 이 계약에 찬성했습니다. 이는 고귀한 목표입니다," 카바나우 사무실의 한 대표가 404 미디어에 보낸 이메일에서 말했습니다. "애플리케이션 사용에 대한 주요 우려는 정부가 모든 시민을 감시해서는 안 된다는 것입니다. 그의 지식으로는 현재까지 이 애플리케이션 사용으로 인한 체포는 없었습니다. 오버워치가 인신매매범 체포로 이어진다면 프로그램은 계속되어야 합니다. 하지만 법을 준수하는 시민을 감시하는 데만 사용되고 체포로 이어지지 않는다면 프로그램은 중단되어야 합니다."
2024년 8월 7일 감독 이사회 회의에서 카바나우는 당시 피널 카운티 보안관 마크 램에게 매시브 블루에 대한 업데이트를 요청했습니다. "그들이 아직 어떤 결과도 만들어내지 못했나요? 어떤 단서도, 실행 가능한 증거도 없나요?" 카바나우가 물었습니다. "그건 공개 정보가 될 것입니다."
"진행 중인 수사가 많아서 당신에게 정보를 제공하지 않을 것이고, 우리도 제공하지 않을 것입니다," 램이 말했습니다.
