Shein의 마케팅 팀은 아마도 완벽한 모델을 찾았다고 생각했을 것입니다. 뚜렷한 턱선, 깊은 눈매, 새벽 2시에 스크롤하는 사람에게 저품질 셔츠를 팔 수 있을 법한 얼굴이었습니다. 그런데 문제가 하나 있었습니다. AI가 생성한 매력적인 인물은 지난 12월 UnitedHealthcare의 CEO를 살해한 혐의로 기소된 26세의 루이지 만지오네였습니다.
기본 면 소재의 셔츠는 셰인 웹사이트에 게재되었는데, AI 연구원 헨크 반 에스가 미드저니(Midjourney)에서 제작했을 가능성이 있는 것으로 확인했습니다. 얼굴 인식 기술을 통해 일치 여부를 확인했습니다. 입소문을 탄 지 몇 시간 만에, 해당 상품은 셰인의 반품 정책 안내 문구보다 더 빠르게 사라졌습니다.
"해당 제품에 대해 알고 있으며 웹사이트에서 삭제했습니다."라고 셰인 대변인은 TMZ 에 밝혔습니다. 회사는 문제의 공급업체를 밝히지 않고 책임을 회피하며 제3자 공급업체를 비난했습니다. 지난주 셰인 측에서 새 모델이 미국에서 가장 수배 중인 남성과 닮았다는 사실을 알아채기도 전에 셔츠가 매진되었다고 합니다.
물론, Wayback Machine을 방문하면 광고를 볼 수 있습니다.
셰인은 공급업체에 대해 "적절한 조치"를 취하겠다고 약속했는데, 이는 FBI 감시 목록에 있는 사람을 실수로 복제하지 않는 가짜 모델을 생성할 수 있는 공급업체를 찾는 것을 의미할 것입니다.
이 사건은 평소와 마찬가지로 X 표시가 붙은 비난을 불러일으켰고, 사용자들은 "CEO 살인 혐의"가 예산형 캐주얼웨어에 어울리는 미적 감각이라고 생각한 알고리즘에 대한 공포와 마지못해 존경심 사이에서 갈등했습니다.
셰인의 알고리즘에 의한 얼굴 이식은 스칼렛 요한슨을 포함하여 딥페이크 반대 운동에서 자신을 가짜 얼굴로 만든 AI 사고의 증가 추세에 합류했습니다.
유명 여배우가 의심스러울 정도로 익숙한 음성 비서를 두고 OpenAI를 고소하겠다고 위협했습니다. 그녀는 자신의 이미지를 사용하여 AI 도우미를 만들었다는 이유로 Lisa AI를 고소했습니다 . 이후, 그녀의 초상은 카니예 웨스트에게 중지를 꽂는 티셔츠를 입은 여러 유대인 아티스트가 등장하는100% AI 기반 캠페인 에 동의 없이 사용되었습니다.
최근 게임 회사 넥슨이 TikTok의 'The First Descendant' 광고에 AI 인플루언서를 사용하는 것이 적발됐습니다.
한 레딧 사용자는 "이 AI 광고 때문에 슬프고 게임의 미래가 걱정됩니다."라고 썼습니다. "이 모든 것의 가장 심각한 점은 TFD 공식 틱톡 계정을 운영하는 사람이 AI 광고에 대한 반발을 알고 있으면서도 이를 무시하고 숨기려 한다는 것입니다. 댓글에서 반발이 너무 심할 때마다 AI 영상을 삭제했다가 다시 업로드하고 있습니다."
규제 기관들은 따라잡기 위해 애쓰고 있지만, 지금까지 규제는 느리게 진행되는 반면 AI는 빠르게 발전하고 있습니다.
