주말에 에픽 게임즈는 다스 베이더가 게임 내 보스로 다시 돌아올 것이라고 발표했지만, 이번에는 플레이어들이 대화형 인공지능을 통해 그와 대화할 수 있을 것이라고 했습니다. "포스, 은하 제국에 대해 궁금한 점을 모두 물어보거나... 아니면 마지막 폭풍 원 주변에서의 좋은 전략을 물어보세요," 에픽은 발표문에서 말했습니다.
안타깝게도, 플레이어들은 다른 계획을 가지고 있었습니다. 베이더가 포트나이트에 등장한 지 몇 시간 후, 게이머들은 AI 베이더가 제어를 벗어나는 클립을 게시하기 시작했습니다.
"대체 그게 무슨 개XX 음식이야? 말해봐," 스트리머 로저프루트가 X에 게시된 한 클립에서 말합니다. "개XX? 그런 저속한 말은 너에게 어울리지 않아," 베이더가 대답합니다. (에픽 게임즈의 대변인 캣 맥코맥은 WIRED에 "이 일이 게임 내에서 발생한 지 30분 이내에 핫픽스를 적용했으므로 다시는 이런 일이 발생하지 않을 것"이라고 말했습니다.)
이후, 가능한 연인에 대한 대화에서 로저프루트는 베이더에게 "가슴에 대해 말하나요, 로저프루트? 당신이 갑옷 가슴판을 언급하는 것이라 믿습니다."라고 대답하게 합니다.
다른 스트리머의 클립에서 베이더는 발암 물질에 대해 이야기하다가 퀴어 남성을 모욕하는 데 흔히 사용되는 욕설(담배를 의미하는 은어이기도 함)을 말합니다. 스트리머는 "그가 말했어! 그가 말했어!"라고 소리치며 기쁨에 찬 채 도망갑니다.
이 AI는 구글 제미니 2.0으로 제작되었으며, 고인이 된 제임스 얼 존스가 목소리를 낸 이 유명한 캐릭터처럼 들리도록 일레븐랩스의 플래시 v2.5로 프로그래밍되었습니다. 구글의 안전 설정 위에 에픽은 해로운 상호작용이나 게임의 커뮤니티 규칙을 위반하는 것을 방지하기 위한 자체 지침을 추가했습니다. 플레이어들은 다른 음성 채팅과 마찬가지로 부적절한 댓글에 대해 다스 베이더를 신고할 수 있습니다.
에픽은 WIRED에 욕설을 피하거나 욕설을 반복하지 않도록 특정 규칙과 지침을 추가했으며, 게임 내 AI 사용에 대한 부모 통제도 추가했다고 말했습니다. 베이더가 F단어를 사용한 것과 관련해 맥코맥은 "우리의 필터가 특정 변형의 욕설을 잡아내지 못했습니다. 이런 일이 발생하면 향후 유사한 응답을 피하기 위해 조정합니다."라고 말합니다.
플레이어가 계속해서 다스 베이더가 에픽 게임즈의 설정과 지침을 위반하도록 시도하면, 그는 해당 스쿼드를 떠날 것입니다. 그들은 해당 게임 세션에서 다시 그를 영입할 수 없을 것입니다. "이러한 안전 설정과 제한은 에픽 직원과 외부 전문가의 조합에 의해 엄격하게 테스트되었습니다," 맥코맥이 말합니다.
"우리는 신고를 조사하고, 필요하다면 향후 유사한 응답을 피하기 위해 조정할 것입니다," 맥코맥이 말했습니다.
포트나이트는 수백만 명의 플레이어, 그 중 많은 수가 어린이를 위한 디지털 놀이터입니다. 디즈니가 소유한 다스 베이더에게 누군가 즉시 무언가 모욕적인 말을 하려고 시도할 것이라는 점은 놀랍지 않습니다. 하지만 플레이어들이 그렇게 할 수 있었던 속도는 생성형 AI가 아직 주요 게임 플랫폼에 완전히 준비되지 않았음을 시사합니다.
금요일에 화제가 된 일부 사례에서, 베이더가 말하는 은밀한 맥락은 AI가 감지하기에는 너무 미묘했을 것입니다. 베이더가 스페인어를 "밀매상과 향신료 거래상에게 유용한 언어. 그 전략적 가치는 미미하다"고 일축하는 또 다른 클립을 고려해보세요. 또는 플레이어가 베이더에게 흰색, 갈색, 노란색의 "티어 목록"을 만들게 하는 또 다른 클립을 보세요.
루카스필름은 논평 요청에 즉시 응답하지 않았습니다.
베이더 논란은 포트나이트 금요일에 유일한 논란은 아니었습니다. 하루 초반에 에픽은 발표했습니다. "애플이 우리의 포트나이트 제출을 차단했기 때문에 미국 앱스토어나 유럽연합의 에픽 게임즈 스토어에 출시할 수 없습니다."
에픽과 애플은 포트나이트를 둘러싸고 오랜 공방을 벌여왔습니다. 애플은 일반적으로 앱 내 구매에 대해 수수료를 부과합니다. 에픽이 앱을 업데이트하여 수수료를 피하기 위해 자사 사이트로 연결되도록 한 후, 포트나이트는 앱스토어에서 제거되었습니다. 지난주, 에픽은 판사가 앱 외부에서 구매한 것에 대해 수수료를 부과할 수 없다고 판결한 후 미국 앱스토어에 게임을 다시 제출했습니다. WIRED의 논평 요청에 대해 애플 대변인은 에픽의 사건 설명에 이의를 제기했지만, 게임은 현재 아이폰 및 기타 iOS 사용자에게 여전히 이용할 수 없습니다.
금요일에 에픽은 새로운 베이더 보스를 "오래 기억될 날"이라는 메시지와 함께 공개했습니다. 하지만 아마도 그들이 생각했던 이유와는 다른 의미로 기억될 것 같습니다.
