인디 게임 업계에서 가장 영향력 있는 오픈 소스 스토리텔링 도구 중 하나인 Yarn Spinner의 입장은 많은 개발자들에게 매우 중요합니다. 이 공식 문서 에서 개발팀은 생성형 AI를 도구에 포함하지 않기로 결정한 이유를 진솔하고 단호한 어조로 설명합니다.
그들은 기술적인 관점에서만 접근한 것이 아니라 노동권, 개발 윤리, 그리고 "게임 개발의 본질"에 대해 심도 있게 고찰했습니다. 이는 기술 발전에만 몰두하는 현 게임 업계에 시사하는 바가 클 것입니다.
다음은 Dynamic Zone에서 정리한 중국어 콘텐츠 전문입니다.
저희는 AI에 대한 질문을 자주 받습니다. Yarn Spinner에 AI를 통합할 계획이 있나요? 저희는 직접 사용하고 있나요? AI에 대한 저희의 생각은 어떤가요? 모두 타당한 질문입니다. 이제 이러한 질문들에 대한 답을 정리해 볼 때입니다.
Yarn Spinner는 현재 "AI"라고 불리는 기술을 사용하지 않습니다. 저희 제품은 생성형 AI 기능을 갖추고 있지 않으며, 제품 개발에 코드 생성 도구를 사용하지도 않고, 생성된 콘텐츠가 포함된 것으로 알려진 기여도 받지 않습니다. 그 이유에 대해 이야기해 보겠습니다.
요약: AI 기업들은 사람들에게 해를 끼칠 수 있는 도구를 만들고 있으며, 우리는 그러한 행위를 지지하고 싶지 않습니다.
과거
먼저 간략한 역사부터 살펴보겠습니다. 저희는 인공지능(AI)과 머신러닝(ML) 분야에서 상당한 경력을 쌓아왔습니다(이 두 용어를 혼용해서는 안 되지만, 모두가 사용하는 용어이므로 여기서는 혼용해서 사용하겠습니다).
저희는 게임 개발자와 비프로그래머를 대상으로 워크숍을 진행했고, 게임용 소규모 머신러닝(ML) 봇을 개발했으며, 연구 및 학술 활동도 수행했습니다. 심지어 게임에서 머신러닝(ML) 활용하는 방법, 특히 절차적 애니메이션에 관한 책을 집필하기도 했습니다. 머신러닝은 매우 흥미롭고 가치 있는 분야이며, 저희는 실제로 이 분야를 깊이 탐구해 왔습니다.
대학에 입학했을 당시만 해도 오늘날 대부분의 AI 제품의 핵심 기술인 신경망과 딥러닝은 너무 느리고 다루기 어려웠습니다. 하지만 박사 학위를 마칠 무렵에는 상황이 완전히 달라져 있었습니다. TensorFlow 같은 도구 덕분에 모든 것이 간단하고 재미있어졌고, GPU에 대한 접근성이 좋아지면서 대형 IT 기업만큼 예산이 많지 않은 사람들도 학습과 추론을 할 수 있게 되었습니다. 한동안 우리는 이러한 잠재력에 진심으로 기대감을 가지고 있었습니다.
그러다가 상황이 바뀌기 시작했습니다.
정확히 언제부터인지 짚어내기는 어렵습니다. 어쩌면 항상 이랬지만 우리가 미처 알아차리지 못했을지도 모릅니다. 하지만 2020년 말쯤에는 분명해졌습니다. 우리가 좋아하는 인공지능은 기술 기업들이 관심을 갖는 종류의 인공지능이 아니라는 사실을 말입니다.
그들은 사람들이 예술 작품에 "접근"할 수 있도록 하는 대신, 생성형 이미지, 사용자를 위해 글을 써주는 챗봇, 그리고 예술 작품에 대한 "요약"을 점점 더 선호합니다. (문화적 편견 악화, 확실성 또는 해석 가능성 확보의 어려움과 같은) 알려진 문제점을 완화하려는 노력은 경시되고 무시됩니다. 우려를 제기하는 연구원과 개발자는 해고됩니다.
그 후로 상황은 더욱 악화되었다.
현재 AI 기업들이 내놓는 제품들을 살펴보면, 우리가 원하는 것이 아닙니다. 그들이 하는 말을 모두 걷어내고 보면, 그들이 만드는 도구들은 본질적으로 직원을 해고하거나, 추가 인력 없이 더 많은 생산량을 요구하는 데 사용될 뿐입니다. 이것이 바로 AI 기업들이 해결하려 하는 "문제"입니다.
그들이 이룬 다른 모든 성과는 "가능한 한 많은 친구와 동료를 해고하는" 과정에서 우연히 얻게 된 놀라운 결과에 불과했습니다.
새로운 일자리를 찾기가 극도로 어려워지고 실업률이 높아지며 심지어 생명을 위협하는 상황까지 발생하는 요즘, AI는 "사람들을 해고하는 도구"가 되어버렸습니다. 우리는 그런 상황에 동참하고 싶지 않습니다. 이 문제가 해결될 때까지 우리는 업무에 AI를 사용하지 않을 것이며, 다른 사람들이 사용할 수 있도록 Yarn Spinner에도 AI를 통합하지 않을 것입니다.
우리는 이러한 도구를 만드는 회사를 지원하고 싶지 않으며, 그들의 행태가 일반적인 기준으로 자리 잡는 것도 원하지 않습니다. 따라서 우리는 이러한 도구를 사용하지 않습니다.
미래
때때로 "인공지능을 도입하지 않으면 뒤처질 것이다" 또는 그와 비슷한 "모두가 사용하고 있다"와 같은, 마치 기정사실처럼 들리는 의견들을 접하게 됩니다. 하지만 우리는 이러한 의견에 동의하지 않습니다.
인공지능에 대한 우리의 견해와는 상관없이, 이것은 올바른 개발 방식이 아닙니다. 이것은 "도구 중심 개발"입니다. 목표는 "우리는 이 도구를 사용합니다"가 아니라 "어떻게 하면 더 나은 게임을 만들도록 도울 수 있을까요?"여야 합니다.
훌륭한 게임은 아이디어에 대한 사람들의 열정과 그것을 현실로 구현하려는 노력에서 탄생합니다. 이는 대개 "더 많은 것"보다는 "더 적은 것"을 의미합니다. 사고방식을 바꾸고, 자신과 동료의 안녕을 유지하며, 기꺼이 변화에 적응하고 피드백을 수용하는 자세가 필요합니다. 좋은 도구 또한 마찬가지입니다.
우리는 끊임없이 "이것이 어떻게 더 나은 게임을 만드는 데 도움이 될 수 있을까?"라는 질문을 스스로에게 던지고 그 답을 따라갑니다. 탐색 과정은 매우 중요하며, 대부분의 경우 많은 아이디어가 면밀한 검토를 거치면 쓸모없다는 것을 알게 됩니다. 마케팅 문구에만 쓰일 만한 쓸모없는 기능들을 잔뜩 넣는 것보다 실제 문제를 해결하는 몇 가지 정교한 기능을 갖추는 것이 훨씬 낫다고 생각합니다.
저희는 Yarn Spinner를 자랑스럽게 생각합니다. 수많은 게임에서 Yarn Spinner가 사용되는 것은 결코 우연이 아니라고 생각합니다. 저희의 개발 프로세스는 효율적이며, 끊임없이 새로운 기능을 추가하고 있습니다. 특정 기능이 개발자의 요구를 충족하지 못하면 수정하거나 삭제할 것입니다.
저희는 내부 직원, 다른 게임 개발자, 심지어 개발자가 아닌 사람들과도 잠재적인 아이디어와 접근 방식에 대해 끊임없이 논의합니다. "이것이 어떻게 더 나은 게임을 만드는 데 도움이 될 수 있을까?"라는 질문을 계속해서 던지고, 효과가 입증된 기능들을 출시합니다.
누가 알겠어요? 세상이 바뀔지도 모르고, 그때가 되면 머신러닝(ML) 다시 살펴볼 수 있을지도 모르죠.
자주 묻는 질문(FAQ)
왜 해고 문제만 걱정하시는 건가요? AI가 "다른 면에서도" 끔찍하다는 얘기를 들었는데요! AI(특히 AI를 만드는 회사들)에는 많은 문제가 있습니다. 어떤 문제는 잠재적이고 심지어 가상적인 우려 사항이지만, 어떤 문제는 우리 눈앞에서 실제로 일어나고 있는 매우 현실적인 문제입니다. 어떤 문제들은 "해고"보다 훨씬 더 심각합니다. 이 블로그 글을 쓰기 시작한 시점부터 게시된 시점 사이에도 훨씬 더 심각한 문제들이 발생했습니다. AI를 둘러싼 노동권 문제가 갑자기 사라진다 하더라도, 우리가 안심하고 AI를 사용할 수 있기 전까지는 많은 문제들이 남아 있을 것입니다. 하지만 한 번에 하나의 문제에 집중하는 것이 더 효과적입니다. 노동권 문제는 해결 가능하며, 이에 저항해야 합니다. 이 문제가 해결되면 다음 문제로 넘어갈 수 있습니다.
왜 "제대로"머신러닝(ML) 개발해서 아무도 다치지 않게 하지 않나요? 저희의 배경과 경험을 바탕으로, 유익하고 윤리적이며 저희가 반대하는 기업에 자금을 지원하지 않는 AI 도구들을 개발할 수 있을 겁니다. 하지만 두 가지 문제가 있습니다. 첫째, 이런 것들을 개발하는 데는 대량 시간이 걸립니다. 그리고 앞서 말씀드렸듯이, 대부분의 아이디어는 초기 탐색 단계를 넘어서지 못합니다. 아이디어 탐색과 이를 검증하기 위한 새로운 모델 구축 사이의 균형을 맞추는 것은 매우 어렵습니다. 둘째, 저희가 직접 도구를 만들 수는 있지만, 대부분의 사람들은 그렇게 하지 않을 겁니다. 만약 사람들이 저희가 특정 기술을 사용하는 것을 보고 자신도 사용해보고 싶어 한다면, 결국 저희가 반대하는 기업을 지원하게 될 것입니다. 저희는 이런 행동이 일반화되는 것을 원하지 않기 때문에, 저희가 직접 모범을 보여 그런 기술을 사용하지 않아야 합니다.
상사가 제게 업무에 AI를 사용하라고 하네요. 제가 문제의 일부일까요? 생계를 유지하려면 일자리를 구하고 유지하는 것이 필수적이고, 최근 들어 그 압박감이 더욱 커졌습니다. 만약 이 요구에 반대할 수 있다면, 그렇게 해보세요. 하지만 직장을 지키고 싶어 하는 마음 자체는 누구도 비난하지 않을 겁니다.
AI를 사용하는 사람들의 Yarn Spinner 사용을 금지할 건가요? 아니요. 저희 는 여러분이 AI 도구를 사용하지 않기를 바라지만, 이는 여러분의 이익이 아닌 "저희"의 이익이라는 점을 이해합니다. 저희는 이러한 도구들에 반대하는 활동을 계속할 것이며, 이러한 도구들이 초래하는 피해에 대해 우려하고 있습니다. 이러한 도구를 사용하시면 불법적인 행위를 일삼는 기업들을 재정적으로나 사회적으로 지원하는 셈이라는 점을 명심하셔야 합니다. 그들은 여러분의 지원을 이용하여 자신들의 목적을 달성하려 할 것입니다. 이러한 도구들이 여러분에게 도움이 된다면 진심으로 기쁘지만, 사용을 중단해 주시기를 부탁드립니다.
"저는 AI를 사용하는 게 정말 좋아요. 그리고 우리 회사에서는 아무도 해고당하지 않았잖아요, 그렇죠?" 이런 말은 흔히 듣는데, 특히 프로그래머들에게서 자주 나옵니다. 하지만 안타깝게도 "AI"라는 용어 자체가 아직 모호하기 때문에, 앞서 언급한 문제점들은 여전히 해결되지 않고 있습니다. 여러분이 AI를 사용하는 것은 이러한 도구를 만드는 회사들을 홍보하는 데 도움이 됩니다. 다른 사람들이 여러분이 사용하는 것을 보면, 스튜디오 내 다른 사람들에게도 사용을 강요하거나, 다른 직장으로 확산될 수 있습니다. 저희 경험상, 이는 결국 해고와 과로로 이어집니다. 여러분이나 동료들에게 이런 일이 일어나지 않는다면 다행이지만, 다른 곳에서는 이런 일이 일어나도록 부추기는 셈입니다. 그리고 앞서 말씀드렸듯이, 노동 문제가 내일 당장 해결된다 하더라도, 해고당하는 것보다 더 걱정해야 할 문제들이 많습니다.
당신들은 단순히 AI를 싫어하는 광신자나 러다이트주의자인가요? 아닙니다. 우리는 단지 이런 것들을 만들어내는 사람들에게 분노할 뿐입니다. AI와 머신러닝(ML) 엄청난 잠재력을 가지고 있지만, "이미 혐오스러운 부자들을 더욱 부유하게 만들고 더욱 혐오스럽게 만드는" 데 낭비되고 있습니다. 우리는 언젠가 다시 기술을 탐구할 수 있기를 바라며 기술 발전을 계속 주시하고 있습니다. 하지만 지금 당장은 이러한 도구를 개발하는 사람들에게 돈을 주거나 지원하고 싶지 않습니다.
