OpenAI의 GPT-4o는 지브리 애니메이션 스타일의 이미지를 정확하게 생성하는 능력으로 논란을 불러일으켰으며, 사용자는 간단한 명령을 입력하는 것만으로 상징적인 파스텔 톤과 판타지 장면을 재현할 수 있습니다. 창작자들은 "반지의 제왕"과 같은 고전 IP를 소셜 플랫폼에서 바이럴이 되는 지브리 스타일의 파생 작품으로 변형했습니다. 이는 AI의 기술적 잠재력을 보여주는 동시에, "스타일 모방이 침해에 해당하는지"에 대한 법적 논란을 불러일으켰습니다.
지난해에는 AI 분야에서 주목할 만한 법적 사건이 여러 건 발생했습니다.
특정 지커 회사의 AI 플랫폼이 사용자가 업로드한 울트라맨 훈련 사진과 그로 인해 생성된 침해 콘텐츠를 차단하지 못해 침해에 기여한 것으로 판단되어 3만 위안의 배상금을 지불하라는 명령을 받았습니다. 어떤 회사가 두인(Douyin)의 변신 만화 특수효과 모델의 구조와 매개변수를 모방하여 불공정 경쟁 혐의로 160만 위안의 배상금을 지불하라는 명령을 받았습니다. "팬텀 윙 투명 아트 의자" 사건에서 펭은 주가 간단한 프롬프트로 그림만 생성한 채 디자인을 표절했다며 기소하다, 법원은 AI가 생성한 콘텐츠는 "독창적인 지적 입력"이 부족해 보호되는 작품이 아니라고 판결하고 펭의 침해 주장을 기각했습니다.
이런 사건을 판결하는 기본 원칙은 무엇인가? AI 침해가 우리의 일상 업무와 삶에 미치는 영향을 어떻게 다루어야 할까요?
AI의 역량이 계속 향상됨에 따라 모방과 침해, 참조와 복사 사이의 경계가 매우 모호해졌습니다. 이러한 논란은 '창의성'의 본질에 대한 우리의 이해에 도전할 뿐만 아니라, AI 시대에 기존 저작권 법률 시스템의 적응성을 시험하기도 합니다.
이 주제를 심도 있게 탐구하기 위해 텐센트 테크놀로지의 "AGI로 가는 길"에서는 전문 예술가 타이 샹저우, 칭화대학교 법학대학원의 연구원 류윈, 톈위안 로펌의 파트너 리윈카이, 텐센트 ARC 랩의 수석 연구원 자오 왕을 특별히 초대하여 예술적 창작, 법적 규범, 기술적 구현을 포함한 다차원에서 AI 예술 창작으로 인해 발생하는 복잡한 과제를 공동으로 분석했습니다.
핵심 관점:
- 법은 소위 '예술적 스타일'을 보호합니까?
저작권법은 추상적인 "아이디어"나 "스타일"이 아닌 구체적인 "표현"을 보호합니다. 스타일은 이념적 수준에 속하는 개인의 미적 선호도나 경향으로 간주됩니다. 지브리 그림의 스타일을 단순히 모방하거나 배우는 것은 일반적으로 저작권법의 규정을 위반하지 않습니다.
- AI 개발자가 학습을 위해 승인되지 않은 데이터를 사용하는 것은 침해입니까?
AI 학습에는 엄청난 양의 데이터가 필요하며, '사용 전 승인'이라는 기존 원칙은 더 이상 적합하지 않습니다. 국내에는 관련 법률과 면제 제도가 부족하지만, 샤오홍 서화가 권익보호 사례와 유사한 선례가 있습니다. AI 회사는 일반적으로 "먼저 사용하고 나중에 판단한다"는 전략을 채택하지만, 이러한 접근 방식에는 여전히 법적 리스크 따릅니다.
- AI 침해가 발생하면 누가 책임을 져야 합니까?
지브리 스타일의 '반지의 제왕'을 예로 들면, 그림 스타일을 모방하는 것은 리스크 적지만 스토리라인과 캐릭터를 사용하는 것은 침해가 될 수 있습니다. 침해 소송의 잠재적 피고로는 사용자, AI 플랫폼, 배포 플랫폼 등이 있습니다.
실제로 권리자는 AI 플랫폼을 기소하다 경우가 많지만, 플랫폼이 건전한 관리 메커니즘을 구축하고 침해를 적극적으로 조장하지 않는다면 "안전항구 원칙"을 적용하여 면제를 얻을 수 있습니다.
- AI로 창작하는 사람을 진정한 예술가라고 부를 수 있을까?
창작자의 핵심 경쟁력은 시대에 대한 깊은 사고와 통찰력에 있습니다. AI는 독특한 관점으로 작품을 창작할 수 있는 한, 단순히 표현을 위한 도구일 뿐, 대체재는 아닙니다.
AI 개발은 픽셀에서 의미론까지 하향식으로 진행됩니다. 인간의 창조는 예술적 개념에서 세부 사항까지 위에서 아래로 이루어집니다. AI는 모든 픽셀을 동등하게 처리하는 반면, 인간은 세부 사항을 우선시합니다.
이 라이브 방송의 주요 내용을 요약하면 다음과 같습니다(요약):
법은 "스타일"을 보호합니까?
텐센트 테크놀로지: 아티스트가 자신만의 예술적 스타일을 개발하는 데 보통 얼마나 걸리나요? 이 스타일의 정량화하기 어렵지만 중요한 특징은 무엇입니까?
타이샹저우: 저는 예술적 스타일 뒤에 실제로 개념이 있다고 생각합니다. 이는 예술가가 시대 전체를 파악한 것을 반영합니다. 예술가들은 시대의 단서를 파악하기 위해 모든 사람의 공감과 인식을 불러일으킬 수 있도록 예측 능력을 갖춘 진보된 형태를 찾아야 합니다.
인기 있는 공상과학 소설 '삼체 문제'와 마찬가지로, 이것이 트렌드가 된 이유는 현대인이 미지의 세계를 탐험하고 추구하는 데 적합하기 때문입니다. 하야오 미야자키의 애니메이션 스타일은 실제로 수년간 인기를 누려왔고, 점차 주류에서 사라져 가고 있는 것도 당연한 이치입니다.
하지만 이번에 GPT의 등장으로 지브리의 스타일이 다시 깨어났습니다. 저는 이것이 미야자키 파의 일종의 재탄생이라고 생각합니다. 예술가의 관점에서 볼 때, 저는 이것이 매우 행운이라고 생각합니다.
텐센트 테크놀로지: 법적 관점에서 볼 때, 법이 특정 "스타일"을 보호할 수 있습니까?
리윈카이 : 법적 관점에서 볼 때, 중국의 현행 저작권법은 실제로 '스타일'에 대한 명확한 정의를 내리고 있지 않습니다. 그러나 실제 경험에 비추어 볼 때, 스타일이란 예술가가 작품을 창작할 때 보이는 고정된 특성, 즉 그가 묘사하고자 하는 대상, 그가 전달하는 관점, 그가 익숙한 색상 조합, 그의 개인적 미적 선호도와 관련된 표현 방법 등을 의미한다는 것을 이해할 수 있습니다.
마찬가지로, 현재의 저작권법은 스타일 자체를 구체적으로 보호하지 않습니다. 저작권법은 추상적인 "아이디어"나 "스타일"보다는 그림이나 글과 같은 구체적인 "표현"을 주로 보호하기 때문입니다. 스타일은 이념적 수준에 속하는 개인의 미적 선호도나 경향으로 간주됩니다. 따라서 특정한 작품 표현 방식에 얽매이지 않고 , 단순히 지브리 스타일을 모방하거나 배우는 정도라면 저작권법 위반에 해당하지 않는 경우가 많습니다.
텐센트 테크놀로지: 법적 관점에서 볼 때, 스타일 보호에 대한 일반적인 관점 는 무엇입니까?
류윈: 국제적으로는 실제로 이런 문제를 다루는 비교적 성숙한 분석 프레임 존재합니다. 우리는 이를 "사고와 표현의 이분법"이라고 부릅니다. 간단히 말해서 저작권은 저자의 아이디어 자체가 아니라 아이디어의 구체적인 표현을 보호합니다. 저작권 제도의 확립은 한편으로는 창작자에게 일정 기간 동안 독점적 권리를 부여하여 창의성을 장려하는 것입니다. 하지만 다른 한편으로, 이러한 지식은 결국 대중에게 공개되어 미래 세대가 배우고 참고할 수 있게 되며, 이를 통해 문화적 보급이 촉진될 것입니다.
실제로, 유명한 미국 대법원 판사인 핸드가 말했듯이, "생각"과 "표현" 사이의 경계는 종종 모호하고 명확한 선을 그어내기가 어렵습니다. 예를 들어, 어떤 게임이 "삼국지(가상 가설)"의 규칙을 포함하고 있다고 가정해 보겠습니다. 이 경우 단일 기본 규칙이나 설정은 보호받지 못할 수 있지만, 이러한 규칙, 캐릭터 특성, 스킬 효과 및 기타 요소가 결합되어 전체적인 게임 표현을 형성할 때 이 특정 "표현"은 저작권법에 의해 보호받을 수 있습니다.
Tencent Technology: AI가 생성한 이미지는 종종 알아볼 수 있는 "도구 스타일"을 갖고 있습니다. 예를 들어, Midjourney로 생성했는지 GPT-4o로 생성했는지 한눈에 알 수 있습니다. 이러한 AI 스타일은 기술적인 측면에서 어떻게 형성되었나요? 인간의 창의적 스타일과 비교했을 때 본질적인 차이점은 무엇인가?
자오 왕: 2014년 딥러닝이 시작된 이래로 AI 생성 스타일의 패러다임은 빅데이터에서 계산적 수학적 패턴을 찾아내는 것과 같았습니다. 한편으로는 데이터이고, 다른 한편으로는 함수에 맞는 모델의 능력입니다. 당시에 특정 스타일을 생성하려면 특정 데이터를 수집하고 특정 모델을 학습시켜야 했습니다. 이제는 단일 작업이나 스타일을 위한 구체적인 디자인이 필요 없이 다양한 스타일을 통합할 수 있는 GPT-4o와 같은 통합 모델이 있습니다.
인간 예술가와 구체적인 예술가의 스타일 차이에 대한 질문은 매우 흥미롭습니다.
첫째, AI 창조의 패러다임은 하향식인 반면, 인간의 예술은 상향식입니다. AI는 픽셀에서 시작하여 점차적으로 로컬, 그리고 글로벌 의미 정보를 학습합니다. 반면에 인간은 가장 높은 수준의 예술적 개념에서 특정 표현을 점진적으로 해체해 나갑니다. 인간에게는 세부 사항의 중요도가 다르지만, AI에게는 모든 픽셀이 똑같이 중요합니다.
두 번째는 AI가 만든 콘텐츠에는 맥락이 없거나 불확실성이 인간에 비해 너무 적다는 것입니다. 여기서 불확실성이란 사회와 시대의 행동적 주체로서의 감정과 사고의 부족을 뜻합니다.
셋째, 인간의 현재 학습과 창조는 효율적이지만 제한적이기도 합니다. AI의 학습과 창조는 비효율적이지만 확장이 가능합니다. 인간 학생이 선생님의 작품을 대량 완벽하게 모방하는 것은 불가능하지만, AI는 특정한 스타일을 안정적으로 생성할 수 있습니다.
타이샹저우: 예술 작품은 본질적으로 시간과 밀접한 관련이 있으며, 각 시대마다 보편적으로 수용되는 예술적 패러다임이 있습니다. 예를 들어, 르네상스와 계몽주의 시대에는 빛이 시간의 척도가 되었고, 사실주의 회화가 등장했는데, 그 이면에는 과학과 문명이 있었습니다. 1900년대 이후 빛에 대한 이해가 다시 해체되어 광자로 나뉘었고, 이로 인해 점묘주의와 인상주의가 등장하게 되었습니다.
그러므로 반 고흐든 모네든, 그들은 모두 더 큰 과학적 논리에 따라 생산된 개별적인 차별화입니다. 예술가들은 자신의 생각을 바탕으로 이러한 흐름을 파악합니다. 기술 자체는 그다지 중요하지 않습니다. 오랜 기간의 훈련을 거치면 각자 자신만의 세련된 스타일을 형성하게 됩니다. 그보다 더 중요한 것은 그 이면에 있는 아이디어입니다.
지브리 스타일이란 정확히 무엇인가요? 사실, 미야자키 하야오가 애니메이션을 만들었을 때, 그는 처음에는 영화를 만들고 있었습니다. 나중에 그는 픽셀과 유사한 방법을 사용하여 영화를 평면화하고, 사람들이 하는 일을 컴퓨터 언어로 변환하여 기계가 쉽게 학습할 수 있도록 했습니다. 인터넷의 발달로 이는 시대의 트렌드가 되었습니다. 지브리의 스타일은 이러한 평면성과 단편성을 바탕으로 형성되었습니다.
그러므로 핵심은 이 "근본적인 논리"를 이해하고 숙달하는 데 있습니다. 만약 우리가 이것을 진정으로 이해할 수 있다면, 미래의 AI 엔지니어들은 이를 바탕으로 더욱 위대한 작품을 창조할 수 있을 것이라고 믿습니다.
텐센트 테크놀로지: 방금 하야오 미야자키의 그림 스타일이 머신러닝(ML) 과 호환된다고 언급하셨는데요. 그렇다면 AI가 특정 예술적 스타일을 배우는 것이 더 쉬운가요?
조왕: 미야자키 하야오의 지브리 스타일은 현실 세계의 이미지를 단순화하는 것과 같습니다. 색상과 선이 단순하고 연속적이며 세부 사항이 적습니다. 가장 기본적인 관점에서 보면 이 스타일은 AI가 배우기 훨씬 쉽습니다.
실제 세계의 이미지에는 세부 사항과 차원이 너무 많아서 원시 이미지를 생성하는 것이 어렵습니다. 예를 들어, Midjourney v5 이전에는 사람들은 생성된 실제 이미지에 손의 디테일이 거의 없고 머리카락과 눈의 표현이 형편없다고 생각했을 수도 있습니다.
최신 GPT-4o나 Midjourney v8이라면 장르나 스타일에 관계없이 어렵지 않습니다. 가장 어려운 부분은 한 걸음 더 나아가 새로운 것을 창조하는 것입니다. AI는 새롭게 등장한 능력을 통해 '창조'할 수는 있지만 궁극적으로 원래의 데이터 분포에서 벗어날 수는 없습니다.
텐센트 테크놀로지: AI가 아니라 사람이 상업적 창작을 위해 특정 예술 스타일(예: 지브리 스타일)을 모방하는 경우, 이는 침해에 해당합니까?
류윈: 침해에 해당할 수 있습니다. 판단의 핵심은 저작권자(스튜디오 지브리 등)가 창작한 특정 작품이 저작권으로 보호되는 특정 작품과 실질적으로 유사한지 여부입니다. 스타일만 유사하고 내용, 구성, 구체적인 이미지 등이 독창적이거나 실질적으로 유사하지 않다면 침해에 해당하지 않습니다.
리윈카이: 핵심 개념을 하나 추가하겠습니다. 저작권법은 모방을 금지하지 않으며, 오히려 어느 정도 모방을 장려합니다. 저작권법이 금지하는 것은 다른 사람의 작품을 직접 복사하는 것, 즉 자신의 창작과 이해 없이 다른 사람의 특정한 표현을 복사하는 것입니다. 그러므로 인간이든 AI든 스타일을 학습하고 모방하는 과정에는 합법적인 공간이 있습니다.
이미지 출처: 스튜디오 지브리
AI 개발자들 위에 걸린 다모클레스의 검
텐센트 테크놀로지: 지브리 스타일이 인기를 끌었을 때, 지브리 스튜디오가 성명을 냈다는 소문이 있었지만, 결국 그 성명은 존재하지 않았던 것으로 밝혀졌습니다. 만약 스튜디오 지브리가 실제로 그런 침해 소송을 제기한다면, 승소할 확률은 얼마나 될까요?
리윈카이: 법률 전문가로서 제가 가장 걱정하는 것은 AI가 생성한 콘텐츠와 원본 작품 사이에 어떤 유사점이 있는가입니다. 앞서 논의한 대로 저작권법은 특정 표현을 보호합니다. 예를 들어, 이웃집 토토로와 하울은 미야자키 하야오가 창조한 캐릭터입니다. 다만, 그 구성과 둥근 선만 유사한 경우에는 침해에 해당하지 않습니다.
고려해야 할 또 다른 문제는 AI 훈련 과정입니다. 최종 생성된 이미지가 직접적으로 침해하지 않더라도, AI가 학습 과정에서 허가 없이 지브리 애니메이션 작품을 학습 자료로 사용한다면, 그 '학습'이나 '입력' 행위 자체가 무단 복제에 해당할까요? 이는 실제로 다른 차원의 법적 문제이며, 각 국가의 구체적인 법률에 따라 판단되어야 합니다.
따라서 우리는 이 문제를 두 가지 관점, 즉 출력 측면(생성된 콘텐츠)과 입력 측면(훈련 데이터)에서 살펴볼 필요가 있습니다.
Tencent Technology: 매우 강력한 모델을 훈련할 때, 어떤 데이터를 훈련에 사용할 수 있나요? 관련 규정이 발표되었나요?
리윈카이: 사실 우리나라는 AIGC의 관리에 일찍부터 관심을 갖기 시작했습니다. 예를 들어, 2023년에 발표된 인공지능 관리에 관한 임시 규정에서는 우리의 교육 자료에 지식재산권이 관련된 경우 원칙적으로 권리자의 승인이나 동의를 받아야 한다는 원칙적 요건을 제시했습니다.
이는 기본적인 법적 원칙이지만, 실제로는 여전히 큰 문제가 있습니다.
우선, AI 학습에 필요한 데이터 양이 엄청나게 많습니다. 예를 들어, GPT-4의 효과는 기본적으로 인터넷에 있는 모든 사용 가능한 데이터를 크롤링하고 학습시키는 것입니다. 일부 기관에서는 2028년까지 모든 인간 인터넷 데이터가 고갈될 것이라고 예측하기도 합니다.
실제로 우리가 웹에서 스크래핑한 모든 이미지, 댓글, 시에 대한 허가를 얻는 것은 불가능합니다. 기존의 저작권 허가 시스템은 이 규모의 데이터에는 더 이상 적용되지 않는다고 할 수 있습니다. 만약 우리가 "사용 전 허가" 원칙을 정말 엄격히 지킨다면, 많은 AI 도구가 발전하지 못할 수도 있습니다.
현재 이 나라에는 AI에 대한 특별 법률이 없지만, 특별한 법적 면제 조항도 없습니다. 게다가 샤오홍 서예가와 화가들이 해당 플랫폼을 기소하다 등 관련 소송도 이미 발생했는데, 이는 법적 리스크 실제적임을 시사한다.
제가 업계 관행에 대해 아는 한, 많은 AI 개발자와 회사는 여전히 제도적 배당금을 활용하고 데이터를 먼저 활용하는 단계에 있습니다. 하지만 리스크 여전히 존재합니다. 마치 우리 AI 개발자들의 머리 위에 "다모클레스의 검"이 걸려 있는 것처럼요.
류윈: 현재 EU AI법과 국내 AI 관리 조치에서는 사용 데이터를 등록해야 한다고 명시하고 있지만, 현재 등록은 내부적으로만 가능하며 공개에 대한 명시적 요구 사항은 없습니다. 실제로 이것은 보호 기간입니다.
하지만 앞으로 AI 관련 법안이 시행되고 학습 데이터의 투명성도 포함되면, 권리자들이 자신의 권리를 옹호하려는 움직임이 생길 수도 있습니다.
기존 법률에 따르면, 이용자 계약에서 이용자가 업로드한 콘텐츠가 허가된 것이라면, 유료든 무료든 문제가 없습니다. 하지만 다른 플랫폼에 승인되지 않은 콘텐츠가 있는 경우 문제가 발생할 수 있으므로 리스크 평가할 필요가 있습니다.
제가 제안하고 싶은 것은 대규모 모델에서 콘텐츠를 출력할 때 출력을 엄격하게 제어하고 직접적인 침해를 피하는 것입니다.
AI 침해에 대한 책임을 져야 하는 사람은 누구인가?
Tencent Technology: 귀하의 연구 결과를 AI 교육 기관에 제출해 주시겠습니까?
타이샹저우: 물론이죠. 저는 그것을 갖고 싶어요. 마치 가수가 노래를 써서 전 세계 사람들이 그것을 부르기를 바라는 것처럼요.
왜 지브리가 성공했다고 생각할까? 이러한 작품들은 매우 집중되어 있고, 특정 기간 내에 대량 의 작품이 제작되어 대량 의 데이터를 형성하기 때문입니다. 이런 맥락에서 머신러닝(ML) 하고 확산될 수 있습니다. 이곳의 교통 또한 추세를 나타냅니다.
텐센트 테크놀로지: 귀하의 작업이 AI 도구에 적용된다면 가장 용납할 수 없는 것은 무엇일까요?
타이샹저우: 제가 가장 받아들일 수 없는 것은 AI가 생성한 작품이 제 원작과 극도로 유사(예를 들어 90% 이상)하면서도 결국 다른 사람의 이름으로 서명된다는 것입니다. 개인 예술가로서 제가 창조할 수 있는 것에는 한계가 있습니다. 하지만 반면에, 제 이미지가 단순히 출처를 명시하여 인용된다면, 저는 전혀 문제 삼지 않습니다.
텐센트 테크놀로지: 일부 네티즌들이 소셜 네트워크에서 높은 조회수를 기록하고 있는 지브리 스타일의 "반지의 제왕" 영상을 제작했습니다. 이는 저작권 침해에 해당할까요? 책임 소재를 어떻게 규명할 수 있을까요? 법정 심리의 논리는 무엇일까요?
리윈카이: 이 사건에는 여러 권리자(반지의 제왕 소설과 영화의 저작권자와 스튜디오 지브리)가 관련되어 있습니다. 하지만 앞서 언급했듯이, 지브리 스타일 자체를 사용하는 것은 일반적으로 저작권 침해로 간주되지 않으므로 이와 관련된 리스크 상대적으로 작습니다.
가장 큰 법적 리스크 스토리라인, 캐릭터 등을 포함한 "반지의 제왕" 지식재산권을 사용하는 데에 있으며, 이는 원작이나 영화의 각색권을 침해할 수 있습니다. 침해의 구체적인 대상은 소설의 원작 내용을 사용했는지, 아니면 영화의 새로운 내용을 사용했는지에 따라 달라집니다.
권리자가 기소하다 경우 잠재적 피고는 일반적으로 다음과 같습니다.
1. 사용자: 직접 지시를 내리고 콘텐츠 생성을 주도합니다.
2. AI 도구 제공자(플랫폼): 생성 기능을 제공하고 학습 단계에서 관련 IP 요소를 활용할 수 있습니다. 플랫폼이 사용자의 침해 사실을 알고 있거나 알았어야 할 사실이 있음에도 불구하고 여전히 지원을 제공하는 경우 연대책임을 져야 할 수 있습니다.
3. 게시 플랫폼(소셜 미디어 등): 침해된 콘텐츠가 널리 유포되는 경우에도 책임을 져야 할 수 있습니다.
그러나 실제로는 사용자 기반이 분산되어 있고 보상 능력이 제한적이기 때문에 권리자들은 주로 AI 플랫폼에 책임을 묻는 경우가 많습니다. 이러한 사건을 심리할 때 법원은 일반적으로 "안전 항구 원칙"을 적용하여 플랫폼이 합리적인 관리 의무를 이행했는지 여부를 조사하는 데 중점을 둡니다. 여기에는 다음이 포함됩니다. 사용자 책임을 명확히 정의하고 침해를 금지하는지 여부 효과적인 필터링 메커니즘을 구축했는지 여부 편리한 불만 접수 채널을 구축하고 시기적절하게 처리했는지 여부 그리고 그것이 적극적으로 침해를 조장하는지 여부. AI 플랫폼이 의무를 책임감 있게 수행할 경우, 책임이 면제될 수 있습니다.
법적 책임의 구체적인 형태는 주로 다음과 같습니다. 침해를 중단하는 것, 예를 들어 플랫폼에 관련 키워드를 필터링하고 유사한 콘텐츠 생성을 방지하도록 요구하는 것 등입니다. 사과하고, 영향을 제거하고, 재정적 보상을 해야 합니다.
여기에는 좀 더 복잡한 질문이 있습니다. 플랫폼이 학습 중에 허가 없이 "반지의 제왕"의 데이터를 사용했을 경우, 플랫폼은 모델에서 관련 학습 데이터(벡터)를 삭제할 의무가 있습니까? 기술적인 관점에서 볼 때, 모델이 학습한 내용을 완전히 삭제하거나 차단하는 것은 매우 어렵고 비용이 많이 듭니다. 현재 법률상 플랫폼에 그렇게 하도록 강제할 수는 없습니다. 대신 플랫폼은 침해 콘텐츠 생성을 방지하기 위해 출력 단계에서 합리적인 관리 의무를 이행해야 합니다.
텐센트 테크놀로지: 그렇다면 플랫폼은 사용자 계약 수준에서 책임 리스크 어떻게 피해야 할까요?
리윈카이: 핵심은 계약 조건의 준수 세부성에 있습니다. 구체적으로, 사용자 계약 및 관련 관리 조치를 설계하는 데 다음과 같은 측면을 활용할 수 있습니다.
첫째, 사용자 사용에 대한 요구사항을 명확하게 정의합니다. 둘째, 오해의 소지가 있거나 악의적인 내용을 걸러내기 위한 필터링 조치를 마련합니다. 셋째, 규정을 초과하는 계정은 봉쇄, 동결 등 이용자의 행동을 합리적으로 모니터링합니다. 넷째, 책임을 추궁하고 플랫폼의 관할권을 회피하기 위해 "줄바꿈 단어"를 사용하는 등의 부정행위 대면 사용자 기소하다 권리를 보유합니다. 다섯째, 긍정적인 지도를 제공하고 잘못된 행동 유형을 명확히 합니다.
AI 창조: 예술의 정의에 도전하는 새로운 차원?
텐센트 테크놀로지: AI의 영향으로 미래에 인간의 예술은 어떻게 발전할까요? AI가 정말로 예술을 창작하는가?
타이샹저우: 인공지능의 발전은 큰 모델만이 아니라 다양한 방향이 있다고 생각합니다. 현재 AI의 능력은 아직 어린아이와 같은 수준입니다. 더 중요한 점은, 저는 AI가 여전히 저와 같은 참여자들의 뒷단에서의 지도의 결과라고 생각합니다.
예를 들어, 우리가 우주 전체를 거대한 모형으로 여긴다면, 우리 각자, 모든 개인은 단지 그 안의 코드 조각일 수 있습니다. 우리는 우리만의 독특한 "코드"를 기반으로 창작합니다.
그러므로 우리 인간의 창조물은 인간이라는 공통적인 특징을 지니고 있지만, 동시에 매우 강력한 한계도 지니고 있습니다. 예를 들어, 그들은 우리나라, 민족, 문화와 같은 특정 "범주"의 영향을 받습니다. 다양한 문화적 특성으로 인해 다양한 예술 형태와 스타일이 탄생했습니다. 문학과 영화 모두 독특한 지혜와 스타일을 담고 있습니다. AI는 이러한 문화적으로 특정한 패턴을 학습합니다.
따라서 거시적인 관점에서 우리 각자를 독립적인 "코드 세그먼트"로 생각한다면, 언젠가는 이 모든 "코드 세그먼트"를 학습하고 통합하고 심지어 능가할 수 있는 AI가 창의성 면에서 우리 각자를 능가할 기회를 갖게 될 것입니다.
텐센트 테크놀로지: AI가 콘텐츠를 대량 생산할 수 있게 되면, 당신의 수입이나 작품의 상업적 가치에 영향이 미칠까봐 걱정되시나요?
타이샹저우: 저는 우리가 좀 더 미래지향적인 관점에서 이 문제를 볼 필요가 있다고 생각합니다. 제 생각에 작품 자체가 일종의 화폐이고, 인간의 지혜와 코드도 마찬가지입니다. 더 많은 사람들이 동의할수록 더 많은 트래픽이 생성되고, 이 트래픽은 결국 가치로 전환됩니다.
사람, 코드, 회사는 모두 이러한 트래픽을 통해 전환되어 새로운 존재 상태를 형성할 수 있습니다. 그러니 미래를 대면, 시대에 뒤떨어지지 않기 위해서는 더 큰 관점에서 미래를 바라볼 필요가 있습니다.
텐센트 테크놀로지: AI가 일러스트레이터 등의 직업을 대체할 수 대면 불안감과, AI가 인간보다 훨씬 빠르게 학습한다는 현실을 어떻게 다루어야 할까요? 미술교육은 어떻게 진행되어야 할까?
태상주: 일러스트레이터의 불안과 미술교육의 문제에 관해서는 예술의 본질로 돌아가야 합니다. 현재의 일부 미술 교육(시험 중심 시스템 등)은 독립적인 사고력을 기르려는 본래의 의도에서 벗어나 '그림 그리는 기계'를 훈련하는 것과 더 비슷할 수 있습니다.
사람들이 왜 창조하는지 생각해 보아야 합니다. 현대 기술이 사라진다 하더라도, 세상에 대한 관찰을 기록하고 이해하고 전파하려는 인간의 욕구는 여전히 존재합니다. 이것이 창작자의 작품의 근본적 가치이며, 이 원칙은 고대부터 변함없이 이어져 왔습니다.
따라서 창작자에게 있어서 핵심 경쟁력은 그림을 그리는 속도가 아니라, 사고의 깊이와 시대에 대한 이해, 그리고 예지력, 그리고 독창적인 관점과 사고로 이미지를 창조해내는 능력에 있습니다. 이것이 실현된다면 창작자는 영원한 의미를 갖게 되고, AI는 대체물이 아닌 아이디어 표현을 돕는 도구가 될 것입니다. 간단하고 반복적이며 독특한 사고가 부족한 "산업화된" 그림 작업은 실제로 AI가 수행하기에 적합할 수 있습니다.
텐센트 테크놀로지: 이제는 AI가 창작하도록 프롬프트를 사용하는 "AI 아티스트"가 있습니다. 그들을 예술가라고 부를 수 있다고 생각하시나요?
타이샹저우: "모든 사람이 예술가"인 셀프미디어 시대에 제목 자체가 핵심은 아닐 수도 있습니다. 실제 척도는 작품이 광범위하고 지속적인 인지도(트래픽)를 얻을 수 있는지, 그리고 지속적인 활력을 가지고 가치로 전환될 수 있는지에 달려 있습니다. 역사는 걸러지고, 결국 기억되는 것은 극소수에 불과할 것이다.
AI로 창작하는 사람을 예술가라고 부를 수 있느냐는 결국 고전적인 IP처럼 시간을 초월하여 영원한 가치를 지닌 작품을 창조할 수 있느냐에 달려 있습니다.
텐센트 기술: 인간의 창의성과 AI의 무한한 복제를 합법적으로 어떻게 조화시킬 것인가?
류윈: 이건 실제로 균형을 맞추기 매우 어려운 문제입니다.
이는 실제로 균형을 맞추기 매우 어려운 일입니다. 전반적인 법적 프레임 의 관점에서 볼 때, 여기에는 기본적인 규칙이 작용한다고 생각합니다. 획기적인 기술은 필연적으로 기존의 이해관계 구조에 영향을 미치고 게임을 촉발하게 됩니다. 어떤 기술이 나왔는데 아무도 반대하지 않는다면, 그것은 아마도 진정으로 획기적이지는 않을 것입니다. 자율주행 기술과 마찬가지로 L3 레벨 이상이 완전한 도로 주행 권한을 획득할 수 있을지 여부는 여전히 큰 논란이며, 규제 당국조차 신중한 입장이다.
역사를 통틀어 이와 비슷한 게임이 항상 존재해 왔습니다. 예를 들어, 디지털 라이브러리가 초창기에 등장했을 때 한한 등 일부 작가는 저작권 침해로 바이두 라이브러리를 공동 기소하다. 이러한 게임 과정은 결국 점차 새로운 균형점에 도달하게 될 것입니다.
기술 혁신가의 경우, 연구 개발을 수행할 때 "파괴적 혁신"으로 이어질 수 있는 상황을 예측할 수 있어야 합니다. 혁신 과정은 엄청난 이점을 가져올 수 있지만, 동시에 혁신이 특정 그룹에 미치는 영향도 고려해야 합니다.
이러한 집단의 이익 역시 우리가 주의를 기울이고 보호해야 할 대상입니다. 때로는 법이 상대적으로 소수이거나 취약한 집단을 보호하는 경향이 있습니다.
우리는 또한 최근 보도된 정위안지에 씨와 같은 몇몇 구체적인 사례도 보았습니다. 그는 AI를 이용해 자신만의 스타일로 작품을 만들어보려고 시도한 후, AI가 자신보다 글을 더 잘 쓴다는 것을 느꼈고, 심지어 글쓰기를 그만두겠다고 선언하기도 했습니다. 이것은 대처 방법 중 하나입니다. 어떤 사람들은 법적 조치 기소하다 로 선택할 수도 있습니다.
소수 집단의 민감한 반응과 행동은 사회가 합의를 이루도록 이끌 수도 있습니다. 기술 혁신이 막대한 혜택을 가져올 때, 영향을 받을 수 있는 기존 창작자들에게 어떻게 보답할 것인지도 고려해야 합니다. 오직 이런 방식으로만 사회 전체가 공동으로 호소하고 공동으로 발전할 수 있습니다.
본 기사는 위챗 공개 계정 "텐센트 테크놀로지" 에서 발췌하였으며, 저자는 샤오징, 자얀, 36Kr로 게시 권한이 있습니다.
