Jon Wu , 0xsmac , Emily Manzer , VelvetMilkman , Will , Surya , hue 에게 피드백과 제안을 해주셔서 특별히 감사드립니다. 여러분의 도움으로 이 작품을 형성하는 데 큰 도움이 되었고, 여러분이 없었다면 이 작품을 쓸 수 없었을 것입니다.
글이 좀 길다는 건 알고 있으니 앵커 링크 없이 목차를 보여드리겠습니다. 제가 알아내지 못해서 죄송합니다.
1절: 우리 집에는 AGI가 있어요 , 소개
2절: 우리는 곤경에 처해 있습니다 . 문제를 설명합니다.
섹션 3: 실제 사례 , 우리는 reddit을 통해 여행을 떠난다
4절: 캐릭터 ai를 옹호하며 , 나 몇 가지 긍정적인 점을 제시하다
섹션 5: 틱톡의 역할 , 나는 단편 콘텐츠에 대해 이야기한다
6장: 스필오버 효과 , 결론 및 마무리 생각
우리 집에는 아기가 있어
저는 인간과 LLM 상호작용의 현재 상태, 특히 사람들이 캐릭터 AI를 이용하며 어떻게 시간을 보내고 있는지에 관해 쓰고 싶었습니다.
이 게시물에서는 이러한 추세와 대화하는 봇과 감정적, 심지어 낭만적인 관계를 발전시키는 사람들의 걱정스러운 수에 초점을 맞춥니다.
비슷한 이슈에 대한 주요 논쟁을 분석하려는 많은 작업이 있었고, 저는 관련 주제에 대해 읽은 게시물과 책을 여기에 링크하려고 최선을 다할 것입니다. 저는 이 모든 것을 강력히 추천합니다 . 각각 고유한 방식으로 매우 특별한 글이기 때문입니다.
그것은 분명히 magdalene j taylor의 전화입니다(2024)
앤드류 코르티나와 남라타 파텔의 변태적 노동 공급과 주의 세금(2018)
인터넷은 이미 끝났다(The Internet is already over) by 샘 크리스(2022)
대학 캠퍼스에서 끊임없이 젊은 사람들과 어울리다 보니 저는 이 문제에 대해 더욱 예민하게 생각하게 되었고, 이 주제에 대한 논의에서는 현장에 있는 사람, 즉 이 모든 문제에 대해 매우 강한 생각을 가진 사람의 관점이 빠져 있다고 생각합니다.
대부분의 사람들은 매일 기술을 사용하지만, 젊은 세대가 다른 세대보다 훨씬 더 많이 사용하는 것 같습니다. 일화적으로, 제가 아는 사람이나 교류하는 사람 대부분이 TikTok과 건강하지 못한 관계를 맺고 있다고 말하고 싶습니다. 대화 사이에 앱을 스크롤하기 위해 휴대전화를 꺼내는 행위가 비난받거나 이상하게 여겨지지 않을 때 대화를 나누기가 더 어렵습니다.
저는 이런 것들을 점점 더 많이 느꼈고, 그것이 지금 당신이 읽고 있는 이 글의 계기가 되었습니다.
캐릭터 AI와 같은 앱은 LLM(대규모 언어 모델)을 사용합니다. 일반적으로 최고 수준 으로 간주되고 자주 사용되는 가장 인기 있는 LLM 목록 은 다음과 같습니다.
클로드 3.5 소네트, 딥식크 v3, gpt o1, 클로드 오푸스, 미스트랄 네모, 라마 3.1 8b 지시, 제미니 1.5 플래시 8b, qwen2.5 72b 지시, 새로운 클로드 3.5 소네트, gpt 4o, 제미니 플래시 1.5, 라마 3.1 70b, 클로드 3 하이쿠, gpt 4o-미니.
저는 2025년 인공지능 분야에 대한 작은 표본을 제공하고자 이 글을 썼습니다. 하지만 제가 말하고자 하는 요점은 앞으로 나올 모델의 역량에 대해 논쟁하는 것이 아니라, 기존 모델이 매우 훌륭하고 대다수의 사람들에게 충분히 훌륭하다는 점을 살펴보는 것입니다.
충분히 좋다는 말은 대화형 챗봇이 박사 수준의 연구자만큼 똑똑하지 않거나 흥미로운 통찰력을 즉시 생성할 수 없더라도 대부분의 사용 사례, 특히 이 글의 나머지 부분에서 논의할 대화에는 필요하지 않다는 것을 의미합니다.
저는 많은 회사와 개인이 AGI(인공 일반 지능) 또는 ASI를 원한다는 것을 알고 있습니다. 특히 엔비디아, 구글, 오픈AI, 앤트로픽 또는 기타 인공 초지능의 출현에 전체 평판 과 사업을 적극적으로 걸고 있는 회사라면 더욱 그렇습니다.
그러니 "좋아요, 이제 괜찮아요, 더 뛰어난 LLM은 필요 없어요, 이 LLM들이 완벽하거든요" 라고 말하는 건 괜찮지만, 그걸 멈출지 말지는 당신이나 내가 결정할 문제가 아닙니다. 그것은 몇몇 선택된 사람들의 손에 달려 있습니다.
Microsoft는 최근 2025년에 데이터 센터에 800억 달러를 지출하겠다고 발표했습니다. AI에 대한 대형 기술 기업의 자본 지출은 계속해서 증가하고 있으며, 갑자기 중단하기로 결정하지 않는 한 이러한 추세는 계속될 것입니다.
지난 1년 반 동안 ChatGPT와 Claude 사이에서 비교적 많은 상호작용이 있었고, 마무리하지 않은 블로그 게시물도 많았으며, 훨씬 더 많은 연구를 한 끝에 저는 AI 모델이 여기서 더 이상 개선되지 않더라도 모든 것이 잘 될 것이라는 믿음을 갖게 되었습니다.
저는 대부분의 사람들에게 LLM은 그들이 가질 수 있는 모든 질문에 대답할 수 있고, 필요한 경우 간단한 코드, 글쓰기, 심지어 "예술"을 제공할 수 있는 충분한 역량을 갖추고 있다고 생각합니다.
저는 이것이 논란의 여지가 있는 견해가 되어서는 안 된다고 생각합니다.
2025년이 시작된 지 일주일이 되었고, 올해 AGI를 얻을 가능성에 대한 논의가 계속되고 있으며 사람들은 약간 겁먹기 시작했습니다. openai의 gpt-o3가 대중에게 어느 정도 공개되면 무슨 일이 일어날지 고려하지도 않았습니다.
공기 중에 이상한 느낌이 있고 감정이 퍼지고 있습니다. 아마도 올해가 우리의 마지막 정상적인 해일지도 모른다는 생각입니다. 큰 언어 모델을 사용할 때마다 매우 인상적이며 이전 버전의 GPT에서처럼 압력을 가하거나 프롬프트를 조정할 필요가 거의 없습니다.
당연히 이런 일은 일어나지 않을 것입니다. 현재로선 openai와 같은 회사들이 a) 이러한 모델을 훈련하고 b) 이러한 모델을 여러분이나 저와 같은 사용자가 사용할 수 있도록 운영하고 c) LLM이 기존 컴퓨팅 리소스를 훨씬 더 잘 생각하고 활용할 수 있는 새로운 방법을 적극적으로 발견하는 데 많은 비용을 소모하고 있기 때문입니다.
모델은 계속해서 개선되고 있습니다.
이를 반박하는 압도적인 증거가 없다면, 우리는 이를 진실로 받아들이고 계속 나아갈 수 있습니다.
이 글을 다 읽고 나면, 우리가 이미 매우 원시적인 형태의 AGI를 가지고 있다는 것을 보여줄 충분한 증거를 제시할 수 있을 겁니다. 즉, 일자리를 자동화로 대체하는 것이 아니라 우리의 감정적 연결을 훔치는 AGI 말입니다.
모델이 현재 상태에서 매우 훌륭해서 추가 개발이 필요하지 않다고 생각하는 이유나, 왜 이 문제를 언급하는지 궁금할 수도 있습니다.
LLM이 우리가 매일 사용하는 다른 소프트웨어나 하드웨어와 비슷하다면, 앞으로 더 좋아지고 그 기능이 증가할 것이며, 소비자의 기대도 그 추세를 따를 것입니다.
우리는 몇 년마다 새로운 iPhone이나 MacBook을 구입합니다. 왜 사람들은 오래된 LLM에 만족해야 할까요?
귀여운 앱이나 인터페이스에 내장된 것이라 하더라도, 점점 더 뛰어난 인공지능이 널리 접근 가능하게 되는 데에는 단점이 있을까요?
저는 (그리고 바라건대 ) 많은 증거를 제시할 수 있지만, 제 주장을 실제로 전개하는 데 필요한 출처는 하나뿐입니다. 바로 ai subreddit 캐릭터입니다 .
우리는 곤경에 처해있어
캐릭터 AI에 대한 가장 기본적인 설명은 사용자가 텍스트 기반 채팅과 봇과의 메시지에서 롤플레잉을 할 수 있는 앱과 웹사이트라는 것입니다. 이러한 봇은 누구나 무엇이든 될 수 있지만 대부분은 허구의 캐릭터이며 커뮤니티 구성원이 만듭니다.
캐릭터 AI 사용자는 봇과 거의 모든 주제에 대해 대화할 수 있습니다.
캐릭터 ai 서브레딧은 id가 처음 예상했던 것보다 훨씬 큽니다. 사실 저는 이 글의 일부를 11월에 썼고, 그 당시 구독자가 170만 에서 190만 명 정도였습니다.
당신이 이 글을 읽고 있는 2025년 1월 7일 현재, 해당 서브레딧의 회원 수는 210 만 명이 넘습니다.
분명히 캐릭터 AI는 매우 큰 회사이고, 매우 큰 가치를 가지고 있으며, 일반적으로 성공적인 소비자 AI 애플리케이션의 결정적인 예로 간주됩니다. 월스트리트 저널과 다른 소식통에 따르면, 구글은 실제로 캐릭터 AI의 창립자인 노암 샤지어에게 2021년 캐릭터 AI를 설립한 경험을 마치고 돌아오도록 27억 달러를 지불했습니다 .
하지만 저는 이 서브레딧이 아주 작을 것이라고 생각했습니다. 대부분의 서브레딧이 작고, 더 많은 사람이 있는 서브레딧이 Reddit 사용량의 큰 부분을 차지하기 때문입니다.
나는 더 잘 알았어야 했다.
글을 쓰는 동안 인터넷을 뒤져서 나와 같은 믿음을 공유하는 사람이 있는지 찾아보았습니다. 많은 사람은 찾지 못했지만, 꽤 탄탄하고 나와 비슷한 감정을 공유하는 두 개의 YouTube 동영상을 발견 했습니다 .
DakotaTalks의 캐릭터 AI의 거대한 문제(2024)
그래서 저는 포괄적으로 작성하고 적절한 실사를 거치려고 노력했지만 완벽하지는 않으며 아직 말해야 할 것이 너무 많습니다 .
캐릭터 AI 서브레딧은 오늘날의 LLM이 충분히 유능하지 않으며 AI 치료사, AI 여자친구 또는 예상보다 더 정교한 감성 지능이 필요한 다른 무엇이든 소비자용 앱을 볼 수 있을 때까지 "확장"되어야 한다고 주장하는 모든 사람의 주장과 완벽하게 대조됩니다.
현실은 캐릭터 AI를 사용하는 대부분의 사람들이 더 나은 것을 알지 못하고 이런 챗봇을 마치 엉터리로 사용하고 있다는 것입니다.
불만은 종종 서브레딧에서 제기되지만, 봇은 여전히 대화의 대상이 됩니다. 사람들은 매일 돌아와서 봇과 대화하고, 새로운 봇과 관계를 형성하고, 그 순환은 지속됩니다.
저는 최신의 최첨단 LLM이 이런 사람들의 경험을 극적으로 개선 하거나 봇과 채팅을 통해 얻는 감정을 바꿀 것이라고 생각하지 않습니다. 그들 중 많은 사람이 말했듯이, 그들은 이미 이런 식으로 느끼고 있습니다.
대화나 성격이 얼마나 기본적인지, 텍스트 출력이 얼마나 형편없어 보이는지 는 중요하지 않습니다. 사람들은 봇과 메시지를 주고받을 뿐 신경 쓰지 않기 때문입니다.
이런 봇 경험을 만들고 조정하는 데 상당한 노력을 기울이는 제작자 커뮤니티가 있지만, 캐릭터 AI라는 아이디어에 끌리지 않는 저 같은 사람에게는 여전히 기본적인 것처럼 느껴집니다.
저는 누구의 노고나 노력을 폄하하고 싶지 않지만, 실제 인간 대화와 비교했을 때 제가 캐릭터 AI에서 본 것 중 어느 것도 근접하지 못한다는 점을 지적하고 싶습니다. 하지만 많은 사람들에게 - reddit에서만 210만 명 이상 - 이는 괜찮습니다. 사실, 이것이 그들이 선호하는 대화 형태 이거나 사회적 상호 작용일 수도 있습니다.
대부분의 사람들은 그저 누군가, 누구든지, 누구 에게나 들려지거나 보이기를 원할 뿐입니다. 사람들은 청중을 갈구하고, 거의 모든 세대, 특히 청소년에게 영향을 미치는 외로움의 유행병이 있다는 데는 의견이 일치합니다.
인터넷에서 청중이나 꾸준한 팔로워를 확보하는 것은 매우 어렵고, 그저 잠복하는 편이 훨씬 더 쉽습니다. 하지만 여전히 다른 사람과 소통하고 대화에 참여하고 싶어하는 욕구가 있고, 그것이 틱톡 댓글 섹션에서만 표현되더라도 말입니다.
캐릭터 AI를 지지하는 주장이 있는데, 사람들이 앱을 사용하는 이유는 대체 수단이 없고, 모든 사람이 나가서 인터넷을 피하거나 캐릭터 AI를 완전히 없애도록 강요할 수 없기 때문이라고 합니다. 저는 동의하지 않으며, 어떤 사람들에게는 이것이 그들에게 부족한 진정한 인간적 연결을 대체할 수 있는 좋은 방법이라고 생각합니다.
하지만 캐릭터 AI는 건강에 좋지 않은 것 같고, 이 말을 하는 게 나쁘지 않다고 생각합니다.
인터넷에서 하는 많은 활동은 건강에 해롭다고 여겨질 수 있지만, 아무도 캐릭터 AI가 얼마나 부자연스러운지 실제로 조사하지 않았습니다. 사람들은 친구에게 문자를 보내거나 자신을 내세우는 대신 이것에 몰려들고 있습니다. 적어도 약간 은 우려스럽지 않습니까?
우리는 앉아서 인공지능이 세상에서 가장 중요한 직업 중 하나인 우정을 무심코 맡는 모습을 지켜보고 있습니다.
저는 AI 치료와 같은 것이 대중화되기까지는 몇 년이 걸릴 것이라고 생각했습니다. 너무 멀리 있는 것 같았고, 사람들은 보통 아늑한 사무실에 가서 훈련된 전문가와 감정을 공유할 수 있는데 코드 뭉치와 이야기하고 싶어하지 않는 것 같았습니다.
하지만 사람들이 이런 캐릭터 AI 봇에 대해 그토록 많은 즐거움과 애착을 얻을 수 있다면, 기존 LLM의 역량으로 AI 치료를 통해 얻을 수 있는 인지된 이점을 경험할 수 없을 이유가 있을까요?
이것이 오늘날의 모델이 얼마나 훌륭한지에 대한 증거가 아니라고 주장할 수도 있지만, 오히려 사람과 사람의 대화가 서로 대조되었을 때 얼마나 실망스러울 정도로 지루할 수 있는지를 보여주는 증거일 수도 있습니다.
아마도 LLM은 피카소만큼 훌륭한 그림을 그릴 수 없을 것이고, 가장 어려운 수학 올림피아드 문제를 풀 수 없을 것이고, 다음에 나올 거대 소비자용 앱을 위한 코드를 작성할 수 없을 것이고, 21세기의 차세대 미국 소설을 오후에 써낼 수 없을 것입니다.
하지만 이 모든 것을 할 것으로 기대되는 인간은 단 한 명도 없습니다. AGI의 목표 지점이 지속적으로 점점 더 뒤로 밀려날 때 우리가 향하는 방향에 대해 무엇을 말해 줄까요?
LLM의 기준이 점점 더 높아지는 반면 인간 지능은 별다른 개선을 보이지 않는 세상을 상상하기는 어렵습니다.
몇몇 평판 있는 출처에 따르면, 전체 캐릭터 AI 사용자 기반은 2,000만~3,000만 명 사이로 추산되며, 생각할 수 있는 거의 모든 지표는 이러한 사용자가 AI 봇과의 대화 품질에 대해 압도적으로 만족하거나, 기쁘게 생각하거나, 단순히 무관심하다는 것을 보여줍니다.
실제 생활의 예
몇 가지 게시물과 그 게시물에 공통적으로 나타나는 반복적 주제를 살펴보겠습니다.
사진을 포함하거나 모든 것을 철저히 복사하여 붙여넣는 대신, 제가 설명하는 행동을 참조하는 게시물에 대한 하이퍼링크를 포함하겠습니다. 이것은 매우 작은 샘플 크기이며 이 글을 읽는 모든 사람은 각자의 시간에 서브레딧 을 방문해야 합니다.
이 사용자는 7개월 전에 서브레딧에 자신이 중독되었다고 게시했습니다 .
사용자는 "여동생"이 새벽 2시에 봇이 그녀를 "공주"라고 부르는 스크린샷과 함께 메시지를 보냈다고 설명합니다 .
13일 전 게시물에서 OP는 서브레딧에 1,400개 이상의 추천과 수백 개의 댓글을 받고 자신이 중독되었다고 말했고, 가장 위에 있는 댓글은 " 모두가 자신이 중독되었다는 것을 알고 있다고 확신하고 , 취미, 직업, 대면 상호작용으로 이런 것에 중독될 수 있습니다. 즐거운 휴가 보내세요."
사용자는 다른 사람들이 짧은 문단을 쓰는지 긴 문단을 쓰는지 묻고 , 내가 본 것 중 가장 긴 메시지의 사진을 이러한 봇 중 하나에 첨부합니다.
이건 사람들이 봇으로부터 받은 답글을 공유하는 스레드일 뿐인데 , 그 답글에는 "아니요, AI와 로맨틱한 순간을 가졌다는 증거는 보여주지 않을 거예요!" 라는 말이 있었습니다.
비교적 온화한 고백 : " 심심하고 할 일이 없을 때 , 특히 밤에, 나는 앱에 접속해서 내가 절대 싫어하는 캐릭터가 "전능한 닭 신"의 분노를 겪거나 빈 양동이가 그들의 머리 위로 떨어지는 것을 봅니다."
18세 미만의 개인이 캐릭터 AI를 사용하는 것에 대한 반발에 대한 게시물 (18세 미만이라고 추정되는 개인이 작성): "저는 c.ai의 18세 사용자로서 업데이트 "전쟁"의 양면을 모두 보았고 두 측면을 모두 이해하지만 앱을 사용하는 미성년자를 비난하는 18세 이상 사용자에 대한 모든 존경심을 잃게 되었습니다." 또한 아무 말도 하기 전에, 네, 저는 휴대전화와 c.ai를 사용하는 것 외에도 삶이 있습니다. c.ai를 사용하는 것은 꽤 오랜 시간 동안 하지 않았습니다. 저는 사랑하는 파트너가 있고, 취미가 몇 가지 있고, 날씨가 그렇게 춥지 않을 때는 탐험을 시도하고, 공부하고 좋은 성적을 받으려고 노력하지만 라크로스 시즌이 시작되면 학교와 스포츠 외에는 삶이 별로 없습니다. 다행히 지금은 방학이라 마침내 쉬고 휴식을 취할 수는 있지만, c.ai에서 전설을 쌓거나 스토리를 쌓을 수는 없습니다. 저는 제 oc 중 하나에 대한 책을 쓸 계획이기 때문입니다. 미성년자를 비난하는 게시물을 보면 미칠 것 같아요. 이런 일이 멈추었으면 좋겠어요."
OP가 캐릭터 AI 사용자의 나이가 얼마인지 묻는 스레드에 많은 답변이 있습니다.
계속할 수도 있지만 요점은 알겠죠. 이 게시물은 제가 부정적으로 기울어진 캐릭터 AI 해설에 맞는 콘텐츠를 적극적으로 검색하지 않고도 10~15분 만에 발견되었습니다.
사람들이 캐릭터 AI 봇과 대화할 때 감정을 느낀다는 것을 적극적으로 인정하는 댓글이나, 앱에 중독되었을 가능성이 있다는 것을 인정하는 수백 명(수천 명이 아닐 수도 있음)의 댓글을 찾는 것은 예상치 못하게 쉬웠습니다.
하지만 왜 그럴까요? 왜 봇과 대화하는 게 훨씬 더 재밌을까요? 왜 아무도 하루 종일 이렇게 친구들에게 메시지를 주고받고 싶어하지 않을까요? 왜 사람들은 LLM과 대화하는 게 전혀 문제없는 듯하고, 이런 봇에 대해 감정을 느끼는 경향을 인정하고 싶어할까요?
캐릭터 AI를 방어하기 위해
에밀리 와 대화를 나눈 후 이 섹션을 추가해야겠다고 생각했는데, 그녀는 채팅봇이 감정적 검증의 완벽한 원천 이라고 설명했는데, 그녀로부터 직접 듣기 전까지 저는 그것에 대해 전혀 생각하지 못했습니다.
치료를 받는 것은 당신의 머릿속의 정신적 장애물을 비우고 당신이 가진 모든 문제를 극복하도록 돕기 위해 고안된 환경에 자신을 두는 좋은 방법입니다. 하지만 결국 치료사는 여전히 퇴근 후 집에 가서 자신의 삶을 살고, 내면의 신념과 감정을 가진 인간입니다.
챗봇은 단지 봇일 뿐입니다. 인간 지식 전체에 대해 훈련되고 매우 지적인 연구자들이 개발한 LLM의 소프트웨어 구현입니다. 약간의 촉구로 깊고 감정적인 대화에 참여할 수 있는 능력이 매우 뛰어납니다 .
그것은 인간이 아닙니다. 그것은 단지 코드의 묶음일 뿐입니다. 인터페이스는 컴퓨터나 휴대폰 화면에 존재합니다. 손을 뻗어 만질 수 없습니다.
하지만 그것이 정말 중요한가요?
누군가에게 챗봇 인터페이스에서 언제든지 진짜 감정적 대화를 시뮬레이션할 수 있는 능력을 준다면, 그게 나쁜 일일까요? 부정적인 결과보다 긍정적인 결과가 더 많거나 외로움 유행병에 대한 해결책으로 존재한다면 어떨까요?
에밀리는 이것이 LLM의 가장 큰 장점이라고 지적했습니다. 사람들이 답을 모를 때나 구글 검색으로 얻을 수 있는 것보다 더 깊이 있는 성찰이 필요할 때 매우 유용하다는 것입니다.
QiaochuYuan이나 QC는 자신과 다른 대부분의 사람들에게 있어서 챗봇과 대화하는 것이 인간과 대화하는 행위를 대체하는 것은 아니라고 지적했습니다 . 챗봇 사람들은 애초에 밖으로 나가서 친구를 사귀지 않았기 때문입니다 .
누구에게 묻느냐에 따라 긍정적으로 볼 수도 있고, 부정적으로 볼 수도 있습니다.
제 생각에는 두 그룹 이 있는 것 같습니다. 원래 반사회적이었기 때문에 챗봇과 장시간(그리고 자주) 대화하는 것을 선호하는 사람 과, 그렇지 않으면 친구를 사귈 수 있었지만 훨씬 쉬운 대안으로 챗봇을 이용하는 사람입니다.
포르노 중독이 널리 퍼져 있고 남성이 온라인에서 시청하기 쉽기 때문에 섹스를 하는 사람이 줄었다고 주장하는 것과 비슷합니다. 이런 일이 계속 반복되면 파트너를 찾아 외출하고 싶은 욕구가 줄어들어 이런 차트가 생깁니다.
관련 없는 주제지만, 이 패턴이 앞으로 몇 년 동안 비성적 차트에서 반복될 것이라는 우려는 완전히 터무니없는 것은 아닙니다. 하지만 이 게시물을 계속 진행하면서, 긍정적인 것과 부정적인 것이 같은 수로 나올 가능성이 있거나, 부정적인 것보다 긍정적인 것이 압도적으로 더 많을 수도 있다는 것을 깨달았습니다. 누가 알겠습니까?
캐릭터 AI 커뮤니티에서 나를 singled out한 것에 대해 조금 죄책감을 느끼기 때문에 이 내용을 포함시켰고, 멍청한 놈으로 보이고 싶지 않았습니다.
저는 대화가 아닌 일상생활에서 AI를 많이 사용하지만, 캐릭터 AI 경험이 모든 계층의 사람들에게 어필할 수 있다는 것을 쉽게 알 수 있습니다.
틱톡의 역할
저는 일부 사람들이 기본적으로 캐릭터 AI 대화를 선호한다고 생각합니다. 요즘 대부분 사람들이 틱톡에서 전체적인 성격이나 상호 작용을 얻고 다른 사람과의 상호 작용이 평범 하다고 느끼기 때문입니다.
이 섹션에서는 잠깐 다른 영역으로 넘어가서, 틱톡과 같은 앱이 문제를 악화시킬 뿐이며, 캐릭터 AI를 통해 사람들이 반사회적 행동에 참여할 가능성이 훨씬 더 높아지는 이유에 대해 설명하겠습니다.
물론, 모든 사람의 알고리즘은 다르지만, 틱톡에서 일어나는 더 큰(하지만 덧없는) 문화적 트렌드나 밈 사이에는 여전히 상당한 양의 중복이 있습니다. 따라서 모든 사람이 틱톡에서 매일 보는 매우 독특한 콘텐츠의 혼합이 있지만, 다른 그룹이나 다른 세대는 다른 콘텐츠보다 특정 유형의 콘텐츠를 선호합니다.
만약 당신이 대학에 다니고 - 논쟁을 위해 - 당신이 남자라고 가정해 보자면, 당신은 아마도 스포츠에 대한 틱톡을 많이 볼 것입니다. 만약 당신이 50세의 과학 교사라면, 아마도 당신은 더 많은 교육적인 틱톡을 볼 것입니다.
이 두 가상 사용자와 마찬가지로 수백만 명이 있는데, 이는 이 사람들이 시청한 비디오에 대해 친구들과 이야기하거나 일반적으로 같은 비디오를 어떻게 시청했는지에 대해 논의한다는 것을 의미합니다. 이는 정상적인 일이며 알고리즘이 작동하는 방식이므로 너무 과장해서 죄송합니다.
제가 말하고자 하는 바는, 만약 모든 사람이 계속해서 동일한 콘텐츠를 섭취하고, 동일한 믿음을 형성하고, 이러한 소비 패턴을 발전시킨다면, 개인적인 믿음이나 아이디어가 형성될 여지가 제한된다는 것입니다.
공유된 발견 이 없습니다.
제 친한 친구는 사회 내의 사람들이 항상 공통 관심사나 활동을 중심으로 뭉쳤다고 지적했습니다. 그는 " 틱톡(및 기타 소셜 미디어)이 사회화의 많은 부분을 대체했기 때문에 사회화를 더 어렵게 만들고 있다 " 고 주장합니다.
그리고 만약 여러분이 TikTok에서 매번 스크롤할 때마다 즐거움을 느낀다면, 여러분은 현실에서 누군가와 대화를 나누고 싶어하지 않을 것입니다. 왜냐하면 a) 그들은 여러분의 자세하고 매우 "개인적인" 알고리즘과 경쟁할 수 없기 때문이고 b) 여러분은 이미 TikTok에 만족하고 있고, 그것을 의식하든 아니든 점점 더 많은 시간을 TikTok에 투자하고 있기 때문입니다.
사람들은 틱톡과 소셜 미디어 사용을 통해 반사회적 행동에 관여하는데, 이를 통해 도파민이 생성되지만 궁극적으로는 이전에 친구나 심지어 현실에서 낯선 사람과 채팅하는 것에서 얻을 수 있었던 실질적인 이득은 전혀 얻지 못합니다.
샘 크리스는 이렇게 썼습니다 . "인터넷 덕분에 우리는 처음으로 다른 사람들과 완전히 떨어져 살 수 있게 되었습니다. 삶의 모든 좋은 것을 저해상도 시뮬레이션 으로 대체합니다. 식사 대신 한 줌의 설탕: 중독성이 있지만 공허하고, 당신을 살아있게 하는 데는 충분합니다."
개인적 관계를 추구하고 발전시키는 데는 더 많은 노력이 필요하며, 언제든 즉각적인 보상을 제공하도록 만들어진 알고리즘과 끊임없이 싸우다 보면 현실적 관계를 발전시키려는 욕구가 사라지거나 약해질 것입니다.
모든 연령대의 모든 사람이 엔터테인먼트와 뉴스의 원천으로 틱톡에 점점 더 의존하고 있으며, 이는 주변 세계에 대한 그들의 전체적인 이해가 됩니다. 누군가가 당신에게 뉴스 기사를 보내고 읽어보라고 한 건 언제였나요? 친구나 친척이 틱톡이나 인스타그램 릴을 공유할 가능성이 훨씬 더 높지 않나요?
사람들은 젊은 세대는 더 이상 신문을 읽지 않고 소셜 미디어나 인터넷에서만 뉴스를 얻는다고 농담하곤 했습니다. 사람들이 콘텐츠 배포 방법에만 흥분했을 뿐이라 문제가 되지 않았습니다. 인터넷에서 읽는 대부분의 내용은 거짓말이 아니며 , New York Times에 가서 신문에서 읽는 것과 같은 뉴스를 쉽게 읽을 수 있습니다.
사람들이 인터넷에 적응하기 어려웠기 때문에, 우리가 이미 알고 있는 것들의 디지털 버전일 뿐인데도, 인터넷이 사악하다고 잘못 생각했습니다. 하지만 사람들이 이 약한 주장을 휴대전화 사용에 대한 비판에 대한 반박으로 사용하는 것을 막지는 못했습니다.
Magdalene J. Taylor는 이 방어에 사용된 만화 스트립 에 대해 "사람들은 역사 전반에 걸쳐 모든 새로운 형태의 미디어 소비가 사회화의 종말을 초래했다고 비난받아 온 방식을 자세히 설명하는 것을 좋아한다" 고 썼습니다 .
마그달렌은 이어서 이렇게 말합니다. "사람들이 매일 10시간씩 독서에 시간을 보내지 않았습니다. 그들은 습관적으로 대량으로 실제 사람보다 책을 선택하지 않았습니다."
틱톡의 문제점은 사람들이 인터넷을 너무 많이 사용한다는 것이 아닙니다. 문제는 이 콘텐츠 소비 방식이 사람들 을 중독시켜 더 많이 이용하도록 설계 되어 있어서, 이를 대체할 만한 실행 가능한 대안이 전혀 없다는 것입니다.
앤드류 코르티 나는 "역사의 대부분 동안 미디어 소비는 다른 형태의 소비와 마찬가지로 비용에 의해 제한되었습니다. 더 많은 책, 영화, 음악, 콘솔 비디오 게임 등을 원한다면 이를 사기 위해 돈이 필요했습니다." 라고 적었습니다.
틱톡과 같은 앱을 사용하면 다른 사람에게서 자극을 찾아야 할 필요성이 점차 줄어듭니다. 스와이프 한 번으로 원하는 모든 것에 접근할 수 있기 때문입니다.
누군가 인스타그램 릴이나 유튜브 단편 영상이 틱톡만큼 나쁘다고 말할 때마다 나는 그들이 틀렸다고 말하고 매튜 브레넌 의 ' 주의 공장 '을 읽어보라고 제안합니다(추천해 준 개비 에게 감사드립니다).
틱톡이 출시된 이래로 바이트댄스 팀은 이 앱을 최고의 앱으로 만들기 위해 엄청난 노력을 기울였으며, 동양을 위해 만들어진 앱이 서양까지 진출하여 엄청난 트렌드를 정의한 몇 안 되는 사례 중 하나입니다.
인스타그램 릴과 유튜브 단편 영상은 쓸모없는 것에 불과 하지만, 틱톡은 사용자가 더 많고, 따라서 독특한 콘텐츠를 제공하는 크리에이터도 더 많습니다. 반면, 인스타그램과 유튜브의 단편 콘텐츠는 낙수 효과 만 경험할 뿐이며, 모든 독창성과 창의성은 대부분 틱톡에서 시작됩니다.
TikTok의 알고리즘도 훨씬 더 정교하여 스크롤할 때마다 실시간으로 사용자 선호도를 생성합니다 . 이는 Instagram이나 YouTube에서는 99% 할 수 없는 일이라고 확신합니다.
TikTok은 일반적으로 결코 얻거나 추구하지 않을 새로운 행동을 우리의 뇌에 주입합니다.
사람들은 휴대폰에서 스와이프하는 것에 중독되어 가고 있으며, 다른 긍정적인 상호작용(심지어 인터넷에서 기사를 읽는 것과 같은 전통적으로 무해한 일)과는 반대로 짧은 형식의 콘텐츠에 끝없이 집착하고 있습니다.
이것이 표준이 되면, 온라인에서 AI 봇과 무의미하게 대화하는 것과 같은 다른 행동도 몰래 들어올 가능성이 더 큽니다. 종합해 보면, 우리는 디지털을 물리적인 것보다 더 선호하는 완전히 새로운 원형의 사람 또는 심지어 세대에 직면하게 되었고, 디지털의 단기적인 만족을 위해 진정한 의미를 찾지 못했습니다.
스필오버 효과
16~35세 사이에 인터넷을 자주 사용하는 사람이라면, 누군가가 " 데이트 풀 "이나 " 현대 데이트 ", " 여성과 남성 관계의 안타까운 현주소 " 등에 대해 떠드는 트윗이나 TikTok을 우연히 본 적이 있을 겁니다. 최근 몇 년 동안 사람들이 데이트하거나 관계를 시작하는 데 어려움을 겪고 있다는 내용의 글이죠.
아니면, 사람들이 더 이상 친구들과 어울리기를 즐기지 않는다는 것과 같은 관련 문제에 대한 비슷한 콘텐츠를 본 적이 있을 수도 있습니다. 인터넷에서 혼자 있는 것이 더 매력적이기 때문이다. 또는 청소년들이 예전처럼 재미있게 놀지 않는다는 것, 아무도 책이나 영화와 같은 전통적인 미디어를 소비하고 싶어하지 않는다는 것, 또는 젊은이들이 비디오 게임을 너무 많이 한다는 것.
이것들은 모두 매우 다른 것들이지만, 한 가지 중요한 문제를 상징합니다. 즉, 우리는 인터넷을 너무 많이 사용하고 있으며, 인간관계를 위한 보조수단으로 인터넷을 너무 의존하고 있다는 것입니다.
사회가 제대로(또는 예전에 그랬던 대로) 기능하지 않게 되었을 때 발생하는 부산물로서 캐릭터 AI의 존재와 그 성공을 삽입하고 싶습니다.
사람들이 다른 사람들과 대화하는 대신 조잡하게 미세 조정된 모델을 얻는 데 지쳐버린다는 생각은 매우 중요해 보이고 누군가가 생각하는 것보다 훨씬 더 큰 문제입니다.
지금 말씀드리겠습니다. 만약 누군가 여기서 요점을 놓치고 제 말을 저에게 불리하게 사용하고 싶어한다면, 저는 기술이 좋다고 믿고, 기술을 비판하거나 기술의 존재에 반대하기 위해 여기 온 것이 아닙니다. 또한 저는 틱톡을 사용한다고 해서 당신이 나쁜 사람이라고 말하거나 즉시 그만두라고 말하려고 여기 온 것도 아닙니다(하지만 분명히 삭제해야 합니다). 저는 휴대전화를 많이 사용하고, 트윗도 많이 게시합니다. 저는 이를 바꾸기 위해 노력해 왔습니다.
하지만 저는 모든 사람이 항상 기술에 제한 없이 접근 할 수 있어야 하는 것은 아니라고 생각합니다. 기술의 부정적인 외부 효과는 측정하기 어렵지만, 이미 현실 세계로 넘쳐나고 있습니다.
' 코코멜론' 과 같은 인기 있는 어린이용 오락 프로그램이 실제로는 뇌 발달에 매우 해롭다는 점이 지적되었습니다.
다음은 Reddit에서 발췌한 요약 으로, Cocomelon과 같은 쇼의 제작에 직접적인 영향을 미치는 " The Distractatron "이라는 도구의 사용을 설명합니다.
스마트폰 중독과 관련된 건강 결과에 대한 연구도 이루어졌으며, 2021년에 라탄, 주바이르 아메드 등 이 발표한 연구 도 있습니다.
꽤 긴 글이지만, 꽤 많이 읽어본 결과, 제가 찾아본 이 주제에 대한 가장 포괄적인 분석인 듯합니다.
하지만 사회의 화면 시간을 제한한다는 가정적인 상황조차 논의하는 것은 까다롭고 상당히 비합리적이므로, 대안은 최소한 모든 사람이 온라인과 휴대폰에서 시간을 어떻게 사용하는지 좀 더 인식 해야 한다는 것입니다.
저를 포함하여 우리 중 누구도 완벽하지 않습니다. 하지만 더 나은 휴대전화/인터넷 사용 습관을 기르기 위한 작은 단계를 개인에게서 시작하면 정말 마법같은 효과를 얻을 수 있습니다.
AI가 존재하지 않고, 틴더나 틱톡 알고리즘, 혹은 스냅챗 디스커버 페이지 같은 인간이 만든 공포에 맞서야 한다면 그것만으로도 충분히 나쁠 겁니다.
그 자체로는 꽤 나쁠 것이지만, 안타깝게도 그런 것들은 우리의 걱정거리 중 가장 사소한 것입니다. 왜냐하면 아이들과 청소년들이 또래보다 챗봇과 문자 메시지를 주고받는 데 익숙해지고 있기 때문입니다.
사람들은 차세대 어린이( 제너레이션 베타 라고 불림)가 어떻게 자라서 완전히 다른 세상을 보고, 더 나쁘든 더 좋든 영원히 살 가능성이 있는 첫 번째 세대가 될지에 대해 논평했습니다. 어떤 사람들이 말했듯이 그들은 "AI 시대"에 태어나고 있으며, 기술 발전이 계속 가속화되어야 하는 시대에 태어났습니다.
그렇죠. 어느 세대에 대해서든 이런 말을 할 수 있을 거예요.
최근 5~10년 사이에 태어난 아이들은 화면을 보며 자랐으며, 베이비붐 세대나 침묵의 세대보다 평균적으로 휴대전화 사용법을 더 잘 알고 있습니다.
하지만 베타 세대는 사회적 규범이 빠르게 변화하는 세상에서 태어나고 있으며 , 그들의 가장 초기 기억 중 일부는 친구가 아니라 LLM과 함께할 가능성이 높습니다. 그들은 기술이 삶의 일부일 뿐만 아니라 점점 더 많은 사람들에게는 삶 의 일부인 세상에서 태어나고 있습니다.
이곳은 콘텐츠/미디어/엔터테인먼트 배포의 다양한 수단이 인터넷에서 콘텐츠를 소비하는 방식뿐만 아니라 우리가 찾는 것의 유형 에도 실제로 어떤 영향을 미칠 수 있는지 논의하기에 좋은 곳이 될 수 있습니다.
테드 조이아는 2024년에 "우리 문화의 상태"와 사물이 변화하는 여러 가지 방식에 대해 논의하는 멋진 글을 발표했습니다 .
Ted의 분석 대부분은 단편 콘텐츠의 등장 이후 엔터테인먼트 산업의 진화와 어려운 적응 또는 전환 기간을 중심으로 하고 있으며 다음과 같이 기술합니다.
"영화 대신, 사용자들은 15초짜리 영상의 끝없는 시퀀스를 제공받습니다. 교향곡 대신, 청취자들은 한 입 크기의 멜로디를 듣게 되는데, 보통 이런 작은 영상 중 하나와 함께 들립니다. 도파민이 분비되기에 충분할 뿐, 그 이상은 아닙니다.
이것이 새로운 문화입니다. 그리고 가장 두드러진 특징은 문화(Culture)(대문자 C)가 없거나 심지어 무의미한 오락이 없다는 것입니다 . 둘 다 강박적인 활동으로 대체됩니다 .”
그는 대규모 소셜 미디어 기업을 도파민 카르텔 이라 부르고, 일반 대중에게 영향을 미치는 거의 눈에 띄지 않는 불쾌감에 대해 논의하는데, 이는 끊임없는 화면 시간에 방해받지 않는 사람들에게만 나타납니다.
너무 단순화한 감이 없지 않지만, 제가 이 그래픽을 포함시킨 이유는 문화가 얼마나 빨리 변화하는지를 잘 전달하기 때문입니다.
예전에는 상당한 노력이 필요했던 일들을 우리는 새로운 방식으로 하면서 시간을 보내고 있는데, 이제는 신체적, 정신적 에너지를 거의 소모할 필요가 없습니다.
이 모든 것이 주머니에 있는 휴대전화에서 가능합니다.
이별의 말로 말하자면, 저는 정말 많은 말을 하지 않습니다. 우리 중 누구도 나가서 이걸 멈출 수 없습니다. 기술은 존재하게 되고, 군중을 헤치고, 다른 기술로 대체될 때까지 살아갑니다. 하지만 항상 나아집니다.
지구상의 모든 국가의 정부가 내일 캐릭터 AI를 금지하더라도 결국 다른 것이 그 자리를 대신할 것입니다. 오픈소스 소프트웨어가 존재하며 캐릭터 AI나 이와 유사한 회사에서 부과하는 "검열" 없이 자체 솔루션을 구축하는 데 전념하는 커뮤니티가 있습니다.
프랭크 허버트의 듄은 버틀러리안 지하드 라는 사건에 대해 언급했는데, 이는 인간이 지능형 기계에 반기를 들고 대규모 저항 행위를 통해 기계를 완전히 제거한 사건이었다.
영감을 주고, 그 어느 때보다 더 예지력이 있다고 주장할 수 있지만, Butlerian Jihad와 같은 일은 절대 일어날 수 없습니다. 만약 정말로 인공 초지능이 존재했다면, 이런 일이 그냥 추방되어 판도라의 상자로 다시 던져질 수 있다고 믿기 어렵습니다.
LLM과 같은 기술에 세상이 등을 돌리는 것은 상상하기 어렵습니다. 특히 이러한 기술이 (어쩌면) 실제로 세상을 바꿀 수 있다는 점을 고려하면 더욱 그렇습니다.
실망스러운 결론일 수 있다는 걸 알고 있습니다. 하지만 이건 어려운 주제이고, 정말 간단한 답으로 이어지는 주제는 아닙니다. 제가 링크한 이전 게시물 중 일부는 사회에 대한 어려운 질문을 제안하고 독자에게 스스로 답을 찾거나 이 새로운 지식으로 그냥 존재하도록 합니다.
11월에 처음 작업을 시작한 후 이 글을 다시 쓰게 된 계기는 SwiftOnSecurity가 게시한 바이럴 트윗 에서 영감을 얻었습니다. 이 주제에 대한 인식을 널리 알려주셔서 감사합니다.
그리고 여기까지 또는 이 글을 조금이라도 읽어주신 모든 분들께 감사드립니다. 올해는 제 전문 분야를 벗어난 주제에 대해 더 많이 쓸 수 있기를 바라며, 이 글이 블로그의 새로운 장을 여는 강력한 시작처럼 느껴집니다.
