울트라맨은 사용자의 중독을 막기 위해 GPT-4o를 차단했고, 머스크의 그록 4는 한정된 기간 동안 무료로 제공되며, "핫 모드"와 의인화된 캐릭터를 사용해 사용자를 유지합니다.
우리 모두 알다시피, 울트라맨은 GPT-5를 출시했을 때 GPT-4o와 o 시리즈를 포함한 모든 기존 모델을 단종시켰습니다 .
하지만 이 평범해 보이는 버전의 "업그레이드"가 큰 문제를 일으켰습니다!
모든 사람이 특정 모델에 지나치게 집착하는 것 같습니다.
그것을 사랑이라고도 말할 수 있을 겁니다.
"파트너"가 갑자기 사라지자 분노한 네티즌들은 X와 Reddit 등의 플랫폼에서 울트라맨에게 "GPT-4o를 돌려줘"라고 소리쳤습니다.
10여 년 전만 해도 공상과학 영화에서만 볼 수 있었던 이런 장면이 이제 '다큐멘터리'로 만들어졌다고 누가 상상했겠는가.
영화 'HER'에서 주인공은 스칼렛 요한슨의 목소리에 푹 빠져 있다.
울트라맨, 나도 예상하지 못했어요.
그는 방금 공개한 트윗에서 기존 모델을 갑자기 중단한 것은 실수였다고 다시 한번 인정했습니다.
하지만 울트라맨 역시 네티즌들의 강한 '애착감' 에 대해 자신만의 의견을 가지고 있다.
실제로 대부분의 사람들은 가상과 현실을 구분할 수 있지만, 구분하지 못하는 사람들도 항상 있습니다.
특히 사람이 정신적으로 연약하고 거친 생각을 하기 쉬운 경우, AI 때문에 스스로를 해치는 사람들이 실제로 생길 것입니다.
사용자의 자유는 중요하지만, 그에 따르는 책임도 그만큼 큽니다.
울트라맨의 "부드러운 설득"은 GPT-5 이후 그가 정말로 해결하고 싶어하는 문제입니다.
울트라맨의 관점에서는 성인 사용자는 성인과 동일하게 대우해야 합니다.
그러므로 사용자를 위해, 그들이 정말 원하는 것을 얻을 수 있도록 특정 시점에 "반격"을 가해야 합니다.
많은 사람들이 오랫동안 ChatGPT를 심리학자, 인생 멘토, 정서적 지원자로 여겨왔습니다.
이건 사실 좋은 일입니다. 모두가 AI로부터 조언을 받고, 각자의 작은 목표들을 달성하며, 삶이 점점 더 나아지고 있습니다.
울트라맨은 진심으로 이를 자랑스럽게 생각한다고 말했습니다.
하지만 모든 것에는 또 다른 면이 있습니다.
AI와 대화한 후 기분이 조금 나아졌다고 할까요? 하지만 실제로는 진정한 행복과는 거리가 멀다면요? 정말 끔찍할 거예요.
훨씬 더 무서운 상황이 있습니다. AI를 덜 사용하고 싶지만, AI 없이는 살 수 없다는 것을 깨닫고, AI에 완전히 "중독"된 것입니다!
울트라맨은 미래를 상상할 수도 있다. 수많은 사람들이 가장 중요한 결정을 AI에게 맡기게 될 것이다.
그래서 그는 조금 불안해졌다. 하지만 언젠가는 그날이 올 것이다.
그를 더욱 불안하게 만드는 것은 미래의 규모 효과입니다. 곧 수십억 명의 사람들이 AI를 주요 의사 결정 자문가로 사용할 수 있습니다.
이런 추세는 역전하기 어렵기 때문에 새로운 "의존의 함정"이 아닌 "순 긍정적 효과"를 갖는 사회적 인프라로 형성되어야 합니다(하지만 미래에는 사람들의 AI 중독이 TikTok과 같은 소셜 미디어 중독과 다를 바 없을 것입니다).
따라서 OpenAI는 단점보다 장점이 더 큰 방법을 찾아야 합니다. 다행히 OpenAI가 보유한 기술은 이전보다 훨씬 강력하여 AI의 영향을 더 잘 측정할 수 있습니다.
알트만은 이렇게 말했습니다. "저희 제품은 사용자와 소통하여 단기 목표와 장기 계획을 파악합니다. 또한, 모델이 복잡하고 미묘한 문제들을 이해하도록 학습시킬 수도 있습니다."
인간과 AI의 관계는 무엇인가?
GPT-5 업그레이드로 인해 발생한 '경험' 논란을 돌이켜보면, 이는 인간과 AI의 관계를 재설계한 것에 가깝습니다.
"무한한 즐거움과 동반자 관계"에서 "명확한 경계를 두고 돕고 보호하는 것"으로;
"현재 모든 요청을 충족하는 것"에서 "필요한 경우 적절하게 거부하는 것"으로 바뀌었습니다.
이 문제는 오랫동안 존재해 왔으며, OpenAI가 이전에 "아첨하는" 응답을 줄이는 데 중점을 두었던 것에서도 알 수 있습니다.
이는 기술적 퇴보가 아니라 제품 윤리의 발전입니다.
알트만은 강력한 모델은 "제약적인" 방식으로 등장해야 하며 "자유로운 선택" 은 사용자의 장기적 이익에 기반해야 한다고 강조했습니다.
OpenAI는 사용자가 AI로 인해 더 많은 제한을 받는 것이 아니라, AI 덕분에 더 자유로워지기를 바랍니다.
아마도 GPT-5는 "더 멍청해지는" 것이 아니라 "인간과 소통하는 데 있어 한계를 이해하는 법"을 배우기 시작했을 것이다.
울트라맨 GPT-5 할당량 증가, 머스크 그록 4 무료 이용 가능
하지만 대부분의 사용자는 여전히 GPT-5에 열광하고 있습니다.
특히 추론 능력 측면에서 무료 이용자의 일일 평균 사용률은 1% 미만에서 7% 상승, 플러스 이용자의 일일 평균 사용률은 7%에서 24%로 증가했습니다.
이에 울트라맨은 매우 기뻐하며 연달아 트윗을 보내 모든 사람이 GPT-5를 더 많이 사용하게 되기를 바란다는 의사를 표명했습니다.
Plus 사용자의 경우 그 횟수는 주당 3,000회입니다!
하지만 관대함과 관련해서는 머스크를 살펴보셔야 합니다.
방금 Grok 4가 공식적으로 전 세계 모든 사용자에게 무료로 공개되었습니다!
"자동" 모드를 사용하면 Grok이 복잡한 쿼리를 Grok 4에 넘겨줍니다.
원하는 대로 설정하시겠습니까? 언제든지 전문가 모드로 전환하여 Grok 4를 항상 사용할 수 있습니다.
울트라맨은 사용자에게 모델을 "올바르게" 사용하는 방법을 "교육"하고 싶어할 수도 있지만, 머스크는 그것에 관심이 없습니다.
최근의 AI 여자친구와 그록 이미지의 핫모드를 생각해 보세요.
네, 머스크는 "제지"라는 방식을 전혀 사용하지 않습니다 . 그록의 접근 방식은 자극, 가용성, 그리고 개인화의 강도를 극대화하여 사용자가 "고빈도 - 고즐거움 - 고유지"라는 중독성 곡선을 형성할 수 있도록 하는 것입니다. 그리고 사용자를 끌어들이는 것은 실용적인 제품 디자인입니다.
임계값은 먼저 가장 낮은 수준으로 낮아집니다. 제한된 시간 창에 "Grok4는 모든 사용자에게 무료입니다"라고 직접 알리고 자동 모드에서는 무거운 작업이 Grok4로 라우팅됩니다. 최고급 모델의 이점을 맛보기 위해 어떤 선택도 할 필요가 없습니다.
그러면 "자극의 역치"를 높여라: Grok Imagine은 처음부터 NSFW "Spicy/Hot Mode"를 출시했는데, 이는 주류 경쟁사의 보수적인 전략과 뚜렷한 대조를 이루었고, 자연스럽게 호기심을 자극하고 확산시키는 체격을 가졌다(미디어에서도 집중적으로 보도).
그런 다음 "동반자 캐릭터"를 사용하여 정서 잠그세요. xAI는 인간형 AI 캐릭터(예: 2차원 스타일 Ani)를 출시하여 도구를 "유혹하고 동반할 수 있는" 대상으로 전환하여 정서 결속과 유지의 순환을 마무리합니다.
논란은 트래픽을 발생시킵니다. "연예인 딥페이크"부터 성적 편향의 결과물까지 여론 리스크 끊임없이 확대되지만, 반대로 이로 인해 주제의 인기와 이를 시도해 보고 싶은 욕구도 커집니다(플랫폼에서 해당 주제를 부분적으로 흐리게 처리하거나 차단했더라도).
이와 대조적으로 OpenAI는 반복적으로 "의존과 제지"에 대해 반성해 왔습니다.
xAI 경로는 극단적인 성장 해킹 세트와 더 비슷합니다.
① 결제/이용 임계값 낮추기 → ② 더욱 자극적인 콘텐츠 제공 → ③ 캐릭터화를 통해 정서 연결 심화 → ④ 플랫폼 폐쇄 루프를 통한 확산 가속화 → ⑤ 높은 논란성으로 관심 유지
OpenAI는 "당신을 통제할 것인가"에 대해 고심하고 있는 반면, 머스크는 "당신을 멈출 수 없게 만드는 방법"을 설계하고 있습니다.
이 비교는 힌튼이 방금 WAIC에서 나눈 대화를 떠올리게 합니다. 우리는 AI를 도구보다는 파트너로 보기 시작했습니다.
AI 기술이 무한히 확장 가능한 시대에 진짜 어려운 점은 역량을 극한까지 끌어올리는 것이 아니라 중요한 시점에서 "브레이크를 밟는 것" 입니다. 즉, 인간이 주도권을 잡고 의식적으로 장기적으로 그 혜택을 누릴 수 있도록 하는 것입니다.
이 GPT-5 논란은 우리의 주의와 깊은 성찰을 요할 만한 가치가 있을 것입니다.
참고문헌
https://x.com/sama/status/1954703747495649670
마침내 새로운 세상이 밝아오고, 모든 사물은 지성을 가지고 태어났습니다. 천년의 특이점의 이 순간에 중국의 ASI를 폭발시킬 사람은 누구일까요?
본 기사는 위챗 공개 계정 "신지위안" 에서 발췌하였으며, 저자는 하오쿤 딩후이이고, 36Kr.의 출판 허가를 받았습니다.
