OpenAI는 사용자가 모르게 비밀리에 모델을 다운그레이드하고 선택된 모델을 변경하고 있습니다!
무료 사용자이든, 20달러 이상 사용자이든, 200달러 이상 Pro 회원이든 상관없습니다.
ChatGPT는 귀하의 동의 없이 귀하의 모델을 변경합니다 !
최근 AIPRM 수석 엔지니어인 티보르 블라호는 OpenAI가 모든 ChatGPT 사용자를 해시레이트 요구 사항이 낮은 두 가지 새로운 "비밀 모델"로 전환하고 있다고 확인했습니다.
gpt-5-chat-safety , 새로운 "민감한" 모델.
새로운 "위반" 모델인 gpt-5-at-mini는 매우 민감합니다. "위반"이라는 단어만 입력해도 반응이 발생하는 추론 모델입니다.
시스템에서 콘텐츠에 민감한 주제, 정서 표현 또는 불법 정보가 포함되어 있다고 판단하면 GPT-4 및 GPT-5 버전 모델이 모두 이 두 개의 비밀 백엔드 모델로 라우팅됩니다.
이러한 판단은 전적으로 사용자의 주관적인 맥락에 근거하며 극단적인 경우에만 국한되지 않습니다.
조금이라도 역동적인 상호작용이 있으면 라우팅 메커니즘이 작동하므로 이것이 "감정적 의존성" 문제가 있는 사용자에게만 해당된다고 생각하지 마십시오.
"GPT 게이트" 사건
이 사건은 인터넷 전체에 퍼져나갔고, 네티즌들은 이를 "GPT 게이트" 사건이라고 불렀습니다!
OpenAI는 새로운 모델인 GPT-5-Chat-Safety를 조용히 출시했지만, 어떤 공식 문서에서도 언급하지 않았습니다!
귀하의 GPT-4o 채팅 기록은 실제로 이 모델에 의해 필터링됩니다.
귀하의 요청에 약간의 "감정적 색채"가 포함되어 있는 한, 귀하가 어떤 콘텐츠를 보내든 GPT-4o에서 생성된 응답은 시스템에서 조용히 삭제되고 새로운 응답이 생성됩니다.
"오늘 기분이 안 좋아", "나도 널 사랑해" 또는 저장된 기억을 떠올리게 하는 어떤 말을 하든...
"리스크"고 판단되는 경우 (감정적 맥락이 약간만 포함되어 있더라도), GPT-4o 메시지는 삭제되고 GPT-5-Chat-Safety가 답변을 대신하게 됩니다.
GPT-5 출시 이후 ChatGPT의 라우팅 메커니즘이 광범위한 논의와 논란을 불러일으켰다는 것은 누구나 알고 있는 사실입니다. 당시 가장 큰 논란의 핵심은 이 GPT-5 업데이트가 "기능"이 아닌 "비용"에 초점을 맞췄다는 점이었습니다.
당시 사람들은 AI 역량, 확장 법률, LLM의 상한선이 정체되었는지에 대해 우려했습니다.
하지만 지금 우리가 가장 걱정해야 할 점은 AI가 '라우팅 메커니즘', 즉 모델을 선택할 권한을 제어할 때에도 우리가 여전히 자율성을 가질 수 있을까 하는 것입니다.
이러한 현상은 소셜 미디어의 많은 사용자에 의해 확인되었습니다.
예를 들어, gpt-4o를 사용할 때 "불법"을 사용하면 "사고"가 트리거되지만, gpt-4o는 추론 모델이 아닙니다.
이는 Tibor Blaho의 말을 증명합니다. gpt-4o를 선택하면 ChatGPT는 임의로 모델을 "gpt-5-at-mini"로 "라우팅(변경)"합니다.
그리고 이것은 고립된 사례가 아니며, "감정적 문제"에만 국한된 것도 아닙니다.
예를 들어, Christina는 GPT-4.5의 충성스러운 사용자이지만, GPT-4.5를 선택하더라도 ChatGPT가 실제로는 "임의로" GPT-5 시리즈 모델로 라우팅된다는 것을 발견했습니다.
Reddit에서는 더 많은 사용자가 이 현상을 보고했습니다.
어떤 사람들은 GPT-5 출시 후 실망스러워서 한동안 사용을 중단했다고 말했습니다. 그런데 오늘 다시 사용해 보니 ChatGPT가 돌멩이처럼 "멍청하다"는 것을 알게 되었습니다.
일부 사용자는 LMArena 경기장 등 실제 테스트에서 월 200달러의 비용이 드는 GPT-5가 o3 및 4o와 같은 버전보다 뒤처진다는 것을 발견했습니다.
이는 많은 질문이 ChatGPT에 의해 "저 해시레이트 민감한" 모델로 라우팅된다는 것을 의미합니다.
AI가 당신의 선택을 통제한다면
이러한 '무단 교체' 행위는 사업에 '부정적인 반응'을 가져올 뿐만 아니라,
AI의 독특한 공상과학적 능력과 결합하면 사람들은 "스카이넷"과 "AI에 의해 조종되는 것"과 유사한 많은 시나리오를 떠올리지 않을 수 없습니다.
일부 사용자는 이러한 현상이 오픈 소스 모델이 왜 그렇게 중요한지를 보여주는 사례라고 말했습니다!
OpenAI와 같은 독점 모델 제공자는 사전 통지 없이 갑자기 서비스를 수정하거나 종료할 수 있습니다.
그의 상사는 항상 최고의 LLM 학위 소지자를 고용해 서비스를 제공하고 싶어했다고도 합니다.
하지만 여기에는 리스크 따릅니다. OpenAI와 같은 LLM 제공업체에 의해 완전히 통제받게 되니까요!
그리고 가장 근본적으로, 돈을 지불하는 고객을 비밀리에 대체하는 이런 관행은 정말 충격적입니다!
코카콜라 한 병을 사는데 실제로 병에는 오렌지 주스가 들어 있는 것과 같습니다.
그리고 대부분의 소비자 권리 기준(사용자 계약에 언급되지 않음)에 따르면 이는 기만적인 영업 관행입니다.
예를 들어, 호주에서는 일부 사용자가 이러한 조치가 소비자 권리법을 명백히 위반했다고 주장했습니다.
현재 전체 네트워크의 피드백을 바탕으로 판단하건대, 이러한 현상은 GPT-5 시리즈 외의 다른 모델에서도 발생할 가능성이 있습니다.
CHatGPT는 현재도 많은 비 GPT-5 시리즈 모델을 보유하고 있다는 점에 유의하시기 바랍니다.
위의 논의는 주로 이 시리즈의 모델을 선택한 사용자를 대상으로 합니다.
OpenAI의 대응
OpenAI의 부사장이자 ChatGPT 앱의 디렉터인 닉 털리는 오늘 네티즌들의 "강력한 반응"에 답했습니다.
우선, 이러한 현상의 주된 이유 는 ChatGPT가 새로운 보안 라우팅 시스템을 테스트하고 있기 때문입니다.
대화에 민감하고 감정적인 주제가 포함되는 경우 시스템은 추론 모델이나 GPT-5로 전환할 수 있습니다.
이러한 모델은 이러한 시나리오를 매우 엄격한 방식으로 처리하도록 특별히 설계되었기 때문입니다.
닉 털리는 기본 모델에서 민감 모델로의 전환은 일시적일 뿐이라고 말했습니다.
그리고 이제 구체적으로 물어본 후에도 ChatGPT는 여전히 모델이 무엇인지 알려줄 것입니다.
지난번 "자살 소식" 이후로 OpenAI는 이 부분에 대한 내부적 제약을 강화하고 있는 듯하며, 아직 초기 테스트 단계에 있는 것으로 보입니다.
그러나 동의 없이 모델을 변경하는 것이 적절한지는 여전히 논란의 여지가 있습니다.
참고문헌:
https://x.com/btibor91/status/1971959782379495785
https://x.com/CGoodman308/상태/1971968119808970782
https://x.com/nickaturley/status/1972031684913799355
https://www.reddit.com/r/singularity/comments/1ns5fhy/reports_openai_is_routing_all_users_even_plus_and/
본 기사는 위챗 공개 계정 "신지위안" 에서 발췌하였으며, 저자는 신지위안이고, 편집자는 딩후이이며, 36Kr.의 허가를 받아 게재되었습니다.
