6월 17일, OpenAI의 CEO인 샘 알트먼은 처음으로 ChatGPT 쿼리의 구체적인 에너지 소비 데이터를 공개했습니다.
그는 블로그 게시물에서 ChatGPT가 쿼리당 평균 0.34와트시(0.00034킬로와트시)의 전기와 약 0.000085갤런의 물을 소비한다고 밝혔습니다. 이는 2분간 CFL 전구를 소모하는 전력이나 약 1/15티스푼의 물에 해당합니다.
인공지능 산업을 선도하는 기업인 OpenAI가 에너지 소비 데이터를 공개한 것은 상징적인 의미를 지닙니다. 이는 AI 기술이 환경에 미치는 영향을 평가하는 데 중요한 참고 자료를 제공하고 업계의 뜨거운 논쟁을 촉발했습니다. 본 글에서는 이 데이터를 분석하고 긍정적 측면과 부정적 관점 모두 제시합니다.
0.34와트시 데이터는 신뢰할 수 있나요?
이 데이터를 뒷받침하는 주요 근거는 제3자 연구의 상호 확인에서 나옵니다.
1) 독립적인 연구 데이터는 일관성이 있습니다.
이 데이터의 신뢰성은 제3자 연구 결과와의 높은 일관성에서 가장 먼저 드러납니다. 유명 연구 기관인 Epoch.AI는 2025년 보고서를 발표했는데, GPT-4o 단일 쿼리의 에너지 소비량이 약 0.0003kWh라는 결과를 보였습니다. 이는 OpenAI가 발표한 데이터와 거의 일치합니다.
Epoch.AI의 계산은 다음과 같은 가정에 기반합니다. OpenAI 모델은 "전문가 하이브리드" 아키텍처를 사용하고, 1,000억 개의 활성 매개변수를 사용하며, 일반적인 응답 출력은 500개의 토큰입니다. 그러나 이 연구에는 두 가지 한계가 있습니다. 첫째, GPU 서버의 직접적인 에너지 소비량만 계산하며, 둘째, 데이터 센터에서 일반적으로 사용되는 PUE 에너지 효율 평가 지수를 포함하지 않습니다.
또한 2025년에 Nidhal Jegham이 이끄는 학술 팀은 더욱 자세한 데이터를 얻었습니다. GPT-4.1 nano는 단일 쿼리에 대해 0.000454kWh를 소비했고, 추론 모델 o3의 전력 소비는 0.0039kWh로 증가했으며, 긴 텍스트 작업(약 7,000단어 입력 + 1,000단어 출력)을 처리하는 GPT-4.5의 에너지 소비는 0.03kWh에 도달했습니다.
다양한 당사자의 독립적인 연구 데이터를 종합해 보면, 적어도 모델 추론 단계에서는 OpenAI가 발표한 에너지 소비 값이 합리적인 범위 내에 있다는 것을 알 수 있습니다.
2) 하드웨어 레벨에서의 데이터 합리성 분석
업계 보고서에 따르면 ChatGPT의 일일 평균 쿼리량은 10억 건입니다. 쿼리당 0.34와트시(Wh)로 계산하면 일일 총 에너지 소비량은 약 340메가와트시(MWh)입니다. 이를 바탕으로 기술 전문가들은 OpenAI가 Nvidia DGX A100 칩이 장착된 3,200대의 서버로 구성된 서버 클러스터를 구축해야 할 수도 있다고 추정했습니다. 이는 각 서버가 초당 4.5개의 쿼리를 처리해야 한다는 것을 의미합니다.
OpenAI의 표준 변환에 따르면, 각 요청은 평균 500개의 토큰, 즉 약 375개의 단어를 생성하며, 단일 서버는 초당 2,250개의 토큰을 생성해야 합니다. 이것이 현실적인가요?
2024년 요반 스토이코비치(Jovan Stojkovic)와 다른 학자들이 수행한 실험에 따르면, H100 GPU 칩 8개가 장착된 서버에서 Llama-2-70B 모델을 실행했을 때 토큰 생성 속도는 초당 6,000개에 달할 수 있었습니다. 그러나 제람(Jerram)의 팀이 2025년에 여러 OpenAI 모델을 테스트했을 때 관측된 생성 속도는 초당 75~200개에 불과했습니다(구체적인 테스트 조건은 명시되지 않았습니다).
전반적으로 3,200대의 서버가 매일 10억 건의 쿼리를 지원한다는 이론적 모델은 논란의 여지가 있지만, 그 가능성을 완전히 부정할 수는 없습니다.
일부 전문가들은 왜 회의적일까?
뒷받침하는 증거에도 불구하고 많은 전문가는 OpenAI가 공개한 에너지 소비 데이터에 대해 의구심을 갖고 있으며, 주된 의구심은 다음과 같은 측면에 집중되어 있습니다.
1) OpenAI의 수치는 다른 구성요소의 에너지 소비를 무시할 수 있습니다.
이 수치는 GPU 서버 자체의 에너지 소비량만을 다루는 것일 뿐, 데이터 저장소, 냉각 시스템, 네트워크 장비, 방화벽, 전력 변환 손실, 백업 시스템 등 다른 인프라의 에너지 소비량은 고려하지 않은 것입니다.
이는 기술 기업의 에너지 소비 보고서에서 흔히 볼 수 있는 현상입니다. 예를 들어, Meta에서 발표하는 에너지 소비 데이터에도 유사한 한계가 있습니다. 그러나 실제 데이터 센터 운영에서 GPU 에너지 소비는 전체 에너지 소비의 일부만을 차지하는 경우가 많습니다.
2) OpenAI의 서버 에너지 소비량 추정치는 낮은 것으로 나타났습니다.
환경 운영을 옹호하는 마크 부처를 비롯한 많은 논평가들은 3,200대의 GPU 서버로는 모든 ChatGPT 사용자의 쿼리를 지원하기에 충분하지 않다고 주장합니다. 특히 글로벌 사용자 규모, 높은 가용성, 프로그래밍이나 이미지 분석과 같은 복잡한 애플리케이션을 고려하면 더욱 그렇습니다.
동시에, 제3자 연구 보고서는 OpenAI가 추론을 위해 실제로 배치한 GPU의 수가 수만 개에서 수십만 개에 달할 수 있다고 지적했습니다. 만약 이 데이터가 사실이라면, 실제 에너지 소비량은 광고된 쿼리당 0.34와트시보다 훨씬 높을 것입니다.
3) 주요 매개변수의 불완전한 공개
데이비드 미튼을 비롯한 비평가들은 OpenAI의 발표에 필요한 맥락이 부족하다고 지적했습니다. 예를 들어 다음과 같습니다.
"평균적인 질문"이란 정확히 무슨 뜻인가요? 단일 질문인가요, 아니면 전체 대화인가요?
이 데이터는 특정 모델(예: GPT-3.5 또는 GPT-4)에 대한 데이터만인가요, 아니면 여러 모델에 대한 평균인가요?
이 데이터에는 다중 모드 입력(예: PDF 파일 분석이나 이미지 생성)과 같은 새롭고 더 복잡한 작업이 포함되어 있습니까?
물 사용량은 서버를 냉각하는 데 직접 사용되는 것인가요, 아니면 전기 생산 과정에서 간접적으로 사용되는 것인가요?
탄소 배출량 데이터가 제공되지 않는 이유는 무엇인가요? 이는 지역과 에너지 구성에 따라 다릅니다.
이러한 핵심 정보가 없으면 데이터의 신뢰성을 판단하기 어렵고, 다른 AI 시스템의 에너지 소비량과 효과적인 수평적 비교를 하는 것도 불가능합니다.
거대 기술 기업들이 마침내 대중의 요구에 부응하고 있을까?
OpenAI가 에너지 소비 데이터를 공개한 시기는 Nvidia의 GPU 전체 수명 주기 탄소 배출 보고서와 Google의 TPU 하드웨어 환경 평가 보고서 발표 시기와 일치합니다.
이는 거대 기술 기업들이 마침내 사회의 투명성 요구에 부응하고 있다는 것을 의미할까요? 우리는 새로운 시대의 서막을 목격하고 있는 걸까요? 아니면 알트만은 그저 수사적인 표현을 쓰고 있는 걸까요? 결국 기후 영향을 축소하는 것이 그들의 사업적 이익에 부합하기 때문입니다.
추론 에너지 소비 대 훈련 에너지 소비: 무시된 장기적 영향
AI 에너지 소비에 대한 논의는 종종 모델 학습 단계에 집중됩니다. 학습 단계의 에너지 소비량은 실제로 엄청나지만, 장기적으로는 수십억 개의 쿼리(즉, 추론 단계)를 처리하는 데 드는 총 에너지 소비량이 학습 단계의 에너지 소비량을 훨씬 초과할 수 있습니다.
GPT-4 훈련에는 약 5천만~6천만 킬로와트시의 전력이 소모되는 것으로 추산됩니다. 각 쿼리가 0.34와트시를 소모하고 하루 평균 10억 건의 쿼리를 처리한다고 가정하면, 추론 단계의 총 에너지 소비량이 훈련 단계의 총 에너지 소비량을 초과하는 데 150~200일밖에 걸리지 않습니다.
이는 추론 단계의 에너지 소비에도 주목할 가치가 있으며 자세한 측정이 필요하다는 것을 의미합니다.
결론: 또 다른 "녹색 연막탄"인가?
OpenAI의 에너지 소비 논란이 새삼스러운 일이 아니라고 사람들이 생각했던 바로 그때, 폐쇄적인 기업으로 악명 높았던 이 회사가 갑자기 자사 데이터를 공개했습니다. 많은 사람들이 제품 에너지 소비에 대한 OpenAI의 개방적인 태도를 환영했고, 이것이 거대 기술 기업들이 자원 소비와 기후 영향을 공개적으로 공개하는 전환점이 되기를 기대했습니다.
그러나 의심의 목소리도 있는데, 이는 해당 데이터가 블로그 게시물의 부산물에 불과하고 기사의 주제와 전혀 관련이 없으며 충분한 배경 정보가 없기 때문에 정당한 주장입니다.
OpenAI가 더 자세한 데이터를 제공하기 전에, 0.34와트시라는 숫자는 신중하게 살펴봐야 합니다. 이는 새로운 시대의 시작점일 수도 있고, 아니면 단지 신중하게 설계된 또 다른 "녹색 연막탄"일 수도 있습니다.
본 기사는 "텐센트 테크놀로지" 에서 발췌하였으며, 저자는 진루이고, 36Kr에서 출판 허가를 받았습니다.
