학계에서 가장 신랄한 비판 중 하나는 다음과 같습니다.
이 작품은 혁신적이면서도 훌륭합니다.
아쉽게도 좋은 부분은 참신하지 않고, 참신한 부분은 좋지 않다.
하지만 강화 학습의 창시자 중 한 명이자 교과서 "강화 학습"의 저자이며 튜링상 수상자인 리처드 서튼은 이 농담을 생성형 인공지능 분야 전체를 겨냥한 것이었습니다.
그는 "이러한 평가는 오늘날 우리가 알고 있는 대부분의 인공지능에 적용된다"고 말했다.
AI: 좋은 부분은 참신하지 않고, 참신한 부분은 좋지 않다.
서튼의 핵심 주장은 극도로 간결해서, 거의 잔인할 정도다.
생성형 인공지능은 본질적으로 지도 학습입니다.
지도 학습의 논리는 모델에게 사람이 만든 대량 샘플을 보여줌으로써 모델이 이를 모방하는 법을 학습하도록 하는 것입니다.
모방이 정확할수록 점수가 높아집니다.
문제는 바로 이것입니다.
모델이 훈련 데이터에 따라 콘텐츠를 생성할 때, 결과물의 품질은 높습니다. 왜냐하면 인간이 이미 검증한 것들을 재현하기 때문입니다. 하지만 이것은 새로운 것이 아닙니다. 단지 인간이 이미 알고 있는 것들을 다양한 순열과 조합으로 재구성한 것일 뿐입니다.
모델이 훈련 데이터에서 벗어나 완전히 새로운 콘텐츠를 생성하려고 할 때 품질이 저하됩니다. 이는 모델에 "이 새로운 것이 좋은지 나쁜지"를 판단하는 내부 메커니즘이 없기 때문입니다. 모델은 단순히 생성할 뿐, 평가하지 않습니다.
이것이 바로 구조적 모순입니다.
순수 지도 학습의 프레임 안에서 참신성과 품질은 시소의 양 끝과 같습니다.
한쪽 끝을 누르면 다른 쪽 끝이 튀어 오릅니다.
이건 엔지니어링 문제가 아닙니다. 단순히 데이터를 더하거나, 모델의 규모를 확장하거나, GPU를 추가하는 것만으로는 해결할 수 없습니다.
서튼은 다소 거슬리는 비유를 사용했는데, 대형 모델의 가장 큰 결점으로 지적되는 "환상"은 본질적으로 모델이 "새로움"을 추구하려는 시도의 부산물이라는 것이다.
우리가 환상을 싫어한다는 사실은 한 가지를 증명합니다. 우리는 실제로 새로움을 필요로 하지 않는다는 것입니다. 우리는 단지 질 좋은 모방품을 원할 뿐입니다.
"좋은 것은 독창적이지 않고, 독창적인 것은 좋지 않다."
그 농담에 담긴 평론가의 신랄한 논평은 사실 생성형 인공지능의 본질적인 한계를 정확하게 묘사한 것이었다.
진정한 "발견"에는 세 가지 장비가 필요합니다.
서튼은 기본 원칙부터 시작하여 창의성의 "삼위일체 공식"을 해체했습니다.
진정한 발견은 변이 + 평가 + 선택적 보존으로 이루어진다.
진정한 창의성과 발견에는 세 가지 단계가 필요하며, 이 중 어느 단계도 생략할 수 없습니다.
1. 변이는 다양성의 가능성을 만들어냅니다. 변이는 무작위적일 수도 있고, 기존 지식에 기반할 수도 있지만, 진정한 불확실성이 존재해야 합니다. 그렇지 않으면 탐구가 아니라 단순히 표를 찾아보는 것에 불과합니다.
2. 평가: 어떤 변형이 가치 있는지 판단합니다. 이를 위해서는 "좋은" 변형과 "나쁜" 변형을 구분할 수 있는 명확한 목표 또는 기준이 필요합니다.
3. 선택적 기억은 가치 있는 변이들을 보존하여 미래의 행동과 학습에 영향을 미칠 수 있도록 합니다.
이 세 단계는 서튼이 고안한 것이 아닙니다. 그것은 자연 선택의 논리, 과학적 방법의 논리, 그리고 인간 학습의 논리입니다.
진화론: 무작위 유전자 돌연변이(변이) → 환경 선택(평가) → 적자생존(선택적 유지).
과학적 방법: 가설 설정(변환) → 실험적 검증(평가) → 논문 발표(선별적 보존).
인간의 학습은 다양한 해결책을 시도하는 과정(변이) → 정확성을 검증하는 과정(평가) → 효과적인 방법을 암기하는 과정(선택적 기억)으로 이루어진다.
현재 생성형 AI는 세 가지 접근 방식 중 첫 번째 단계만 완료한 상태입니다. 평가는 물론이고 선택적 보존조차 거의 이루어지지 않고 있습니다.
마치 눈을 가린 채 과녁을 보지도 않고, 활을 쏜 후 자세를 교정하지도 않고 무작위로 화살을 쏘는 궁수와 같습니다.
만 개의 화살을 쏘라고 시켜도 가끔 과녁을 맞힐 수는 있겠지만, 왜 맞혔는지 절대 알지 못할 겁니다.
그렇다면 과학자들은 여전히 쓸모가 있는 걸까요?
이쯤 되면 약간 불안해질 수도 있습니다. 만약 인공지능이 미래에 '발견'이라는 세 가지 과정을 자율적으로 완수할 수 있다면 과학자들은 일자리를 잃게 될까요?
서튼은 이렇게 답했습니다. " 그는 대체될 수 없지만, 그의 역할은 완전히 바뀌어야 합니다."
그는 연설에서 수학적 정리를 독립적으로 증명할 수 있는 인공지능조차도 어떤 문제가 중요한지 알려줄 인간이 필요하다고 말했습니다.
이는 겸손이 아니라, 우리 이해의 한계를 있는 그대로 반영하는 것입니다.
라이스 대학교의 최적화 분야 전문가인 수학자 마시첸 은 6년간 연구해 온 알고리즘 수렴 문제를 증명하기 위해 ChatGPT를 사용했다고 밝혔습니다.
요약문에 다음과 같은 문장이 있습니다.
해당 증명은 ChatGPT 5.5로 생성되었으며 작성자가 검증했습니다.
https://optimization-online.org/2026/05/convergence-of-bdrs-as-a-matrix-scaling-algorithm/
이 알고리즘은 Bregman-Douglas-Rachford Splitting의 약자인 BDRS라고 하며, 최적 수송 문제를 해결하는 데 사용됩니다.
논문 제목: 브레그먼 더글라스-래치포드 분할 방법
논문 초고는 다음 링크에서 확인할 수 있습니다: https://arxiv.org/abs/2509.08739
이것은 그와 공동 저자들이 직접 설계한 것입니다. 그를 6년 동안 괴롭혀 온 것은 바로 이 수렴성의 증명, 즉 "왜 이것이 옳은가"에 대한 가장 엄밀한 수학적 설명입니다.
논문 사전 공개 플랫폼인 arXiv는 해당 원고를 접수한 이후로 공개를 보류하고 있습니다.
그는 초록에 "ChatGPT"라는 단어가 포함되어 있었고, 플랫폼이 그러한 논문을 처리하는 방법을 알지 못했기 때문일 것이라고 추측했습니다.
하지만 인간을 인공지능으로 대체할 수 있을까요?
그의 대답은 "아니요"였습니다. 그는 단도직입적으로 말했습니다.
저는 인공지능이 그런 알고리즘을 창의적으로 만들어내고 "이것은 최적의 전송을 위한 효율적인 알고리즘입니다. 이제 이 알고리즘의 수렴성을 증명해 보겠습니다."라고 주장할 수 있다고 생각하지 않습니다.
인간의 지시 없이는 인공지능은 어떤 문제를 해결해야 할지 알 수 없습니다.
이 진술은 서튼의 주장과 정확히 일치합니다. 즉, 문제 자체는 인간에 의해 정의되어야 한다는 것입니다.
그가 "올바른 질문을 던지기"까지 6년이 걸렸다.
올바른 질문을 하려면 해당 주제에 대한 매우 깊은 이해가 필요합니다.
이 경우에는 제가 6년 동안 이 문제를 연구해 왔기 때문에 어려움이 어디에 있는지 정확히 알고 있습니다.
이 6년은 헛된 시간이 아니었습니다. 필수적인 전제 조건이었습니다.
그는 이 6년 동안 증명이 어디에서 막혔는지, 이전의 모든 접근 방식이 왜 실패했는지, ChatGPT가 제시한 방향 중 어떤 것이 추구할 가치가 있는지, 그리고 어떤 것이 환상에 불과했는지를 알게 되었습니다.
그리고 한 번의 상기시키는 것으로 끝난 게 아니라, 5개월이나 걸렸습니다. 이 부분이 가장 오해하기 쉬운 부분인데, 그 자신도 이전에는 오해했던 부분입니다.
1월부터 5월까지, 꼬박 5개월 동안 수많은 대화를 나누고 모든 단서를 종합한 결과, 우리는 그 증거에 한 걸음 더 가까워졌습니다.
그의 요약은 매우 명확했습니다.
연구의 본질은 변하지 않았습니다. 여전히 시행착오를 거치는 것이죠. 달라진 점은 시행착오를 거치는 속도입니다. 과거에는 방향을 검증하는 데 몇 주가 걸렸지만, 이제는 몇 분 만에 그 길이 실현 가능한지 알 수 있습니다.
하지만 인공지능의 공헌은 부인할 수 없습니다.
그리고 결말은 그것을 직접적으로 신적인 존재로 격상시킨다.
BDRS 수렴에 관한 제 논문으로 돌아가서 말씀드리자면, 저는 그 증명이 정확하다고 상당히 확신합니다.
하지만 혹시라도 오류를 발견하시면 제가 전적으로 책임지겠습니다 . ChatGPT를 탓하지는 말아 주세요. ChatGPT는 생긴 지 겨우 3년 반밖에 안 됐습니다.
이 진술의 탁월함은 그 이중성에 있다. 즉, 이는 진심 어린 책임 선언인 동시에 정확한 은유이다.
"3.5년차"라는 표현은 현재 인공지능의 현실을 잘 나타냅니다. 놀라운 능력을 갖추고 있지만 판단력은 아직 미성숙하다는 의미입니다.
어쨌든 인간은 3.5세 아이가 어떤 기여를 할 거라고는 기대해 본 적이 없다.
증명의 최종 서명 권한을 인공지능에게 넘겨줄 수는 없지만, 인공지능이 아무런 기여도 하지 않았다고 주장할 수도 없습니다.
이것이 바로 진정한 과학적 발견이 인간의 손에서 사라지지 않는 이유입니다.
대신, 인공지능은 인재 선발에 있어 더욱 냉혹해질 것입니다. 좋은 질문을 던질 수 있는 사람만이 강력한 인공지능을 가질 자격이 있습니다.
미래에는 컴퓨터가 없는 천문학자처럼 과학자들도 쓸모없어질 수 있으며, 인공지능이 없다면 과학자들의 역할은 더욱 줄어들 것이다.
마지막으로, 서튼의 다소 선언문과 같은 말을 다시 살펴보겠습니다.
인공지능 과학자들의 역량을 최대한 활용하려면 그들과 목표를 공유하고, 그들이 창조, 평가, 발견을 통해 목표 달성에 온전히 참여할 수 있도록 해야 합니다.
과감하게 나아가 봅시다! 창의성과 발견을 완전히 자동화해 봅시다!
참고 자료:
https://x.com/RichardSSutton/status/2061216087744946656
https://optimization-online.org/2026/05/convergence-of-bdrs-as-a-matrix-scaling-algorithm/
이 글은 위챗 공식 계정 "신지원(New Zhiyuan)" 에서 가져온 것으로, 작성자는 ASI Revelation, 편집자는 David이며, 36Kr의 허가를 받아 게재되었습니다.
