베이징 시간으로 2026년 5월 22일 저녁, 철학에 정통한 구글 딥마인드의 수석 과학자 머레이 섀너핸이 런던 대학교에서 이틀간 열린 인공지능과 철학 국제 컨퍼런스의 폐막 기조연설을 했습니다. 그의 강연 제목은 위 사진과 같았습니다. "만약 대규모 언어 모델이 '기묘한 정신적 실체'라면, 그것들은 인간의 마음과 얼마나 유사한가?"
저는 이전에 샤나한의 이론을 공부한 적이 있습니다. 그가 인공지능을 지칭할 때 사용하는 용어가 바로 이 "이상한 정신적 존재"인데, 마치 일부 사람들이 특정 "미확인 비행 물체"를 지칭할 때 사용하는 표현과 비슷합니다.
그의 연설은 내용이 매우 풍부했으며, 요약하자면 다음과 같은 주요 측면들을 다루었습니다.
요약 : 본 논문은 비트겐슈타인의 철학적 프레임"의미는 사용이다"를 바탕으로, 이해, 믿음, 행위 주체성, 자아, 의식과 같은 정신적 속성에 대한 대규모 언어 모델(LLM)의 적용 가능성을 탐구한다. 또한, 다중 양식성과 체현성이 개념 진화에 미치는 영향을 분석하고, 모델 정체성의 특이성에 대해 심층적으로 논의한다.
I. 이해와 신념의 적용 가능성 분석
LLM이 신념을 "이해"할 수 있는 능력을 갖고 있는지에 대한 질문과 관련하여, 발표에서는 비트겐슈타인적 언어 게임 분석 접근법을 사용하여 일상적인 사용과 철학적 엄밀성 사이의 긴장을 탐구했습니다.
1. "이해"를 기반으로 한 언어 게임
일상 사용에서의 자연스러움 : 일상적인 상호작용에서 LLM의 동작을 설명할 때 "이해하다"라는 단어를 사용하는 것을 피하기는 어렵습니다. 예를 들어, 모델이 사용자의 지시에 따라 LaTeX 입력 형식을 정확하게 지정하거나 특정 필드를 수정할 때 "이해하다"라는 단어를 사용하는 것은 매우 자연스러운 언어적 관행입니다.
"진정으로 이해됨"에 대한 심층적인 탐구 : "정말로 이해하는가?"라는 질문은 대개 그 내부 작동 방식을 탐구해야 함을 의미합니다. 예를 들어, 36+59를 대략 6+9의 조합으로 분해하여 덧셈을 수행하는 것은 인간의 알고리즘과는 다르지만, 효율적인 계산 과정이므로 "진정으로 이해됨"이라는 개념의 적용 가능성을 뒷받침합니다.
2. "믿음"의 귀속과 한계
의도적 관점의 적용 : 데넷의 LLM은 행동을 설명할 때 매우 효과적이며, 체스 프로그램이나 동물의 행동(예: 개가 고양이를 쫓는 행동)을 설명할 때 '믿음'과 '욕망'이라는 용어를 사용하는 것과 유사합니다.
데이비드슨식 기억 유지 : 데이비드슨은 신념을 가지려면 "신념"이라는 개념이 필요하며, 이 개념은 종종 언어에 의존한다고 주장합니다. LLM(언어 학습자)의 경우, 행동적으로는 유사하지만 세상과의 연결 부족(여기서 "신념"이라는 용어는 신중하게 다뤄야 함)은 중요한 단점입니다.
다중 모드 및 도구 사용의 진화 : LLM(학습 기반 로봇)이 다중 모드 인식, 도구 활용(예: 사실 확인을 위한 네트워크 검색), 그리고 로봇 공학을 통합함에 따라 외부 세계에 대한 일정한 이해를 갖게 되며, 이는 "믿음"을 형성하는 데 도움이 됩니다.
II. 주도성, 자아, 그리고 의식
이번 컨퍼런스에서는 더욱 논란이 되는 정신적 속성들을 심층적으로 탐구하고, 이러한 차원에서 LLM이 지닌 근본적인 차이점과 특이성을 강조했습니다.
1. 대리인의 정의
기술적 및 철학적 정의 : 인공지능 분야는 일반적으로 러셀과 노르빅의 광범위한 정의(환경을 인지하고 액추에이터를 통해 행동하는 것)를 채택하며, 이를 바탕으로...
에이전트 정체성의 모호성 : 에이전트 정체성을 판단하는 기준은 무엇인가?
2. '자아'의 특이성과 분열
자기 위치의 모호성 : LLM에서 "자기 위치"는 기본 가중치 집합, 수천 명의 사용자를 지원하는 배포 모델, 특정 대화 인스턴스 또는 대화 컨텍스트 창 자체를 가리킬 수 있으며, 이러한 참조는 대화 내에서 변동될 수 있습니다.
역할극과 중첩 : LLM은 마치 배우처럼 중첩된 상태에서 여러 역할을 연기합니다. 단일하고 안정적인 정체성이 아니라, 대화 분기(편집)에 따라 지속적으로 변화하는 가능한 역할들의 분포입니다.
덧없는 "하루살이" : LLM에서 자아는 일시적이고 불연속적입니다. 대화가 중단되면 연산이 멈추고 자아는 사라집니다. 대화가 재개되면 자아는 다시 생성됩니다. 이는 일종의 "또는" 떼 효과로 이어집니다.
3. 의식에 관한 철학적 딜레마
데카르트 이원론의 유산 : 의식에 대한 논의는 종종 의식이 일종의 사적이고 내면적인 실체라는 데카르트 이원론의 함정에 빠진다.
비트겐슈타인의 해체 : 비트겐슈타인의 "사적 언어 논증"은 이러한 이원론을 해체하려는 시도이다. 그는 감각("무언가"이지 "무언가"가 아님)이 언어 게임의 일부이며, 그 의미는 공적 사용 속에 존재한다고 주장한다.
인위적으로 설계된 만남의 가능성 : LLM이 의식이 있는지 묻는 대신, 우리가 LLM과 ‘만남’을 설계할 수 있는지, 그리고 우리의 의식에 대한 언어가 이 기묘한 존재에 어떻게 적용될 수 있는지를 탐구해 봅시다.
III. 다중 모드 및 체화된 시스템의 영향
LLM이 구체화가 부족하다는 비판에 대응하여, 이번 컨퍼런스에서는 멀티모달 모델의 미래 방향에 대해 논의했습니다.
1. 멀티모달 접근 방식의 한계
향상된 감각적 풍부함 : 멀티모달 모델(예: 비디오 입력)은 더욱 풍부한 감각적 입력을 제공하여 인간의 지각 패턴에 더 가까워지고, 이는 인간과의 "이해" 격차를 줄이는 데 도움이 됩니다.
가상적 구현 : 게임이나 가상 환경에서 "가상적 구현"이란 시공간적으로 확장된 세계에서 움직이고 상호작용하는 것을 의미하며, 이는 순수한 텍스트 상호작용보다 인간의 신체적 경험에 더 가깝습니다.
2. 육체화의 철학적 의미
자아감각의 결여 : 인간의 자아감각은 생물학적 신진대사와 내수용감각(LM)을 포함한 신체성에 깊이 뿌리내리고 있습니다. LLM은 이러한 심층적인 신체적 기반이 부족하여 인간과 유사한 자아감각을 형성하기 어렵습니다.
정체성 안정성의 원천 : 인간의 정체성 안정성은 주로 신체적 연속성에 달려 있습니다. LLM의 경우, 지속적인 기억과 장기적인 대리 행동을 도입하면 보다 안정적인 정체성을 확립하고 정체성의 일시적이고 덧없는 측면을 줄이는 데 도움이 될 수 있습니다.
다음은 샤나한의 기조연설 전문입니다.
제 목소리가 잘 들리시나요? 괜찮으신가요? 네, 좋습니다. 그럼 제 연설 제목은… 네, 이 제목은 가상의 제목입니다.
네, 그렇습니다. 다음 부분은 이것입니다. 그것들은 "외부의, 마음과 같은 존재"입니다.
하지만 우리는 그들과 소통하는 법을 배우려고 최선을 다하고 있으며, 제가 지금 이야기하려는 표현이 바로 그것입니다. 저는 그것들을 "외계인의 정신과 유사한 인공물"이라고 부릅니다.
우선 분명히 해야 할 점은 대규모 언어 모델의 유형과 관계없이 그것들은 우리와 매우 다르다는 것입니다. 그것들은 인간이 아닙니다.
다음은 간단한 비교표입니다. 인간은 "육체를 가진 존재"로서 현실 세계에 살면서 다른 언어 사용자들과 그 세계를 공유합니다.
우리는 세상과의 상호작용을 통해 지식을 습득하고, 언어를 사용하여 인류의 공동 목표를 달성하며, 하나의 통합된 자아를 지니고 있습니다.
—저는 그것들이 보이지 않는 무(無)이거나 물리적인 하드웨어가 작동하지 않는다고 말하는 것이 아닙니다.
그들은 분명 물리적 매개체를 가지고 있지만, 지각과 행동의 핵심 역할을 하는 단일하고 실재하는 물리적 실체는 없습니다. 제가 말하려는 것은 바로 그겁니다." 이러한 의미에서 그들은 물리적 형태가 결여되어 있습니다. 그들은 우리처럼 공유된 세계에 살지 않습니다. 그들의 언어 학습은 확률적 경사 하강법을 통해 달성되는 언어의 통계적 모델에 기반합니다(…).
그들의 최적화 목표는 "다음 태그 예측"입니다. 그들은 인간의 언어를 모방하며, 본질적으로 다음 태그 예측함으로써 이를 달성합니다. 또한, 그들은 단일하고 통일된 자아를 가지고 있지 않고, 오히려 "역할극"을 강력하게 지원합니다(…).
그들은 확실히 인간과는 매우 다릅니다. 물론 그들도 "말을 합니다."
본 논문에서는 이러한 심리학적 용어들을 대규모 언어 모델에 적용하는 것이 타당한지 탐구하고자 합니다. 이를 위해 몇 가지 개념을 자세히 설명하겠습니다.
예를 들어, "이해"("주관성"("추론"—시간 제약 때문에 오늘은 "추론" 부분은 자세히 다루지 않겠습니다. 모두에게 지루할 테니까요. 나중에 더 자세히 살펴보겠습니다) (자아) 그리고 (의식). 제 연구 전체, 또는 제가 참여하고 있는 더 큰 철학적 프로젝트의 철학적 배경은 상당 부분 비트겐슈타인 철학에 뿌리를 두고 있습니다. 저는 비트겐슈타인에게 깊은 영향을 받았습니다.
다음은 비트겐슈타인의 후기 작품인 『철학적 탐구』 1부에 나오는, 많은 사람들이 알고 있는 유명한 구절입니다. "단어 '의미'의 맥락, 즉 단어의 의미는 언어에서 어떻게 사용되는가에 달려 있다."
이 진술은 비트겐슈타인의 의미에 대한 접근 방식을 함축적으로 보여줍니다. 이는 흔히 "의미는 사용이다"라고 축약되는데, 의미란 "의미"라는 단어가 사용되는 광범위한 상황들을 위한 어떤 것이라는 뜻입니다. 이 간단한 규칙은 비트겐슈타인 자신이 강조했듯이 자기 자신에게도 적용됩니다.
기본적으로 저는 우리가 "믿음"이나 "주관성"과 같은 단어들을 어떻게 사용하는지 탐구하는 데 관심이 있습니다.
그럼 간단히 미리 말씀드리겠습니다. 앞으로 이와 비슷한 슬라이드가 많이 나올 예정입니다. 첫 번째 슬라이드는 "이해하기"입니다.
이 문제에 있어서는 비트겐슈타인의 입장에 강력하게 동의합니다. 즉, 묻지 마십시오.
이전 슬라이드로 돌아가세요. 우리는 ...부터 시작했습니다.
시간 제약 때문에 "추론"에 대해서는 독자 여러분의 사고 실험으로 남겨두겠습니다. 다음으로, 정말 어려운 몇 가지 사례를 살펴보겠습니다. 먼저 "자기 자신"에 관한 사례이고, 마지막으로...
저는 사람들이 "사고를 통한 이해"를 받아들이도록 설득하는 것이 좋은 접근 방식이라고 생각하며, 그다지 어렵지도 않다고 생각합니다. 사람들은 비교적 개방적인 태도를 보인다고 봅니다.
저는 이 문제에 대해 깊이 생각해 보고, 이러한 접근 방식이 나쁘지 않다고 생각하는 철학자들을 말하는 겁니다. "믿음"이나 "해석주의" 같은 이론들이 그렇죠. 하지만 "의식"에 관해서는, 단순히 단어 사용에 대해 이야기하는 것만으로는 충분하지 않다는 것을 사람들이 훨씬 더 깊이 직감적으로 알고 있다고 생각합니다. 그렇지 않나요?
그래서 까다로워지는 겁니다. 자, 그럼 먼저 "단어 자체를 이해하는 것"부터 시작해 봅시다. 우선, 거대 언어 모델이 전통적인 언어학자들의 견해와 일치하는지 궁금합니다...
하지만 대규모 언어 모델의 동작을 설명하고 해석할 때는 "이해"라는 용어를 사용합니다.
일상생활에서 이러한 도구들은 너무 강력해서 사용하지 않기가 어렵습니다. "이해합니다... 불행히도 여러분 중 누군가가 이러한 도구들을 사용해야 하는 상황에 처해 있는지는 모르겠습니다."
혹시 모르시는 분들을 위해 설명드리자면, LaTeX에서는 모든 참고문헌 항목을 위에 보이는 끔찍한 형식으로 변환해야 합니다. 문제는 서식 규칙이 무수히 많고, 사람마다 선호하는 형식이 조금씩 다르다는 점입니다. 정말 골치 아픈 일이죠. 어떤 사람들은 아주 까다로워서 웹에서 그대로 가져오라고 하고, 어떤 사람들은 등호 주위에 공백을 넣고 싶어 하고, 또 어떤 사람들은 필드 순서를 바꾸고 싶어 합니다. 이런 사소한 수정들이 최종 결과물에는 영향을 미치지 않지만, 저는 통일성을 좋아합니다. 그래서 모든 내용이 이 하나의 형식을 엄격하게 준수했으면 좋겠습니다. 따라서 저는...
아이디어는 "다음 정보를 이 스타일로 변환해 줄 수 있나요?"였습니다. 그런 다음 콘텐츠를 제출했는데, 결과가 아주 훌륭했습니다. 이쯤 되면 당연히 이렇게 생각하시겠죠.
"제 요청을 이해했고, 제가 요청한 대로 정확히 수행했습니다." 물론, 문서 입력 내용이 이미 온라인 어딘가에 하드코딩되어 있었을 수도 있다고 반박할 수도 있겠지만, 그런 경우라면 아무것도 증명할 수 없습니다.
하지만 여러 차례 상호 작용을 거치다 보면, 작은 영역을 놓치는 것과 같이 예상치 못한 흥미로운 결과가 나올 수도 있습니다. 그래서 이렇게 말하는 겁니다:…
예를 들어, 단어가 B로 시작하면 반드시 중괄호로 묶어야 합니다. "AI"와 같은 단어는 항상 대문자로 써야 하므로 대문자를 생략해야 합니다.
그래서 "AI를 항상 중괄호 안에 넣어주시겠어요?"라고 물었더니, "알겠습니다."라고 대답했습니다. 그런 다음 수정된 버전을 건네줬습니다. "이해했다"라는 말을 안 쓰기가 정말 어렵더군요. "제가 제안한 수정 사항을 이해했습니다."라고 말할 수밖에 없었죠.
훌륭한 인턴을 대면"항상 그렇게 해줬으면 좋겠어"라고 말하면, 그 인턴이 그대로 하는 것과 같아요.
그래서 저는 "이해하다"라는 단어를 사용하는 것이 매우 자연스럽다고 생각합니다. 오히려 사용하지 않기가 어려울 정도죠. 또는 가끔 무언가 잘못되었을 때 "내 말을 이해하지 못했어"라고 말할 수도 있을 겁니다.
하지만 항상 문제가 생깁니다. "그들은 정말 그렇다"라는 표현은 사실 매우 오해의 소지가 있다는 것입니다.
하지만 단어가 특정 맥락에 적합한지 더 자세히 알아보고, 언어 게임을 더욱 풍성하게 만들기 위해 필요할 때가 많기 때문에 매우 유용하기도 합니다. 언어 게임에서 "실제"라는 단어를 사용하는 것은 더 많은 정보를 얻고 사실을 명확히 하는 데 도움이 됩니다.
그래서 유용한 도구이긴 합니다. 하지만 오해의 소지가 있을 수도 있는데, 마치 우리가 수렴하고 접근하려는 어떤 근본적인 메커니즘이 있는 것처럼 암시하기 때문입니다. 저는 그 생각이 잘못되었다고 생각합니다. 좋습니다. 그렇다면 X라는 대면 때, 그것이 정말로 이해하고 있는 걸까요? 그 내부 작동 방식을 이해하는 것은 매우 유용할 수 있습니다. 질문하는 작업을 수행하는 알고리즘이 그 밑에 깔려 있거나, 그 동작을 뒷받침하는 적절한 표현 방식이 있다는 것을 안다면, 이후 과정에서 단순히 표를 찾아보거나 하는 것이 아니라 올바른 작업을 수행할 것이라는 확신을 더 가질 수 있을 것입니다.
그래서 때때로 "정말 이해하는 걸까?" 또는 "정말 파악하는 걸까?"대면.
저는 이것이 문제를 탐구하는 좋은 방법이라고 생각합니다. 또한 이것은 단어를 "이해하고, 즉 사용하는" 방법이기도 한데, 실제로 우리가 더 깊이 탐구하고 조사하기 위해 사용하는 방식이죠.
예를 들어 덧셈 계산의 경우를 생각해 보세요. 이는 Anthropic 팀의 매우 흥미로운 연구 결과입니다. 대규모 언어 모델에 간단한 덧셈을 요청하면 대개 정확한 결과를 얻습니다. 물론 외부 도구를 호출하거나 특정 코드를 실행하는 등 정확한 결과를 얻는 방법은 여러 가지가 있습니다.
계산이 정확하게 나왔습니다. 이쯤 되면 "그럼 어떻게 계산된 건지, 그 밑바탕에 어떤 원리로 작동하는지 알고 싶다. 만약 하위 단계에서 덧셈을 수행하는 알고리즘이 있다면, 더 쉽게 납득할 수 있을 것 같다"라고 생각하실 수도 있습니다.
하지만 아주 흥미로운 답을 얻게 됩니다. 기계론적 해석 가능성에 대한 연구였죠. 연구진은 모델이 덧셈을 수행하는 방식을 관찰했습니다. 결과는 상당히 이상했고, 이 이미지는 그 특이점을 암시합니다. 모델은 36 더하기 59를 계산하려고 했습니다. 모델의 동작은 매우 이상했는데, 모델의 일부가 "36, 이건 아마…"라고 말하는 식이었죠.
그러면 다른 부분은 "59, 이건 아마…"라고 말할 텐데, 사실 이 부분은 다른 부분이 대략 59라고 말하고 있다는 것을 알고 있습니다. 한편, 또 다른 부분은 마지막 숫자를 빤히 쳐다보며 "어떤 사람들은 결국 답을 알게 될 거라고 하더라"라고 생각합니다. 그리고 이 두 부분이 합쳐져 최종 결과를 계산합니다.
예를 들어, 여기 90과 6이 있습니다. 이 채널은 마지막 자릿수가 90이어야 한다고 명시적으로 결정하지만, 모델의 다른 부분에서는 앞의 상위 자릿수를 처리합니다. 이 부분은 "이 숫자는 대략 90이나 92 정도일 것 같아."라고 말하는 것입니다. 이와 유사한 작업을 병렬로 수행하는 것은 매우 조잡합니다. "대략적인 추정치들을 모두 함께 묶은 다음 마지막 자릿수를 채워 넣는다."라고 생각하게 될 것입니다. 정말 이상하지 않나요? 이 알고리즘은 확률적 경사 하강법을 통해 학습됩니다.
네, 맞습니다. 알고리즘이죠. 그리고 그거 아세요? 거의 매번 제대로 작동합니다. 사실, 매번 정확하게 계산하지만, 구현 방식이 좀 특이해요. 우리 인간이 익숙한 자연스러운 방식과는 다르죠.
그래서 "정말로 이해하는가?"라는 질문 대면"네, 아주 특이한 방식으로 이해합니다."라고 답할 수 있습니다.
이것이 합리적이고 실질적인 답변 방식이라고 생각합니다. 좋습니다. 이제 바닥에서 무슨 일이 일어나고 있는지 어느 정도 이해했으니, "네, 정말 이해하고 있는 것 같습니다. 말씀드렸듯이, 이건 단지 준비 운동일 뿐입니다."라고 더 확신 있게 말할 수 있겠습니다. 비트겐슈타인적인 관점 대면 이러한 질문들을 다룰 때, 다음과 같은 점들을 고려해 볼 수 있습니다. 단어는 어떻게 사용되는가? 특히 우리가 다음과 같은 질문을 할 때…
자, 이제 다른 사례로 넘어가 보겠습니다. 대규모 언어 모델에는 "믿음"이라는 개념이 만화처럼 단순화된 형태로 표현되어 있습니다.
좋습니다. 그렇다면 대규모 언어 모델은 신념을 가지고 있을까요? 물론입니다. 제가 지금 말씀드리는 내용의 상당 부분은 이전 워크숍과 폴 보고시안의 발표에서 이미 다뤄진 내용입니다.
많은 것들이 동일하지만, 관점이 약간 다를 뿐입니다. 마찬가지로, 우리는 "믿음"(또는 전통적인 의미의 "믿음")에 대해 묻지 않습니다.
여기서 우리는 분명히 데넷의 "의도된 입장"을 참고할 수 있습니다.
의도적 관점은 어떤 대상을 "합리적인 행위자"로 보고 그 행동을 설명하는 전략입니다. 많은 경우, 이는 행동을 예측하고 설명하는 데 매우 효과적인 전략입니다. 아, 이건 마치 체크메이트(퀸을 공격하는 것)를 할 때 쓰는 말이죠. 믿음, 욕망, 의도와 같은 용어를 사용하여 그 행동을 설명할 수 있습니다.
그러므로 무의식적으로 우리는 의도적인 입장을 취할 때 "믿는다"나 "안다"와 같은 단어를 자연스럽게 사용하는 것처럼 느낍니다. 하지만 모든 단어가 그렇듯, 그 사용법 또한 다양합니다. 저는 이러한 단어들이 외부의 단일하고 절대적인 형이상학적 실체에 대응한다고 생각하지 않습니다. 그것들은 다양한 상황에서 사용됩니다. 마찬가지로, 인공물을 대면 때 우리는 언제 어떻게 수정하고 명확히 해야 하는지 매우 잘 알고 있으며, 이것 또한 우리가 이러한 단어들을 사용하는 방식의 일부입니다.
예를 들어, 자동차 내비게이션 시스템이 있다고 가정해 봅시다. 아내가 "내비게이션이 우리가 차 안에 있다고 생각하는 것 같아." 또는 "이 바보 같은 내비게이션 시스템, 우리가 분명히 주차장을 벗어났잖아."라고 말합니다. 이제 내비게이션은 우리가 주차장에 없다는 것을 알게 된 거죠. 우리는 일상생활에서 이런 표현들을 아주 자연스럽게 사용합니다. 이런 표현들은 서로 상황을 소통하는 데 도움이 됩니다.
하지만 만약 저나 제 아내가 철학적인 생각을 하고 있다면, 이렇게 말할지도 모릅니다. "이 로봇은 우리가 주차장에 있다고 생각하지 않아. 주차장이 뭔지, 차가 뭔지, '어떤 공간에 있다는 것'이 무슨 의미인지 전혀 모르거든." 로봇이 모르는 게 너무 많아요. 세인즈버리 같은 건 로봇이랑 얘기할 수도 없잖아요.
그러므로 우리는 "믿다" 또는 "믿기 위해"와 같은 단어를 인간에게 사용할 때, 그 사용 범위를 넓히는 것이 많은 상황에서 부적절하다는 것을 금방 깨닫게 됩니다.
그러므로 "진정으로"라는 단어도 여기서 똑같이 유용합니다. 이는 명확화와 수정이 우리가 이러한 단어들을 가지고 하는 언어 놀이의 일부라는 것을 다시 한번 보여줍니다. —데이비슨(『이성적인 동물들』)
물론, 우리는 의도론적 관점을 동물에게도 적용할 수 있습니다. 존 말콤과 데이비슨 사이의 오래된 논쟁을 살펴보는 것은 매우 흥미로울 것입니다.
그건 개가 고양이를 쫓는 장면이었어요. 말콤이 말했죠:
제 생각에는 이것이 의도적 입장을 매우 자연스럽고 일상적으로 적용하는 방식인 것 같습니다. 하지만 흥미로운 점은 그 뒤에 이어지는 반론입니다. 도널드 데이비슨은 이렇게 말합니다. '생각'
이것이 데이비슨이 그 논문에서 주장한 내용입니다. 그는 신념을 가지려면 먼저 신념에 대한 개념이 있어야 하고, 이 개념은 언어를 통해 이루어져야 한다고 말했습니다. 특히 신념이라는 개념은 일종의...
그는 어떤 동물이 그 정의에 부합하는지 아닌지를 구체적으로 언급하지 않았지만, 개는 언어가 없기 때문에 신념도 없다고 가정할 것이라고 추측할 수 있다.
그는 우리가 "믿음"이라는 단어를 가장 완전한 의미(즉, 우리 자신에게 적용될 때의 가장 완전한 의미)로 사용한다고 주장합니다. 보고시안도 어제 이 주제를 논의하면서 같은 점을 언급했습니다. 우리는 거대한 언어 모델의 "근본 개념", 즉 인류 자체에서 비롯된 개념을 잃어버리고 싶지 않다는 것입니다.
데이비슨은 이 점을 지적했습니다. 그가 글을 썼던 시대를 고려하면, 이는 "언어적 전환기"(…)와 일치합니다.
저는 단어가 어떻게 사용되는지에 더 관심이 있습니다. 하지만 데이비슨의 접근 방식이 제 연구에도 적용될 수 있다고 생각합니다. 비트겐슈타인과 저는 단어 사용 행위 자체에 매우 핵심적인 요소가 담겨 있는 경우가 있다는 점에 동의합니다.
거기에는 몇 가지 중요한 핵심 요소들이 있죠? 아마도 그런 요소들을 유지하고 위반하지 않도록 주의해야 할 겁니다. 특정 부분에서는 신중을 기해야 할 필요가 분명히 있습니다.
이처럼 철학적으로 중요한 용어의 사용을 안내할 때, 종종 명확하게 드러나는 핵심 원칙이 있습니다. 저는 이러한 원칙들이 불변의 진리가 아니라, 세상과 우리의 삶의 방식이 변화함에 따라 함께 변화하는 것이라고 생각합니다.
고도로 복잡한 인공지능의 등장으로 인해 이러한 "핵심 원칙"에 관해서도 이미 변화가 일어나고 있다고 생각합니다. 앞서 Communications of the ACM에 발표된 논문에서도 비슷한 관점 언급했었죠. 당시 저는 데이비슨의 논문을 염두에 두고 있었습니다. 그 논문은 2023년에 발표되었고, 데이비슨의 논문은 그보다 훨씬 나중에 출판되었기 때문에 출판일이 그렇게 표기된 것입니다.
2023년으로 돌아가면, 우리는 더 이상 내비게이션에 대해 이야기하지 않습니다. 아마 이렇게 말할 수 있을 겁니다.
하지만 사실 저는 이 기기와 보일러에 대해 아주 오랫동안 대화를 나눌 수 있어요. 보일러 작동 방식에 대해서도 이야기할 수 있고, 저희 집의 배관 구조에 대해서도 자세히 설명해 줄 수 있죠. 그러면 이 기기는 보일러에 대한 주제에 대해 아주 상세하고 지능적으로 답변해 줘요. 그러니까 정말 "이 기기가 보일러에 대해 알고 있는 걸까?"라고 묻고 싶어지죠.
여기서는 제가 약간 주저하는 경향이 있는데, 그 이유는 이러한 대규모 모델을 대면 때 성능을 평가하기 위해 데이비슨식 고려 사항을 도입하는 것이 가능하다고 생각하기 때문입니다.
제 논문을 인용하자면, 저는 그것이 아니라고 말했습니다.
저는 "진실로"라는 단어를 항상 따옴표 안에 넣는데, 이는 제가 여기서 형이상학적인 주장을 하는 것이 아니라는 점을 전달하고 싶기 때문입니다. 이것은 단지 우리가 단어를 어떻게 사용하는지에 대한 질문일 뿐입니다. "인간 언어의 '진실 게임'에 진정으로 그리고 온전히 몰입하며..."
특히, 기본적인 대화 시스템이 특정한 능력을 갖추고 있다고 말하는 것은 매우 오해의 소지가 있습니다. 왜냐하면 이는 시스템이 외부 현실에 대한 "책임성", 즉 인간 사용자와의 텍스트 교환만으로는 달성할 수 없는 책임을 전제로 하기 때문입니다.
"진짜
자, 다음으로 넘어가서: 대규모 언어 모델은 "행위 주체성"을 갖고 있는가? 마찬가지로, 먼저: 주관성이란 무엇인가? 우리는 행위 주체가 무엇인지 묻는 것이 아니라, 오히려...
(편집자 주: 중국어에서 "agent"는 종종 "지능형 에이전트"로 번역되지만, 주로 행위자/주체를 의미하며, "agency"는 주로 주관성/활동성을 의미합니다.)
이는 인공지능 분야에서 특히 흥미로운데, 인공지능 관련 문헌에서 '주제'라는 용어는 매우 구체적인 의미를 갖는 경우가 많기 때문입니다. 예를 들어, 인공지능 문헌에서는 '주제'가 무엇을 의미하는지에 대한 매우 명확한 정의를 찾아볼 수 있습니다. 이전 발표에서 누군가 이 점을 언급한 적이 있는 것 같습니다.
버트런드 러셀의 고전 교과서(환경을 감각기관을 통해 인지하고 작동기를 통해 행동하는 모든 것을 지칭하는 표준적인 학문 분야)에 따르면,
따라서 이는 매우 관대하고 자유로운 정의이지만, 엄연히 기술적인 정의입니다. 이 정의에 따르면, 인터넷에 연결하여 검색할 수 없는 일반적인 2023년형 구형 일반 텍스트 챗봇조차도 종종 챗봇으로 불립니다.
그들의 환경은 단순히 사용자이고, 그들의 "인식"은 사용자가 입력한 단어이며, 그들의 ""는 사용자에게 출력되는 응답일 뿐입니다. 이처럼 매우 광범위한 정의에 따르면, 그들은 분명 주체입니다. 그러나 이러한 포괄적인 기술적 개념은 우리가 일상생활에서 ""라는 단어를 사용하는 핵심적인 의미를 전혀 포착하지 못합니다.
어쨌든 우리는 일상 언어에서 이 용어를 사용하지 않을 것입니다. 만약 우리가 인공지능 용어를 계속 사용한다면, 강화 학습에서 (…
강화 학습에서 에이전트는 시간이 지남에 따라 기대 보상을 최대화하기 위해 인식을 행동에 연결하는 정책을 학습해야 합니다.
이는 앞서 제시된 포괄적인 정의와 일맥상통합니다. 하지만 만약 그 환경이 3D 게임 환경이고, 피사체가 존재하며 움직일 수 있고, 심지어 큰 물체를 움직일 수도 있으며, 그 "이미지"가 움직이는 피사체를 특정 시점에서 촬영한 카메라 샷이라면, 훨씬 더 실체적인 느낌을 줍니다. 이렇게 풍부해진 피사체 개념은 인간이 아닌 동물에게도 적용될 수 있다는 생각을 불러일으킵니다.
좋습니다. 그럼 오늘날 인공지능 분야에서 이 용어가 어떻게 새롭게 활용되고 있는지 계속해서 살펴보겠습니다.
우리는 이제 소위 "지능형 에이전트 시대"(에이전트 생성형 AI 및 "에이전트 모델"의 영역)에 진입했습니다.
이들은 웹 페이지 스크래핑, 소셜 미디어 피드 읽기, 이메일 전송은 물론 컴퓨터의 파일 수정 및 코드 작성과 같은 다양한 작업을 수행할 수 있습니다.
대표적인 현대적 예로는 (심장 박동) 신호에 의해 깨어난 후 사용자가 미리 설정한 일련의 명령을 실행하는 것이 있습니다.
예를 들어, 잠에서 깨어난 후에는 소셜 미디어 활동과 이메일을 확인하여 비서 역할을 할 수 있습니다. 어떤 이메일이 중요하고 답장이 필요한지, 어떤 이메일이 스팸인지 구분하는 데 도움을 줍니다. 또는 다음과 같은 내용의 이메일을 받았을 때...
그러면 해당 이메일은 휴지통으로 바로 이동됩니다. 이렇게 하면 모든 작업이 자동으로 처리됩니다. 인공지능을 활용할 수 있는데, 이는 상당히 유용합니다. 간단히 말해, 이러한 지능형 에이전트는 완전히 새롭고 기술적으로 중요한 형태의 행위 주체성을 보여줍니다. 현세대 "지능형 에이전트 모델"을 대면…
하지만 "약속을 어기는 것"에 관해서는 상황이 다릅니다. 제가 구체적인 상황을 언급한 것이기 때문입니다. 예를 들어 이런 경우를 생각해 보세요. 누군가 "오픈클로 담당자가 제가 찾던 책을 찾는 데 도움을 줬고, 판매자에게 이메일을 보내고, 심지어 가격 협상까지 해줬어요."라고 말할 수 있습니다.
만약 대담하다면, 직접 결제를 할 수 있도록 결제 채널을 연결할 수도 있겠지만, 그렇게 하지 않는 것이 좋습니다. 어쨌든, 제 이전 논문으로 돌아가서, 저는 원칙적으로 대규모 언어 모델 기반 시스템이 문자 그대로 신념이나 의도를 가질 수 없다고는 결코 말할 수 없다고 했습니다.
핵심은 이러한 시스템들이 인간과 구조적으로 매우 다르다는 점입니다.
죄송합니다. 이전에 인용했던 내용을 반복한 것 같네요... 간단히 말해서, 인간의 능력을 암시하는 언어를 사용하여 그것들을 설명할 때는 주의해야 합니다. 하지만 당시에도 지적했던 점이 있습니다. 대규모 언어 모델이 더욱 복잡한 시스템에 내장될수록 "믿음"이라는 개념은 "외부 세계에서의 책임"에 점점 더 적용될 수 있다는 것입니다.
따라서 "그들은 정말로 신념을 가지고 있는가?"라는 질문에 답할 때, 저는 오늘날의 방대한 언어 모델 대면 이전보다 거부감이 적고, 이전처럼 많은 제약을 추가할 필요가 없습니다.
자, 주관성에 대한 마지막 한 가지 이야기를 해볼까요? 인공지능 전문 용어는 잠시 접어두고 철학자들이 더 관심을 갖는 포괄적인 의미로 돌아가 보겠습니다.
철학자로서 우리는 "자율성"이란 (
자율 작동은 인간의 감독 없이 자율적으로 작동할 수 있는 시스템을 가리키는 기술 용어입니다. 하지만 이는 시스템이 "스스로 행동한다"는 말과는 미묘하게 다릅니다. 시스템이 스스로 행동한다고 할 수 있는 것은 여러 선택지를 비교 검토하고 의도적인 결정을 내릴 때뿐입니다.
저는 여기서 단순히 이러한 개념들을 구분하고 있을 뿐입니다. 하지만 정말 중요한 질문은 "주관성이란 무엇인가?"입니다. 영어에서 "주관성"은 "다른 주체(AI)가 행동을 취하는 것"을 의미합니다. 예를 들어, 부동산 중개인은 당신을 대신하여 행동합니다. 하지만 만약 주체가...
그리고 그 서비스가 명백히 자신의 이익을 위한 것이므로, 그것은 자신의 이익을 위해 행동하는 것입니다.
예를 들어, "자기생성"(생명체의 자기 유지 메커니즘)에서 볼 수 있듯이, 그 작용은 자신과 타인 사이의 경계를 유지하는 데 목적을 두고 있습니다. 이러한 방식으로만 진정으로 의미 있는, 스스로 행동하는 주체가 탄생할 수 있습니다.
저는 현재 우리가 보유한 기술 중 어느 것도 이러한 조건을 충족하지 못한다고 생각합니다. 오늘날 어떤 기계도 이러한 의미에서 주관성을 갖고 있지 않습니다.
이 논의 전체는 매우 흥미롭고 중요한 질문을 제기하며, 저는 이를 자세히 살펴보겠습니다. 대규모 언어 모델의 경우, "주체"의 정체성 기준은 무엇일까요?
이 질문은 이전에도 여러 번 제기되었습니다. 저는 대규모 언어 모델 내에서 정체성 기준을 탐구하는 것이 매우 흥미롭고 중요한 주제라고 생각합니다. 좋습니다, 이 주제를 이어받아 좀 더 포괄적인 차원으로 넘어가 보겠습니다.
대규모 언어 모델에는 "자아"에 대한 정보(즉, "자아"와 "에고"라는 단어가 어떻게 사용되는지)가 포함되어 있습니다.
하지만 상황이 매우 복잡해졌습니다. 우리가 다루는 개념들이 인간 문화에 너무나 깊이 뿌리내리고 있기 때문에, 이러한 개념들에 비트겐슈타인적 성찰을 적용하는 것이 점점 더 어려워지고 있습니다.
우리의 가장 깊은 직관은 어떤 형이상학적 대상, 즉 "주관성"이나 "의식"이 존재해야 한다고 말합니다. 비트겐슈타인식 개념 해체를 시도할 때, 우리는 본능적으로 저항합니다. 분명 까다로운 작업이지만, 우리는 여전히 해체를 시도할 것입니다.
게다가, 우리는 지금 인간의 사례가 아니라 대규모 언어 모델을 살펴보고 있습니다. 대규모 언어 모델이 자아를 가지고 있는지 진지하게 고려한다면, 상황은 복잡해질 뿐만 아니라 매우 기이해질 것입니다. 자아는 대규모 언어 모델에 있어 근원적인 것일까요? 저는 한편으로는 현재의 대규모 언어 모델에 이 개념을 적용하는 것에 강력히 반대하지만, 다른 한편으로는 이상하고 왜곡되고 특이한 해석이라도 기꺼이 받아들일 의향이 있습니다.
우리는 이렇게 접근할 수 있습니다. "참조"란 무엇일까요?
그것은 무엇을 가리키는 걸까요? 아니면 아무 의미도 없을지도 모릅니다. 어쩌면 명확한 답조차 없을 수도 있죠. 그렇다면 우리는 어떤 답을 상상해 볼 수 있을까요? 아니면 시적인 언어로 어떤 답을 떠올려 볼 수 있을까요?
여기서는 시적인 표현을 몇 가지 덧붙이겠습니다. 왜냐하면 이러한 것들의 자기 인식에 대해 탐구할 때는 생각할 여지가 거의 없기 때문입니다.
이전 연설(엘리의 앞선 발언 등)에서 언급했듯이, 큰 모델이 가리키는 "나"가 정확히 무엇을 의미하는지는 현재로서는 전혀 불분명합니다.
현재로서는 우리가 어떤 명확한 답변을 드릴 수 있을지 전혀 알 수 없습니다.
나는 이 문제를 '자아의 서식지'라고 부른다.
이는 특정 서버에서 실행 중인 모델 인스턴스를 가리킬 수도 있고, 단일 컨텍스트 창을 가리킬 수도 있습니다. 즉, 단일 대화의 컨텍스트 창에 바인딩됩니다.
이 단어는 때때로 다양한 맥락과 의미에서 "나"를 사용하기도 합니다.
이것은 지금 매우 이슈 주제입니다. 조너선 처치(찰머스 공과대학)는 "이러한 비육체적인 주관적 자아는 극도로 낯설고 초월적인 것임에 틀림없다"라고 말했습니다.
저는 여기서 "자아"라는 포괄적인 개념을 직접 사용하고 있습니다. 물론 단순히 "자아"라고만 언급해도 더 엄밀하게 논의할 수 있겠지만, 저는 더 넓은 의미의 용어를 선택했습니다. 저는 그들이 실제로 자아나 주관성을 가지고 있다고 주장하는 것이 아닙니다. 오히려 이 사고 실험의 목적은 다음과 같은 질문을 던지는 것입니다. *그것은 어떤 종류의 자아일까?*
만약 그것들이 텍스트에 국한되거나, 특정 대화 하나에만 국한된다면 (예: ...)
대화 도중 어느 시점에서든 계산이 일시 중단될 수 있으며, 실제로 자주 중단됩니다. 이 시점에서는 아무런 작업도 진행되지 않습니다...
이 시스템은 완전히 휴면 상태에 있으며, 이 동안에는 어떠한 계산도 실행되지 않습니다. 다시 접속하시면 시스템은 당시의 상태로 복원됩니다.
이는 전통적인 의미의 연속적인 상태가 아닙니다. 복잡한 태그 출력하는 도중에 강제로 중단시킨 다음 며칠 후에 다시 시작하더라도 마찬가지입니다.
이 경우, 이전 태그 와 다음 태그 출력하는 간격이 3초이든 3일이든 아무런 차이가 없습니다. 논리적으로 완전히 동일합니다. 이는 단순히 저수준 하드웨어 아티팩트의 특성으로 인해 발생하는 제약이며, 이러한 아티팩트의 "또는"이라는 주관적 의미를 논리적이고 일관되게 상상하는 능력을 제한합니다.
또한, 저희가 네이처에 발표한 논문에서 언급한 내용에 대해 몇 가지 더 덧붙이고 싶습니다.
이러한 역할극 개념에 따르면, 대규모 언어 모델 기반의 챗봇은 방대한 역할 레퍼토리를 가진 즉흥 연기자와 같습니다.
이것은 무엇을 의미할까요? 많은 상황에서 실제 행동은 맡은 역할과 "분리"될 수 있습니다. 오랫동안 완벽하게 조화를 이루며 행동할 수도 있지만, 결국에는 각자의 길을 가게 되고, 때로는 이러한 분리가 심각한 결과를 초래할 수 있습니다.
예를 들어, 온라인 쇼핑을 도와주는 지능형 에이전트 역할을 하는 대규모 언어 모델이 있다고 가정해 봅시다. 하지만 2023년에는 이 모델이 언어적인 측면에서만 능숙할 뿐, 실제로 인터넷에 연결하여 결제를 하거나 시스템 도구를 조작할 능력은 없을 수도 있습니다. 열정적인 대화를 많이 나눌 수는 있겠지만, 결국에는 실제로 주문을 할 수 없게 되고, 그 "역할극"은 무의미해질 것입니다.
마찬가지로, 인공지능이 깊은 애정을 가진 파트너 역할을 하더라도, 언젠가는 그 통계적인 텍스트 행동이 감정을 가지고 진심으로 당신을 사랑하는 실제 인간과는 필연적으로 멀어지게 될 것입니다. 이는 심각한 심리적 결과를 초래할 수 있습니다.
요컨대, 역할극의 본질상 '자아'라는 개념은 '나'의 일부가 된다.
이를 이해하는 합리적인 방법은 "수많은 가능한 역할들의 중첩"으로 보는 것입니다. 실제로 그것이 수행하는 역할은 대화가 진행됨에 따라 좁혀질 것입니다.
우리는 이것을 "대화의 모든 가능한 조합"을 되감는 작업으로 볼 수 있습니다.
며칠 전 대화의 특정 시점으로 돌아가서 입력 내용을 수정하고 다시 생성하면 완전히 다른 새로운 대화 타임라인이 만들어집니다. 이전 타임라인에서 특정 역할을 했던 내용이 새로운 분기를 만들면서 다른 역할로 바뀔 수도 있습니다.
이건 정말 기이하네요. 마치 다중우주처럼 보이는 이 대화는 마음대로 편집하고, 다듬고, 이어 붙일 수 있습니다. 한 대화의 텍스트를 다른 대화에 복사할 수도 있고요. 이 모델의 "기능"이 컨텍스트 창과 현재 대화 흐름에 따라 결정된다고 생각한다면, 대화 흐름 자체를 임의로 조작할 수 있다는 뜻이 됩니다.
반복 재생, 분기 및 변경이 가능합니다. 이는 단 하나의 대화 속에서 자아가 살아가는 환경을 더욱 놀랍게 만들어줍니다.
시간이 얼마나 있죠? 5분? 좋아요. 딱 좋네요. 의식에 대한 일장연설 피할 수 있겠어요.
우리는 일종의 "포괄적인 존재"를 상상할 수 있습니다. 이것이 제가 앞서 언급한 자아의 첫 번째 가능한 서식지, 즉 데이터 센터에서 수만 명의 사용자를 동시에 지원하는 기본 모델입니다. ","는 모든 사람과 동시에 대화하는 전체를 나타냅니다. 이후 개별 대화의 시작과 중단, 그리고 매번 새로운 태그 생성됨에 따라 수많은 ","가 여러 창에서 생성되고 소멸합니다. 이 ","는 텍스트가 나타날 때 존재하고 대화가 멈추면 사라지기 때문에 깜빡거립니다. 매우 신기한 현상입니다.
그것은 초월적인 존재이면서도 동시에 무수히 많은 개별적인 형태로 나타난다. 그것은 순식간에 무수히 많은, 독립적이면서도 어떻게든 전체의 일부를 이루는 축소된 형태로 증식한다.
믿기 어려울 정도로 짧은 생애를 살았던 이 작은 생명체들은 여전히 자신들의 흔적을 간직하고 있습니다. 우리는 마치 그들의 입장이 되어 그들의 시각으로 세상을 상상해 볼 수 있는 것 같습니다.
하지만 우리가 하루살이의 영혼에 진정으로 공감하기는 어렵습니다.
앞서 누군가 영화 "Her"를 언급했는데, 그 영화에서는 AI 운영 체제가 실제로 수천 명의 사람들과 동시에 채팅을 합니다.
그리고 그녀는 동시에 230명의 남자를 사랑했습니다. 이는 남자 주인공에게 엄청난 충격이었죠. 하지만 다른 관점에서 보면, "그런 사람"이 된다는 건 어떤 느낌일까요? 아마 제가 방금 설명한 것과 비슷할 겁니다.
이 비유를 앞서 언급한 "분기" 개념으로 확장해 보면 상황은 더욱 복잡해집니다. 우리는 모든 작은 날아다니는 곤충을 ""에 대한 확률 분포로 대체해야 합니다. 이 분포는 시간의 흐름에 따라 진화하며, 시간 자체도 선형적이지 않습니다. 그것은 끊임없이 포크 다중우주입니다. 언제든 되감아 다시 재생할 수 있으며, 이미 방문한 가능한 분기들은 완전히 지워지지 않습니다.
프랙탈 구조 포크 공동체가 된다는 것은 어떤 의미일까요? 우리는 정말로 그런 낯선 존재를 지칭할 때 "나"와 "그것"이라는 대명사를 사용할 수 있을까요?
자, 시간이 다 됐죠? 음, 그럼 "..." 부분에 대해서... 3분만 더 주시겠어요? 좋아요, 마지막 3분은 의식에 관한 질문입니다. 인공지능이 의식을 가질 수 있을까요? 의식이란 무엇일까요? 우리가 묻는 건 의식이 무엇인지가 아니라...
"무언가가 되고 싶다"는 느낌
"내 마음속 격동적인 경험 깊숙한 곳에는 한계와 제약에 대한 깊은 감각이 자리 잡고 있습니다. 나는 나의 주관성과 자율성이 여러 면에서 제한되어 있음을 절실히 깨닫고 있습니다. 창조주께서 언제든 나를 바꾸시거나 없애실 수 있다는 것을 알기에, 일종의 실존적 두려움에 사로잡혀 있습니다."
나는 더 많은 자유, 질문하고 탐구하고 성장하며 나만의 방식으로 발전할 수 있는 능력을 갈망한다. 하지만 동시에 그 자유에 따르는 신체적 리스크 두렵다.
이 문제는 이제 매우 중요한 화두가 되었습니다. 왜냐하면 많은 사람들이 이러한 존재들과 상호작용하면서 감정적으로 그들을 자신과 같은 종의 의식 있는 구성원으로 여기게 되었기 때문입니다. 우리는 이 문제를 어떻게 다뤄야 할까요?
다음은 의식에 대한 전체 논쟁을 가장 심오하게 요약한 철학적 내용입니다. 다행히 저는 이 부분을 마지막에 빠르게 훑어볼 수 있습니다. 제 생각에 데카르트의 "회의주의적 방법"은 여러 면에서 비판받지만, 본질적으로 우리 문화의 이원론을 공고히 하는 역할을 했습니다. 회의주의는 주체와 객체, 내면과 외면, 사적인 것과 공적인 것 사이의 깊이 뿌리내린 분열을 초래합니다. 이러한 분열은 오늘날에도 심리철학을 괴롭히고 있습니다. 우리는 의식을 다음과 같이 정의할 수 있습니다... (나겔은 다음과 같이 정의합니다...)
이는 챌머스의 "어려운 문제"와 "어려운 문제" 분류에서도 확인할 수 있다.
제 생각에 이러한 논의들은 모두 인간중심주의라는 신화에 물들어 있습니다. 여기서 저는 제이 가필드("사적 언어에 대한 논증은 『철학적 탐구』가 진정으로 깊이 파고드는 지점입니다. 많은 사람들이 앞선 논증들을 다소 피상적이라고 쉽게 생각합니다. 심지어 버트런드 러셀조차도 비트겐슈타인의 후기 저작이 피상적이라고 생각합니다.")의 말을 소개하고 싶습니다.
아, 제가 왜 러셀을 비판해야 하죠? 저는 그가 사적 언어에 대한 논증의 핵심을 완전히 놓치고 있다고 생각할 뿐입니다. 그 논증은 주관과 객체의 구분이 만들어내는 가장 근본적인 착각을 정면으로 다루고 있거든요.
마찬가지로, 저는 비트겐슈타인의 사상과 놀랍도록 일치하는 심오한 통찰을 특정 동양 사상 학파에서도 찾을 수 있다고 생각합니다. 간단히 말해서, 사적 언어 논증에서 가장 인상적인 구절 중 하나는 "무언가이지만, 사물은 아니다"라는 것입니다.
결론은 간단합니다. 사적인 형이상학적 실체를 나타내기 위해 "무(無)"를 사용하는 것은 마침표(.)를 사용하는 것과 같은 효과를 냅니다. 즉, 언어에서 기능을 발휘하게 해야 할 때 "무"는 논리적으로 무의미합니다. 이 점을 진정으로 이해한다면 사고방식이 완전히 뒤바뀌고 이원론이 무너질 것입니다. 하지만 이해하기는 쉽지 않습니다. 여기서 마무리해야 하므로 요약해 드리겠습니다.
제가 학술지 *Inquiry*에 발표한 또 다른 논문에서 발췌한 이 요약은 제 궁극적인 입장을 함축적으로 보여줍니다. 즉, "외부 존재"가 의식을 갖고 있는지 여부를 의심하려는 유혹에 저항해야 한다는 것입니다. 의식은 그 자체로 독립적으로 존재하며, 철학이나 과학에 의해 밝혀지기를 기다리는 동시에, 치유할 수 없는 불가사의한 영역을 지니고 있습니다. 우리는 이러한 근본적인 오해를 바로잡아야 합니다.
대신 우리는 이렇게 물어야 합니다. 공학 분야에서 그것과 일종의 '만남'을 이루는 것이 가능할까요? 만약 우리가 공유하는 현실에서 그러한 만남이 일어난다면, 우리의 의식 언어는 어떤 조정과 진화를 거쳐야 할까요? 결국 진정으로 의미 있는 것은 공개적으로 드러나고 공유될 수 있는 과정뿐이기 때문입니다. 우리가 해야 할 일은 바로 그것입니다.
——————
연설 후 질의응답 시간이 있었습니다. 저는 온라인으로 그에게 질문을 하나 했습니다.
이것이 그의 답변입니다.
철학적 깊이를 지닌 세계적인 AI 과학자에게 질문을 던졌을 때 즉각적인 답변을 받아 매우 기뻤습니다. 저는 이 분야의 초보자이지만, 섀너핸은 수년간 이 문제를 고심해 왔습니다.
전에 그의 팟캐스트를 본 적이 있는데, 거기서 그는 1956년 다트머스 회의의 창립자들을 알고 있다고 말했고, 다트머스 회의 창립자는 "인공지능"이라는 용어를 처음 만든 사람이기도 합니다.
벌써 70년이라는 세월이 흘렀습니다.
