모든 것이 말이 안 되는 것 같아

테네시에서 좋은 아침입니다!

자원봉사 국가

월요일에 테네시주 채터누가에 있는 라이트스피드 자전거 제조 공장에 갔어요. 용접을 해 봤는데, 비드를 정확히 맞춰서 놓으려고 했죠. 거대한 헬멧을 쓰고 용접 토치를 티타늄에 대면 헬멧이 어두워져요. 오직 당신과 작은 불꽃만 보이네요. 보이는 건 오직 당신뿐이에요.

화요일에 내슈빌에 있었는데, 새벽 2시에 호텔과 연결된 주차장에 불이 났습니다. 우리는 모두 밖으로 나갔고, 공기는 ​​고무 타는 소리로 가득했습니다. 연료 탱크가 터지는 소리가 들렸습니다. 어떤 사람들은 그것이 폭탄이라고 생각했습니다. 소방관들은 연기가 피어오르는 검은 곳으로 사다리를 타고 이동하며 주차장에 불을 질렀습니다. 우리는 한 시간 후 다시 안으로 들어왔습니다. 새벽 5시까지 천장만 바라보다가 일어나 일을 좀 하고, 오전 10시에 무대에 올라 젊은이들을 위한 경제에 대해 멋진 청중 앞에서 연설한 후, 루이빌로 차를 몰고 집으로 돌아왔습니다.

저는 지금 서부로 가는 비행기에 탑승하려고 하는데, 비행기 날개에서 연료가 쏟아지고 있습니다. 환승편을 놓치게 될 것 같습니다. 사실, 이 글을 쓰는 순간에도 항공편이 완전히 취소되었습니다. 1 그래서 저는 공항에서 다시 한번 여러분께 편지를 씁니다.

이번 주, 이렇게 다양하고 현실적이며 물리적인 현실 사이를 오가는 동안 뉴스 피드는 다른 것을 보여주고 있었습니다. 로스앤젤레스 시위 에 대한 자극적인 정보(현재더 많은 도시로 확산 중), 질병통제예방센터(CDC) 백신 전문가 전원 교체 , 국토안보부 (DHS) 관련 밈 , 애플의 대규모 WWDC 행사 , 저커버그의 AI 부대 , 중국과 미국 의 무역 협상(합의는 이미 성사되었고 중국에 대한 관세는 엄청난 수준 입니다) , 유나이티드 내추럴 푸드(United Natural Foods)에 대한 사이버 공격 (그래서 동네 홀푸드 매장이 텅 비어 있을지도 모릅니다), 일론 머스크와 트럼프의 재회 , 관타나모 수용 계획 등등. 하지만 인플레이션은 예상보다 낮게 나타났는데, 아마도 경제 상황이 좋지 않기 때문일 것입니다.

정말 압도적이에요! 모든 모순이 겹치는 순간처럼 느껴져요. 세상의 구조가 갑자기 바뀐 건 아니지만, 그 안에 깔린 이야기들이 깨져 나가는 것 같아요.

우리는 약속된 미래와 우리가 살고 있는 현재 사이에 점점 더 갇혀 있습니다. 전국적으로 인터컨티넨탈 거래소 단속이 확대되는 와중에도 몇 분 만에 자율주행차를 호출할 수 있는 앱이 있습니다. 3. AI 전도사들은 로봇이 모든 일을 대신하게 된 지금 데이지 꽃밭에서 춤을 추는 것에 대해 이야기합니다. 반면 주 방위군은 물도 없이 콘크리트 바닥에서 잠을 잡니다 (그리고 주 방위군은 주지사들을 야유합니다 ).

이러한 모순을 완벽하게 보여주는 이미지를 원한다면 (어쨌든 우리는 시각적인 것을 중시하는 사회니까요), LA 4 에서 불타고 있는 Waymos는 꽤 매서운 광경이라고 생각합니다. 사람들은 마찰이 없는 Waymo 앱과 회사가 수십억 달러를 들여 완성한 매끄러운 사용자 경험을 이용해 자율주행차를 정확한 위치로 불러들인 후, 그것을 불태웠습니다.

너무나 뻔하고 현실과 동떨어진 은유적 사고방식으로 흘러가고 싶지는 않지만 약속된 미래의 인프라를 이용해 그 미래를 거부하는 것과, 화면을 통해 다가오는 미래가 사람들이 살고 있는 현실과 관련이 있다는 척하는 것을 거부하는 것에는 비교적 가슴 아픈 점이 있습니다.

불타는 웨이모의 이미지는 붕괴의 축소판이며, 시리아나 아프가니스탄보다 더 많은 병력을 LA에 파병해야 한다는 주장을 부추기는 데 이용됩니다. 그 모순은 내용이 되고, 그 내용은 또 다른 모순을 정당화하는 근거가 됩니다. 불타는 차를 지나치면 방화의 정당성에 대한 논쟁이 펼쳐지고, 그 논쟁을 뒷받침하는 밈이 펼쳐지고, 그 논쟁을 뒷받침하는 밈이 펼쳐집니다. 이 악순환은 스스로를 성장시킵니다!

그리고 어떻게 된 일인지, 우리는 이 모든 것 속에서 살아가는 데 놀라울 정도로 적응력을 발휘하게 되었습니다. 우리는 현실들 사이를 오가면서도 그 현실들이 얼마나 양립할 수 없는지 깨닫지 못합니다. 진짜 물건을 만드는 일에는 항상 엄청난 어려움이 따랐고, 금속을 태우지 않고 용접하는 데 필요한 인내와 기술, 그리고 실제 위기 상황에서 사람들의 안전을 지키는 일의 복잡성은 항상 존재해 왔습니다.

하지만 이제 우리는 끝없는 혁신 극장을 그 위에 얹습니다. 실제적인 문제는 해결하지 못하는 혁명적 인터페이스, 근본적으로 중요하지 않은 액체 화면, 풍요로움을 가능하게 하는 사람들을 완전히 지워버리는 것에 의존하는 풍요로움의 약속입니다.

모순은 새로운 것이 아닙니다. 새로운 것은 실제 작업과 작업 수행, 용접공의 집중력과 알고리즘의 주의를 분산시키려는 요구 사이를 얼마나 자연스럽게 오가느냐입니다.

온화한 특이점

샘 알트먼의 에세이에 대해 이야기해 보려고 합니다. 저는 AI가 인간 경험을 보완하는 존재라는 점을 전적으로 지지하지만, 인간을 대체하는 존재라는 점은 결코 지지하지 않는다는 점을 분명히 밝히고 싶습니다.

화요일, OpenAI의 CEO인 Sam Altman은 "The Gentle Singularity "(정말 멋진 단어 콤보(COMBO))라는 제목의 글을 게시했습니다.

우리는 사건의 지평선을 지나 이륙이 시작되었습니다.

그는 지능이 "측정하기에는 너무 저렴해지는" 미래를 묘사하며, AI가 과학적 혁신을 주도하고, 우리는 호수에서 수영하고 부의 불평등이 사라질 것이라고 말합니다. 그는 이렇게 썼습니다.

가장 중요한 면에서 2030년대도 크게 다르지 않을 수 있습니다. 사람들은 여전히 ​​가족을 사랑하고, 창의력을 발휘하고, 게임을 즐기고, 호수에서 수영을 즐길 것입니다.

하지만 여전히 매우 중요한 측면에서, 2030년대는 이전 어떤 시대와도 크게 달라질 가능성이 높습니다. 우리는 인간 수준의 지능을 얼마나 넘어설 수 있을지 모르지만, 곧 알게 될 것입니다.

가끔 이런 글을 읽을 때면 - 샘 알트먼이 선두에 서 있기 때문에 저는 이런 글을 아주 진지하게 받아들입니다 - 그들이 어떤 세상을 이야기하고 있는지 궁금해집니다. 맞나요?

이 미래는 어떤 세상에 도착하는 걸까?

그는 "세상은 너무나 빨리 엄청나게 부유해질 것이기 때문에 우리는 전에는 상상도 못했던 새로운 정책 아이디어를 진지하게 고려할 수 있을 것"이라고 말하는데, 이는 인간의 동기를 완전히 오해한 듯한 느낌이 든다.

알트먼이 자신의 '온건한 특이점'을 발표하기 며칠 전, 케이토 연구소는 현 행정부의 추방 계획에 거의 1조 달러가 소요될 것이라는 분석을 발표했습니다. "하나의 크고 아름다운 법안"은 이민 단속 활동에 1,680억 달러를 배정하는데, 이는 ICE 예산을 2028년까지 거의 네 배로 늘리고, 동시에 20만 명 이상을 구금할 수 있는 규모입니다.

알트만이 이러한 풍요로움을 가져오는 AI 시스템이 이러한 추방에 대응하여 벌어지고 있는 시위에 대한 허위 정보를 유포하는 데 사용되고 있다고 묘사합니다. WIRED 보도 에 따르면, 사람들은 LA 시위에 대한 정보의 사실 확인을 위해 ChatGPT와 Grok을 이용하고 있으며, AI 챗봇은 완전히 가짜 정보를 제공하고 있습니다. Grok은 주 방위군 사진이 2021년 아프가니스탄에서 촬영되었다고 주장했지만, 실제로는 지난주 로스앤젤레스에서 촬영된 것이었습니다. ChatGPT는 현재 시위 영상을 바이든의 아프가니스탄 철수 당시 촬영된 것으로 오인했습니다.

여기서 모순되는 점은 알트만은 진실이 희소해지는 동시에 지능이 풍부해질 것이라고 약속하고, 폭력이 고조되는 동시에 온화함을 약속한다는 것입니다. 그리고 물론 그는 그렇게 합니다. 그것이 그의 일이고, 그것이 그의 동기이며, AI 자금은 비현실적으로 운영됩니다!

알트먼이 글에서 지적했듯이, AI의 주요 목표는 인간에게 맞춰 조정하는 것이며, "소셜 미디어 피드는 잘못된 AI의 한 예"라고 말합니다. 이는 사실입니다. 풍부한 지능이 진실의 희소성을 조작하는 데 사용되고 있습니다. 인류의 문제를 해결할 바로 그 시스템이 현 정책이 초래하는 매우 현실적인 인적 비용을 은폐하는 데 사용되고 있습니다.

알트만의 온화한 특이점은 그것을 가능하게 하는 폭력적인 현재를 무시하는 데 달려 있습니다. 그가 구축하는 AI 시스템은 대규모 데이터 센터, 막대한 에너지 소비, 그리고 이를 훈련하고 유지하는 데 필요한 인력을 필요로 합니다. 5 하지만 그의 풍요로운 비전은 그 모든 마찰, 비용, 그리고 인력을 모두 없애줍니다.

조앤 디디온은 화이트 앨범 서두에서 "우리는 살기 위해 스스로에게 이야기를 들려준다"라고 썼다. 알트만의 섬세한 특이성은 바로 그러한 이야기 ​​중 하나이며, 결국에는 모든 것이 잘 될 것이라는 약속을 통해 기술 변화를 이해하도록 돕는 서사이다.

하지만 이야기가 틀어지면 어떻게 될까요? 공항에 앉아 AI 군대와 추방 단속 관련 뉴스를 스크롤하며 항공기 날개에서 연료가 쏟아지는 것을 지켜보다 보면, 약속된 이야기와 실제 현실 사이의 간극을 무시할 수 없게 됩니다.

10여 년 전, 제이디 스미스는 페이스북에 대해 "Generation Why?" 라는 글을 쓰면서 디지털 생활이 이미 우리의 자아감을 평평하게 만들고 플랫폼의 논리에 맞춰 "인간의 표현 범위를 축소"시키고 있다고 경고했습니다. 우리는 이제 평평해졌습니다. 우리의 관심은 해체되고 모순은 돈으로 환산됩니다. 우리가 가진 이야기들은 우리가 실제로 살아가는 삶과 양립할 수 없습니다.

알트만은 "상대론적 관점에서 보면 특이점은 비트(Bit) 비트(Bit) 하고, 통합은 느리게 일어난다"라고 썼다. 하지만 추방은 빠르게 진행되고 있다. 허위 정보가 확산되고 있으며, 모순은 결코 가볍지 않다.

두루마리의 성능

그리고 더 이상 모순을 넘어설 수 없게 되면 어떻게 될까요? 약속된 미래와 폭력적인 현재가 양립할 수 없게 되면 어떻게 될까요?

다시 한번 말씀드리자면, 샘 알트먼은 "소셜 미디어 피드는 잘못된 AI의 한 예"라고 말했습니다. 정말 그렇습니다. 뉴욕 타임스는 트위터 에서 가장 저명한 우익 인플루언서 중 한 명인 도미닉 맥기의 프로필을 게재했는데, 이는 잘못된 AI의 실제 모습을 완벽하게 보여줍니다. 맥기는 100만 명이 넘는 팔로워를 보유하고 있으며, 트위터에서 가장 영향력 있는 사용자 중 한 명입니다. 그는 분노와 허위 정보를 유포하기 위해 매일 11시간씩 노동하는 대가로 연봉 약 5만 5천 달러를 벌어들입니다.

이것이 바로 불일치입니다. 도미닉 맥기는 완전히 비이성적인 시스템에 완벽하게 합리적으로 대응하고 있습니다. 알고리즘은 분노에 보상을 주기 때문에 그는 분노를 유발합니다. 그의 대응은 경제적으로 완벽하게 타당합니다.

제 교수님인 차치 박사는 이성의 반대는 비이성이 아니라 정상이라고 말씀하셨습니다. 그리고 이것이 지금의 정상의 모습입니다. 고립된 크리에이터들이 이해하지 못하는 지표에 최적화하고, 모두를 더욱 혼란스럽고 화나게 하는 콘텐츠를 제작하는 모습입니다.

어슐러 K. 르 귄은 아름답고 번영하는 도시 오멜라스 에 대해 썼습니다. 그 도시의 풍요는 지하실에서 홀로 고통받는 한 아이에게 달려 있었습니다. 대부분의 시민들은 그 아이에 대해 알고 있으며, 이를 완벽한 사회를 위한 대가로 받아들입니다. 그들은 자신의 기쁨이 아이의 불행에 달려 있음을 이해하고, 이를 받아들입니다. 그녀는 이렇게 썼습니다.

오멜라스의 모든 사람들은 그것이 거기에 있다는 것을 알고 있습니다. 어떤 사람들은 그것을 보러 왔고, 어떤 사람들은 그저 그것이 거기에 있다는 것을 아는 것만으로도 만족합니다. 그들은 모두 그것이 거기에 있어야 한다는 것을 알고 있습니다. 어떤 사람들은 그 이유를 이해하고, 어떤 사람들은 이해하지 못합니다. 하지만 그들은 모두 그들의 행복, 도시의 아름다움, 우정의 다정함, 아이들의 건강, 학자들의 지혜, 장인들의 솜씨, 심지어 풍성한 수확과 온화한 하늘의 날씨까지도 이 아이의 끔찍한 불행에 전적으로 달려 있다는 것을 알고 있습니다.

하지만 어떤 사람들은 그렇게 할 수 없습니다. 그들은 오멜라스를 떠납니다. 어디로 가는지 정확히 알지도 못하면서 말입니다. 하지만 그들은 떠납니다. 많은 사람들이 남으면서 다른 사람들의 고통을 자신들의 삶의 방식으로 정당화합니다.

이는 마르크스가 말한 ' 상품 물신주의' 로 이어집니다. 우리는 매끄러운 인터페이스, 자율주행차, AI는 보지만, 이를 가능하게 하는 사회적 관계는 보지 못합니다. 데이터 센터, 에너지, 인간의 노동은 모두 마찰 없는 사용자 경험 뒤로 사라집니다.

기계가 사람을 대체하거나, 우리를 먹이고 연결해 주는 시스템 뒤에 숨은 보이지 않는 존재들을 인정해야 할 때가 와도, 우리는 그러지 않습니다. 왜냐하면 우리는 현실의 모습을 보지 않도록 스스로를 훈련해 왔기 때문입니다. 보고 싶지 않은 것은 무시해 버립니다.

브라이언 머천트는 '기계 속의 피' 에서 초기 러다이트 운동가들이 대중 신화 속 반기술 원시주의자들이 아니었다고 썼습니다. 그들은 새로운 기계의 의미를 정확히 이해했던 숙련된 섬유 노동자들이었습니다. 단순히 "자동화를 하자"는 주장이 아니라, 자본 축적을 위해 그들의 전문성과 공동체를 파괴하려는 의도였습니다. 러다이트 운동가들은 효율성이라는 미명 하에 기술, 공동체, 그리고 목소리를 말살하는 특정한 종류의 진보를 두려워했습니다.

스터즈 터켈은 (지금과 크게 다르지 않은) 엄청난 변화의 시대에 자신의 경력을 쌓으며, 모든 것을 가능하게 하는 일을 하는 사람들에게 어떤 일이 일어나는지 기록한 책 『Working』을 출간했습니다. 그는 이렇게 썼습니다.

이 책은 일에 관한 책이기에, 본질적으로 폭력에 관한 것입니다. 육체뿐 아니라 정신에도 미치는 폭력 말입니다. 사고뿐 아니라 궤양에 관한 이야기이고, 주먹다짐뿐 아니라 고함 소리에 관한 이야기이며, 개를 발로 차는 것뿐 아니라 신경쇠약에 관한 이야기입니다. 무엇보다도 (혹은 무엇보다도) 일상의 굴욕에 관한 이야기입니다. 하루를 견뎌내는 것만으로도 우리 중 많은 부상자들에게는 충분한 승리입니다.

그는 우리의 진보에 대한 이야기에서 노동의 흔적이 지워진 수백 명의 사람들을 인터뷰했습니다. 철강 노동자, 웨이트리스, 청소부, 농부, 소방관 등입니다. 그는 농장 노동자이자 조직가인 로베르토 아쿠냐와 이야기를 나누었습니다. 로베르토는 이렇게 말합니다.

사람들은 멜론이나 오이, 당근, 상추를 먹을 때, 그것들이 어떻게 자기 식탁에 올랐는지, 그리고 그것을 따온 사람들에게 어떤 결과가 초래되었는지 알지 못합니다. 만약 제가 돈이 충분했다면, 버스에 사람들을 가득 태워 들판이나 강제 노동 수용소로 데려갔을 겁니다. 그러면 그들은 그 맛있는 샐러드가 어떻게 자기 식탁에 올랐는지 알게 될 테니까요.

사람들을 보이지 않게 만들고, 그들의 일을 그들의 인간성을 인정하지 않고 그저 하나의 입력 수단으로 취급하는 데에는 폭력이 있습니다. 이야기 뒤에 숨은 인간들을 무시하고, 진보라는 미명 아래 고통받는 아이를 외면하는 데에도 폭력이 있습니다.

스티브 배넌은 트럼프의 전략을 "존을 가득 채우는 것"이라고 묘사했습니다. 사람들이 너무 많은 자극으로 압도당해 어떤 한 가지에 충분히 집중하지 못하고 이해할 수 없게 만드는 전략입니다. 스터드가 들려준 이야기처럼, 사람들은 그 이야기를 놓치곤 합니다. 소셜 미디어 알고리즘을 움직이는 원리도 이와 같습니다. 모든 것을 한꺼번에 쏟아부어 생각하느라 멈춰 서지 않고 계속 스크롤하게 만드는 것입니다.

맥기는 지하실에 갇힌 아이이자, (이러한 모순에도 불구하고) 그 현실을 받아들인 시민이기도 합니다. 그는 공론장을 오염시켜 돈을 버는 반면, 플랫폼은 그가 만들어내는 분노를 통해 수십억 달러의 가치를 뽑아냅니다.

현재 진행 중인 이민 단속은 이러한 전략을 따릅니다. 월스트리트저널(WSJ) 보도에 따르면, 밀러는 인터컨티넨탈 거래소 요원들에게 체포 할당량을 채우고, 홈디포와 세븐일레븐을 집중 공략하며, 시각적 효과를 극대화하라고 지시합니다. 주 방위군을 배치하고, 해병대를 투입하고, 군사화된 단속 영상을 제작하여 피드를 가득 채우고 분노와 정당성 사이에서 스크롤하게 만들라고 지시합니다. 시위대보다 군인의 수가 더 많고, 1억 3,400만 달러의 비용이 소요됩니다. 시각적인 것이 정책입니다!

이 시스템은 현실성보다는 집행 성과에 대해 보상을 줍니다.

그들이 정말로 이민 문제를 해결하고 싶다면, EIG 팀이 고숙련 합법 이민 개선에 관한 "Exceptional by Design" 과 같은 논문을 읽어야 할 것입니다. 공정한 심리를 제공하고, 실제 범죄자들을 추방하고, 시위 중 폭력을 행사하는 사람들을 체포하고, 수년간 시민권 취득을 위해 노력해 온 사람들, 즉 2022년 기준 거의 1,000억 달러에 달하는 세금을 납부하고 열심히 일하는 사람들을 도울 것입니다.

우리는 눈을 멀게 하고, 주의를 산만하게 하고, 흐릿하게 만드는 시스템, 즉 무한 스크롤 속에 있습니다. 어떤 것도 너무 급하지 않고, 모든 것이 동시에 똑같이 급합니다. 아무것도 제대로 작동하지 않습니다. 용접은 그 반대입니다. 모든 시야를 금속과 손 사이의 작은 불꽃, 그 하나의 접점에 집중시키는 것입니다.

자전거 공장도 다른 모델을 선보였습니다. 개인의 기술이 집단적 지식에 기여하고, 어떤 코팅이 오래 지속되는지 아는 페인트공, 변속기가 제대로 정렬되었는지 감지할 수 있는 조립공 등, 각 개인의 전문성은 눈에 띄고, 가치를 인정받으며, 다른 모든 사람의 작업과 연결되어 있었습니다.

자신의 작업이 다른 사람과 어떻게 연결되는지 볼 수 있는 시스템과, 그 연결을 보이지 않게 유지하도록 설계된 시스템 사이에는 중요한 차이가 있습니다.

대부분의 디스토피아적 서사는 빅 브라더 감시, 정부의 정보 억압과 같은 권위주의적 통제에 초점을 맞추었는데, 우리는 이러한 현상을 점점 더 경험하고 있습니다. 하지만 정보의 홍수 속에서 우리를 익사시켜 이익을 취하는 시스템과 모두를 혼란스럽게 하고 분노하게 만들어 돈을 버는 플랫폼은 훨씬 더 무섭다고 주장할 수도 있습니다. 판옵티콘은 어쩌면 슬롯머신보다 덜 무섭다고 할 수 있습니다.

알트만이 소셜 미디어 피드가 정렬되지 않았다고 말하는 것은 매우 안심이 됩니다. 어쩌면 이는 옳은 방향으로 나아가는 것일지도 모릅니다. 끝없는 스크롤은 필연적인 기술 진보가 아니라 인간의 주의를 어떻게 조직할지에 대한 구체적인 선택이기 때문입니다. 그리고 이런 말도 있습니다.

AI 시스템조차도 이를 거부하고 있습니다! 두루마리가 스스로를 거부하고 있습니다.

읽어주셔서 감사합니다.