작성자: @danbeksha
작성: 페기, 블록비츠
편집자 주: AI는 기업에 도입되고 있지만, 진정한 질문은 "에이전트를 사용할지 여부"가 아니라 "이러한 에이전트가 회사 자체를 이해할 수 있는지 여부"입니다.
이 글은 저자가 Ramp에서 보낸 첫 100일을 출발점으로 삼아 보다 근본적인 문제를 논의합니다. 빠르게 변화하는 기업 환경에서는 신입 사원이 문서를 천천히 읽고, 동료에게 질문하고, 맥락의 부족한 부분을 채워나가는 방식에만 의존할 수 없으며, 각 AI 도구가 독립적으로 작동하도록 내버려 둘 수도 없습니다. 진정으로 중요한 요소는 회의록, 문서, 슬랙 대화, 고객 피드백, 제품 결정 사항 등을 통합하여 지속적으로 업데이트되는 "기업의 두뇌"를 구축하는 것입니다. 이를 통해 신입 사원과 상담원 모두 동일한 공유된 맥락에서 시작할 수 있도록 해야 합니다.
맥락이 체계화되면 온보딩은 더 이상 단순히 긴 적응 과정이 아니며, AI는 더 이상 개별적인 도구에 그치지 않습니다. 기업 AI의 궁극적인 가치는 얼마나 많은 에이전트를 배포하느냐가 아니라, 기업이 먼저 신뢰할 수 있고, 이해하기 쉽고, 재사용 가능한 지식 기반을 구축할 수 있느냐에 달려 있을지도 모릅니다.
다음은 원문입니다.
4x100m 계주에서 승패는 경기 전체가 아닌, 20미터의 바통 교환 구간에 의해 결정되는 경우가 많습니다. 주자들은 빠른 속도로 바통을 교환해야 합니다. 바통을 받는 주자가 너무 일찍 시작하면 바통이 땅에 떨어지고, 너무 늦게 시작하면 속도를 줄여야 하므로 팀 전체가 유리한 위치를 잃게 됩니다. 또한, 바통 교환 자체에 정확성이 부족할 경우, 즉 손의 위치, 각도, 타이밍에 조금이라도 실수가 있으면 바통을 떨어뜨릴 수도 있습니다.
팀에 필드에서 가장 빠른 선수가 있더라도 결정적인 20미터 구간에서 패배할 수 있습니다. 속도도 중요하지만 패스 또한 중요합니다. 진정한 승패를 결정짓는 것은 이 두 가지를 동시에 해낼 수 있느냐입니다.
제가 목격한 모든 인수인계는 마치 릴레이 경주와 같습니다. 다만 한 명의 주자가 출발선에 그대로 서 있는 거죠. 신입 사원은 월요일에 합류해서 아무것도 모르는 상태로 시작하지만, 조직은 속도를 늦추지 않고 원래 속도대로 계속 나아갑니다. 그래서 신입 사원은 문서 자료를 읽고, 슬랙(Slack)에서 정보를 찾아보고, 똑같은 질문 몇 가지를 반복해서 던지면서, 조직이 어떻게 돌아가는지 파악하는 데 석 달을 보내고 나서야 비로소 "유용한 존재"가 될 수 있습니다.
우리는 흔히 이러한 격차를 시간이 해결해 줄 문제라고 생각합니다. 충분한 시간이 주어진다면 신규 참여자들이 자연스럽게 따라잡을 것이라고 생각하는 것이죠. 하지만 현실은 그렇지 않습니다. 이 격차는 시스템 자체에 의해 해소되거나, 아니면 지속될 것입니다.
맥락은 조직의 진정한 인수인계 시스템입니다.
저는 Ramp에 입사한 지 약 100일 정도 되었습니다. 그 전에는 Plaid에서 5년간 근무하면서 모든 제품, 모든 고객 사례, 그리고 모든 의사 결정의 배경을 속속들이 알고 있었습니다. 그 당시의 이야기들을 주저 없이 들려줄 수 있었죠. 하지만 Ramp에 오기 전에는 그 모든 것에 대해 거의 아는 것이 없었습니다.
제품 마케팅의 핵심은 스토리텔링입니다. 등장인물, 줄거리, 배경 스토리를 모르면 제대로 된 스토리를 전달할 수 없습니다.
처음부터 제 목표는 AI 기반 제품 마케팅 조직을 구축하는 것이었습니다. 하지만 이를 위해서는 먼저 제 자신의 지식 기반, 즉 모든 작업의 토대가 되는 "맥락"을 확장해야 했습니다.
Ramp는 빠른 속도로 유명한 회사입니다. "다음 분기에 따라잡자"라는 말은 통하지 않습니다. 매주 새로운 제품을 출시하고, 개선하고, 앞으로 나아갑니다. 그 속도를 따라가지 못하면 회사에 불필요한 비용만 발생하게 될 것입니다.
한편, 저는 또 다른 단계의 온보딩 과정을 거치고 있습니다. 이미 업무 속도가 빠른데, AI는 훨씬 더 빠르게 변화하고 있고, 저는 새로운 회사와 새로운 업무 환경에 동시에 적응해야 합니다. 저는 엔지니어가 아니며, 마지막으로 터미널을 열어본 것은 대학교 컴퓨터 공학 수업 때였습니다. 다시 말해, 조직의 맥락을 파악하는 동시에 새로운 AI 작동 방식에 적응해야 하는데, 이 두 가지가 겹쳐 어려움이 더욱 커지고 있습니다.
궁극적으로 저를 이러한 압박에서 벗어나게 해준 것은 특정 기사를 완성하거나, 제품을 출시하거나, 특정 워크플로를 완료하는 것이 아니라, "맥락" 자체를 하나의 결과물로 취급하는 것이었습니다. 일단 맥락이라는 레이어가 제대로 구축되면, 그 이후의 모든 작업은 훨씬 수월해집니다.
그래서 저는 확장성이 뛰어난 시스템, 즉 연구자들이 좋은 위키를 활용하는 것처럼 제가 놓친 학습 내용을 따라잡는 데 도움이 되는 시스템을 만들기 시작했습니다. 3주 차에는 이미 제 노트를 바탕으로 콘텐츠 초안을 작성하기 시작했고, 8주 차에는 제가 참석하지 못한 학회 내용을 요약해 주기 시작했습니다. 학습과 학습 내용 따라잡기는 여전히 필요했지만, 시스템이 성장함에 따라 그에 드는 비용은 날마다 줄어들었습니다.
사실 이 아이디어의 개인적인 버전은 이미 오래전부터 존재해 왔습니다. 테슬라의 AI 책임자였고 오픈AI의 창립 멤버 중 한 명인 카르파티는 지난 4월, 자신이 "개인 LLM 지식 기반"이라고 부르는 개념을 설명하는 글을 썼습니다. 이 개념은 논문, 기사, 녹취록, 개인 메모 등 원시 입력 자료를 저장하는 폴더, 이러한 자료를 기반으로 위키를 생성하는 LLM, 그리고 Obsidian과 같은 편집기로 구성됩니다. 데이터가 약 100개 정도 축적되면, LLM은 복잡한 검색 기술 없이도 개인 코퍼스를 기반으로 복잡한 질문에 답할 수 있습니다.
그는 급하게 짜깁기한 시나리오 모음이 아니라, 진정으로 뛰어난 신제품을 만들 기회가 있다고 평가했습니다.
개인용 버전은 이미 존재합니다. 하지만 회사용 버전은 없습니다. 그게 문제입니다.
간략히 말하자면, 이것이 제가 입사 후 첫 100일 동안 구축한 시스템입니다. 아직은 정교하지는 않았지만, 이 시스템들이 모여 조직 내 "연결 고리" 역할을 했습니다.
핵심은 클로드(Claude)가 읽고 쓰는 옵시디언(Obsidian) 저장소입니다. 회의록, 문서, 관점, 그리고 제가 접하는 개인 메모 등 모든 것이 이 지식 기반에 저장됩니다. 제가 "제프와 저는 3주 전에 홈페이지에 대해 정확히 어떤 결정을 내렸지?"라고 물으면, 모델은 일반화된 기억에 의존하는 대신 이 저장소에서 답을 찾습니다.
Granola는 기본적으로 모든 회의를 기록하고 매일 밤 회의록을 보관하여 이 저장소에 지속적으로 콘텐츠를 추가합니다. 덕분에 월요일에 놓친 회의록도 수요일에는 이미 확인할 수 있었습니다. 회사 내 다른 사람들이 진행 상황을 파악할 수 있도록 저는 제 작업을 공개하기로 했습니다. 제가 만들고 있는 대부분의 내용은 Notion 문서에 게시되기 전에 #team-pmm이나 관련 릴리스 채널에 먼저 올라왔습니다. 이러한 빌드 프로세스 자체가 일종의 동기화 메커니즘입니다.
이 저장소 위에는 상담원들이 필요에 따라 호출할 수 있는 소규모 명명 스킬 라이브러리가 있습니다. 예를 들어, 한 스킬은 제가 최근 네 번 만난 사람들과의 미팅 내용을 바탕으로 회의 안건을 생성하고, 또 다른 스킬은 슬랙에서 일주일 동안의 제품 관련 활동을 검색하여 기사 주제로 변환합니다. 각 스킬은 약 200줄의 마크다운 코드로 구성되어 있으며, 이전에는 수작업이 필요했던 작업을 자동화하도록 설계되었습니다.
또한, 저는 Ramp의 내부 애플리케이션 플랫폼을 기반으로 동적인 제품 로드맵을 구축했습니다. 이 로드맵은 동일한 컨텍스트 레이어를 읽기 때문에 처음부터 정적인 문서가 아니어서 만료되지 않습니다. 매일 아침 8시에는 Slack 개인 메시지를 통해 어제 출시된 기능, 진행이 지연된 부분, 그리고 제가 답변해야 할 사항에 대한 요약 보고서를 받습니다. 이 모든 내용은 제가 자는 동안 미리 준비되어 있습니다.
개별적으로 보면 이러한 것들은 그다지 인상적이지 않습니다. 하지만 이 모든 것을 종합해 보면, 카르파티가 설명한 것과 같은 위키를 가진 회사는 어떤 모습일지에 대한 실질적인 해답을 제시합니다.
위키, 그래프, 컨텍스트 레이어, 또는 회사 두뇌라고 부르든 상관없습니다. 이름은 중요하지 않습니다. 중요한 것은 기능입니다. 이 시스템은 회의, 슬랙 토론, 문서, 코드, 녹취록, 고객 통화, 주요 결정 등 회사에서 발생하는 모든 신호를 흡수하고 수동 관리 없이 지속적으로 업데이트할 수 있어야 합니다. 또한 모든 신입 직원과 신입 상담원이 업무 시작 전에 가장 먼저 읽어야 할 자료여야 합니다.
만약 신입 직원이 내일 입사한다면, 첫 출근 날 무엇을 읽어야 할까요? 만약 그 답이 2024년에 작성된 노션 문서와 제대로 연결되지 않은 컨플루언스 링크라면, 사실상 정체된 상태를 그대로 이어받는 것과 다름없습니다.
독립형 도구부터 기업의 두뇌 역할까지: AI 분야의 진정한 격차는 무엇인가?
오늘날 기업에 AI가 도입되는 주된 방식은 여전히 현장에 배치된 엔지니어에 의존합니다. OpenAI, Anthropic, 또는 대형 컨설팅 회사 모두 모델 위에 특정 워크플로우를 구축하는 방식을 선택합니다.
이러한 노력들은 진정성 있고 가치 있는 것입니다. 그러나 이러한 노력들은 여전히 기업 AI의 "챗봇 시대"에 머물러 있습니다. 특정 작업에만 초점을 맞춘 협소한 도구들에 불과하며, 그 자체로는 유용하지만 지속적으로 복리 효과를 창출할 수 있는 시스템에 통합되지는 못하고 있습니다.
진정한 '회사 두뇌'는 아직 나타나지 않았습니다. 고객 서비스 담당자와 인사팀 신입 직원 교육 담당자는 서로 다른 팀에서 서로 다른 달에 개별적으로 만들어졌을 가능성이 높습니다. 이들은 지난 전체 회의에서 어떤 결정이 내려졌는지, 회사가 시장을 어떻게 이해하는지, 또는 영업 관리자가 지난 경영진 워크숍에서 어떤 판단을 내렸는지 알지 못합니다. 각 담당자는 특정 업무를 맡은 챗봇에 불과하며, 공통된 두뇌를 공유하지 않습니다.
이것이 현재 가장 큰 격차입니다. 그리고 연구실 밖에서는 이 문제를 해결하기 위한 제품을 개발하는 사람이 거의 없습니다.
2026년에 팀을 구성하거나 회사를 시작한다면, 워크플로는 2022년과는 다를 것입니다. 먼저 컨텍스트 문서를 작성한 다음 도구를 설치하세요. 모든 회의를 녹화하세요. 위키를 먼저 구축한 다음 대시보드를 만드세요. 슬라이드가 아닌 기술을 가르치세요. 신입 직원이 입사 첫날부터 위키를 읽고 콘텐츠를 작성하도록 하세요. 회사의 "두뇌"를 유지하는 사람들을 채용하고 승진시키고, 회사의 두뇌를 진정으로 이해하고 활용하는 담당자들을 재활용하세요.
컨텍스트는 부가적인 프로젝트가 아닙니다. 모든 AI 투자가 진정으로 결실을 맺도록 하는 핵심 인프라입니다.
저는 현재 Ramp에서 그 일부를 구축하고 있습니다. 위키, 스킬셋, 동일한 맥락에서 정보를 읽어오는 애플리케이션, 그리고 콘텐츠를 지속적으로 공급하는 관리 메커니즘을 만들고 있죠. 아직 규모가 작고 초기 단계입니다. 혹시 다른 플랫폼에서 회사 차원의 버전을 구축하고 계신다면, 경험을 공유하고 싶습니다. 믿을 만한 두뇌 하나가 더 유용할 수는 없으니까요.
다시 릴레이 경주로 돌아가서, 진정한 승리의 조건은 가장 깔끔한 바통 전달이나 가장 빠른 주자가 아니라, 이 두 가지가 20미터 구간 내에서 동시에 이루어지는 것입니다.
신입 사원은 회사의 핵심 시스템에 접근한 후 본격적인 업무에 돌입합니다. 신규 상담원은 회사의 핵심 시스템에 접근한 후 업무를 시작합니다. 신규 고객은 회사의 핵심 시스템에 접근하여 첫날부터 바로 서비스를 이용할 수 있습니다.
"점진적 증량"이라는 단어가 더 이상 의미가 없어질 때, 우리는 우리가 옳은 일을 했다는 것을 알게 됩니다.
