암호화폐 시장에서는 뉴스 기사 하나를 잘못 해석하는 것만으로도 수백만 달러의 손실을 초래할 수 있습니다. 기존의 감성 분석 시스템(오픈소스 모델과 자체 호스팅 LLM을 결합한 방식)은 전 세계 25개 언어로 제공되는 실시간 뉴스 스트림을 처리하는 데 어려움을 겪었습니다. 예를 들어, "이더리움 합병"과 같은 사건은 언어권마다 완전히 상반된 해석을 불러일으켰고, 시스템은 지연 시간이 급증하거나 모순된 감성 레이블을 생성하는 문제가 발생했습니다. 이러한 문제로 인해 우리는 핵심 과제를 재고해야 했습니다. 어떻게 하면 전 세계 사용자에게 빠르고 정확한 시장 분석 정보를 제공할 수 있을까? 그 해답은 정교하게 설계된 "다중 모델 합의(multi-model consensus)" 아키텍처에 있었습니다.
건축의 진화: 단일 모델에서 전문가 위원회로
우리는 처음에 "범용 모델"을 찾는 함정에 빠졌습니다. 경험상 단일 LLM(언어 모델)으로는 처리 속도, 다국어 정확도, 암호화폐 도메인 전문성 등 여러 측면에서 동시에 생산 수준의 요구 사항을 충족할 수 없다는 것을 알게 되었습니다. Claude 3 Haiku는 신속하게 응답했지만 중국어 커뮤니티 속어에 대한 이해도가 부족했고, 우리가 세밀하게 조정한 Mistral 모델은 프로젝트 백서 분석에는 탁월했지만 장문 텍스트 처리 효율성에서 병목 현상을 보였습니다. 더욱 심각한 것은 이러한 모델들을 자체 호스팅하는 데 따른 인프라 부담, 즉 최대 트래픽 시 GPU 리소스 경합과 지속적인 운영 복잡성으로 인해 팀의 업무 부담이 가중되었다는 점입니다. 이러한 문제점들을 해결하기 위해 우리는 모델 연합이라는 핵심 개념을 구상하게 되었습니다. 즉, 특화된 모델들이 각자의 강점을 발휘하고 스마트한 중재 메커니즘을 통해 집단 지능을 통합하는 것입니다.
이중 경로 비동기 파이프라인 설계
새 시스템의 핵심은 AWS에서 실행되는 이중 경로 비동기 파이프라인으로, P99 지연 시간을 1초 미만으로 엄격하게 유지하면서 동시에 이중화를 보장하도록 설계되었습니다.
뉴스 텍스트는 먼저 두 개의 처리 채널로 병렬로 입력됩니다. 첫 번째는 고속 채널로, 아마존 베드락(Amazon Bedrock)의 클로드 3 하이쿠(Claude 3 Haiku)를 직접 호출하여 초기 감정 분석 및 핵심 요소 추출을 수행하며, 일반적으로 300밀리초 이내에 완료됩니다. 두 번째는 심층 분석 채널로, 텍스트를 아마존 세이지메이커(Amazon SageMaker)의 정교하게 조정된 미스트랄 7B(Mistral 7B) 모델로 보내 도메인 컨텍스트를 강화합니다. 예를 들어, "급등하는 가스 수수료"가 일반적인 네트워크 혼잡 때문인지 아니면 인기 있는 NFT 발행 이벤트 때문인지 구분하는 작업이며, 이 과정은 약 600밀리초가 소요됩니다.
진정한 혁신은 경량화된 중재 계층 설계에 있습니다. 이 계층은 두 경로의 출력을 실시간으로 비교합니다. 결과가 매우 일치할 경우, 최고 수준의 응답성을 보장하기 위해 고속 채널의 출력을 우선시합니다. 불일치가 발생할 경우, 사전 정의된 도메인 규칙과 신뢰도 점수를 기반으로 20밀리초 이내에 의사 결정을 종합합니다. 이러한 메커니즘을 통해 대다수의 요청은 1초 이내에 속도와 깊이를 모두 갖춘 신뢰할 수 있는 정보를 얻을 수 있습니다.
데이터 파이프라인의 숨겨진 전쟁터
모델 구축 자체는 엔지니어링 과제의 표면적인 부분에 불과하며, 진정한 복잡성은 데이터 파이프라인 깊숙한 곳에 숨어 있습니다. 전 세계 뉴스 소스와 소셜 미디어에서 쏟아져 나오는 데이터 스트림은 혼합 언어, 이모티콘, 인터넷 속어와 같은 노이즈로 가득 차 있습니다. 이러한 문제를 해결하기 위해, 우리는 언어별 정규 표현식과 FastText 기반 실시간 탐지 모델을 결합한 다층 필터링 시스템을 구축하여 입력 텍스트의 정확성을 확보했습니다. 이러한 전처리 과정의 안정성은 후속 분석의 신뢰도를 직접적으로 좌우합니다.
훨씬 더 큰 과제는 평가 시스템을 구축하는 것이었습니다. 우리는 다국어 전문가 팀의 수동 주석 작업에만 의존하는 것이 아니라, 시장 반응을 동적 검증 지표로 도입했습니다. 즉, 감정 분석 결과와 관련 자산의 숏 가격 변동을 연관시켜 평가 기준을 지속적으로 개선했습니다. 이를 통해 시스템은 정적인 주석 정확도 추구에서 동적인 시장 인식의 효과성을 추적하는 방향으로 전환되었습니다.
인프라 비용 철학
Bedrock API로의 마이그레이션은 운영 방식에 근본적인 변화를 가져왔습니다. 가장 주목할 만한 성과는 인프라 부담의 완전한 제거와 거의 무한대에 가까운 탄력적 확장성이었습니다. 속보로 인해 트래픽이 300% 급증하는 상황에서도 시스템은 수동 개입 없이 원활하게 대응할 수 있었습니다. 비용 구조 측면에서는 토큰당 가격 모델을 사용하지만, 빈번하게 발생하는 뉴스 템플릿의 지능형 캐싱과 신속한 엔지니어링의 지속적인 최적화를 통해 자체 호스팅 GPU 클러스터의 유휴 비용 낭비에 비해 전체 지출을 약 35% 절감했습니다. 이러한 변화를 통해 엔지니어링 리소스는 중재 로직 및 파이프라인 최적화와 같은 핵심 혁신에 집중할 수 있게 되었습니다.
결론 및 향후 방향
이러한 아키텍처 진화에서 얻은 핵심적인 통찰은 극한의 성능을 요구하는 프로덕션 시스템의 경우, "단일 권위 모델"보다는 "각자의 역할을 수행하는 전문가 위원회"가 더 나은 경우가 많다는 것입니다. 범용 LLM의 빠른 응답 속도와 도메인 특화 모델의 심층적인 의미론적 이해력을 유기적으로 결합함으로써, 우리는 마침내 글로벌 시장의 실시간 테스트를 견딜 수 있는 감정 인식 시스템을 구축했습니다.
앞으로 우리는 시스템을 '감정 분석'에서 '내러티브 추적' 에이전트로 발전시켜 나갈 것입니다. 새로운 과제는 AI가 감정의 극성을 판단하는 것뿐만 아니라 '실물 자산 토큰화'와 같은 새로운 내러티브의 형성, 확산, 소멸 궤적을 식별하고 지속적으로 추적할 수 있도록 하는 것입니다. 이를 위해서는 더욱 강력한 메모리 메커니즘과 인과 추론 능력을 갖춘 아키텍처가 필요하며, 이는 차세대 지능형 금융 인프라의 최전선으로 우리를 이끌어 줄 것입니다.
