기업 AI 도입, 병목은 모델 아닌 ‘신뢰할 데이터’…운영 확장 가로막는다

AI 도입의 병목은 ‘모델’이 아니라 ‘데이터’에 있다는 지적이 나왔다. 기업들이 생성형 AI와 에이전틱 AI의 가능성은 확인했지만, 실제 업무 환경에서 성과를 내지 못하는 가장 큰 이유는 신뢰할 수 있는 데이터 기반이 부족하기 때문이라는 분석이다.

퀵 테크놀로지스(Qlik Technologies)의 크리스 파월 최고마케팅책임자(CMO)는 최근 ‘퀵 커넥트 2026’ 행사에서 많은 기업이 AI 실험 단계는 넘어서고 있지만, 본격적인 운영 환경으로 확장하는 데는 여전히 어려움을 겪고 있다고 말했다. 그는 문제의 핵심이 AI 모델 자체의 성능보다 ‘AI가 믿고 활용할 수 있는 데이터’에 있다고 강조했다.

파월은 “이제 쟁점은 AI가 작동하느냐가 아니라, 데이터가 AI를 위해 제대로 작동하느냐의 문제”라며 “데모에서는 누구나 AI의 잠재력을 확인할 수 있지만, 실제 현장에서 그 결과를 안정적으로 구현하는 일은 전혀 다른 과제”라고 설명했다.

이번 발언은 퀵과 엔터프라이즈 테크놀로지 리서치의 조사 결과와도 맞닿아 있다. 해당 조사에 따르면 데이터 품질, 데이터 접근성, 데이터 거버넌스는 에이전틱 AI를 실제 운영에 안착시키는 과정에서 가장 큰 장애물로 꼽혔다. 기업들의 AI 투자 의지는 높지만, 기대한 수익으로 이어지지 않는 ‘현실의 벽’이 바로 데이터 인프라라는 의미다.

‘신뢰 점수’와 데이터 계보가 핵심

파월은 기업이 AI를 생산 단계로 끌어올리기 위해서는 세 가지 축이 필요하다고 봤다. 첫째는 데이터를 신뢰할 수 있어야 하고, 둘째는 그 데이터에 담긴 고유한 맥락을 이해해야 하며, 셋째는 기술 변화에 맞춰 유연하게 대응할 수 있는 구조를 갖춰야 한다는 것이다.

특히 그는 데이터의 ‘출처’와 ‘변경 이력’, ‘접근 권한’, ‘저장 위치’ 같은 요소가 중요하다고 짚었다. 단순히 데이터가 존재하는지만 볼 것이 아니라, 그 데이터가 어디서 왔고 누가 다뤘으며 시간이 지나면서 어떻게 바뀌었는지를 추적할 수 있어야 한다는 뜻이다. 퀵은 이를 위해 AI용 ‘트러스트 스코어(신뢰 점수)’ 체계를 제시하고 있다. 이는 특정 데이터가 대규모언어모델(LLM)에 투입되기에 충분히 신뢰할 만한지 평가하는 장치다.

이 같은 접근은 금융, 물류, 의료처럼 작은 오류도 큰 비용으로 이어질 수 있는 산업에서 특히 중요하다. 데이터의 신뢰성이 담보되지 않으면, AI가 잘못된 판단을 내릴 가능성도 그만큼 커지기 때문이다.

사람의 판단과 비용 통제가 확장성 가른다

파월은 AI 확장의 또 다른 조건으로 ‘사람의 전문성’과 ‘비용 구조’를 꼽았다. 그는 유나이티드 파슬 서비스(UPS) 사례를 언급하며, 에이전트가 어디까지 자율적으로 판단할 수 있고 언제 사람에게 판단을 넘겨야 하는지를 명확히 설계한 기업일수록 대규모 운영에 더 가까이 가고 있다고 설명했다.

이는 에이전틱 AI가 모든 결정을 자동으로 처리하는 구조보다, 사람의 현장 지식과 통제 체계를 함께 녹여낸 형태에서 더 높은 실효성을 보인다는 의미로 읽힌다. 결국 AI 도입은 자동화 기술의 경쟁이 아니라, 인간의 전문성을 어떻게 시스템 안에 반영하느냐의 문제로도 이어진다.

비용 역시 뒤로 미룰 수 없는 변수다. 파월은 AI 시스템을 설계하는 초기 단계부터 비용 통제 장치를 함께 넣지 않으면, 확장 가능한 구조를 만들기 어렵다고 경고했다. 겉으로는 성능이 좋아 보여도 운영비가 빠르게 불어나면 지속 가능성이 떨어지고, 결국 재무 부서와 투자 대비 수익률(ROI)을 따지는 단계로 되돌아갈 수 있다는 설명이다.

정리하면 기업의 AI 성패는 더 뛰어난 모델 확보보다 ‘신뢰할 수 있는 데이터 기반’, ‘사람의 판단을 반영한 운영 설계’, ‘지속 가능한 비용 구조’에 달려 있다는 분석이다. AI 경쟁이 본격화하는 국면에서, 이제 시장의 관심은 기술 시연보다 실제 현장에서 반복 가능하고 수익성 있는 구조를 만들 수 있느냐로 옮겨가고 있다.