견고한 거버넌스는 AI 위험을 완화하고 책임감 있는 시스템을 유지하는 데 필수적이지만, 대부분의 기업은 아직 프레임워크를 구현하지 않았습니다.
Prove AI가 의뢰하고 Zogby Analytics가 수행한 보고서는 미국, 영국, 독일의 대기업 CEO, CIO, CTO 600명 이상을 설문조사했습니다. 조사 결과, 96%의 기업이 이미 비즈니스 운영을 지원하기 위해 AI를 활용하고 있으며, 같은 비율의 기업이 향후 1년 내 AI 예산을 늘릴 계획이라고 나타났습니다.
AI 투자의 주요 동기는 생산성 향상(82%), 운영 효율성 개선(73%), 의사 결정 향상(65%), 비용 절감(60%) 등입니다. 가장 일반적인 AI 사용 사례는 고객 서비스 및 지원, 예측 분석, 마케팅 및 광고 최적화입니다.
AI 투자가 급증했음에도 불구하고, 비즈니스 리더들은 AI가 조직에 가져오는 추가 위험 노출에 대해 깊이 인식하고 있습니다. 데이터 무결성과 보안이 새로운 AI 솔루션 구현의 가장 큰 장애물로 나타났습니다.
경영진은 다음과 같은 다양한 AI 성능 문제에 직면했다고 보고했습니다:
- 데이터 품질 문제(예: 일관성 또는 정확성 부족): 41%
- AI 알고리즘의 편향 탐지 및 완화 과제, 이로 인한 불공정하거나 차별적인 결과: 37%
- AI 이니셔티브의 ROI 정량화 및 측정의 어려움: 28%
응답자의 95%가 현재 AI 위험 관리 관행에 대해 자신감을 표했지만, 보고서는 AI 거버넌스 구현에 상당한 격차가 있음을 드러냈습니다.
경영진의 5%만이 자사에 AI 거버넌스 프레임워크가 구현되어 있다고 보고했습니다. 그러나 82%는 AI 거버넌스 솔루션 구현이 다소 또는 매우 시급한 우선순위라고 밝혔으며, 85%는 2025년 여름까지 이러한 솔루션을 구현할 계획이라고 답변했습니다.
또한 보고서는 82%의 참여자가 더 강력한 감독을 제공하기 위한 AI 거버넌스 행정 명령에 동의한다는 것을 발견했습니다. 추가적으로 65%는 지적재산권 침해와 데이터 보안에 대해 우려를 표했습니다.
Prove AI의 CEO인 Mrinal Manohar는 "경영진들은 자신들의 의견을 분명히 밝히고 있습니다: AI의 장기적인 효과성, 즉 현재 기업이 투자하고 있는 막대한 투자에 대한 의미 있는 수익을 제공하는 것은 포괄적인 AI 거버넌스 전략을 개발하고 개선할 수 있는 능력에 달려 있습니다."라고 말했습니다.
"전 세계적으로 시행되고 있는 AI 관련 법률은 이 문제의 긴급성을 높이고 있습니다; 현재의 혁신 물결이 책임감 있게 지속되려면 AI 시스템에 정보를 제공하는 데이터를 관리하고 모니터링하기 위한 더 명확한 가이드라인을 구현해야 합니다."
EU AI 법과 같은 글로벌 규제가 다가오면서, 이 보고서는 AI 위험 관리의 중요성과 아직 해결해야 할 과제를 강조합니다. 전용 AI 거버넌스 전략을 구현하고 최적화하는 것이 AI의 힘을 활용하면서도 관련 위험을 완화하고자 하는 기업들의 최우선 과제로 부상했습니다.
이 보고서의 결과는 AI 기술에 지속적으로 투자하면서도 AI 거버넌스를 우선순위로 삼아야 한다는 것을 조직에 일깨워주는 경종입니다. 책임감 있는 구현과 견고한 거버넌스 프레임워크가 신뢰와 규정 준수를 유지하면서 AI의 잠재력을 최대한 발휘하는 데 핵심이 될 것입니다.
(사진 제공: Rob Thompson)
관련 기사: AI 모델 평가: Endor Labs, 평가 도구 공개
업계 리더들로부터 AI와 빅데이터에 대해 더 자세히 알아보고 싶으신가요? AI & Big Data Expo에 참석해 보세요. 이 종합 행사는 Intelligent Automation Conference, BlockX, Digital Transformation Week, Cyber Security & Cloud Expo와 함께 개최됩니다.
TechForge에서 제공하는 다른 upcoming 엔터프라이즈 기술 행사와 웨비나를 여기에서 확인하세요.
이 기사는 AI News에 처음 게재되었습니다.
