기업 75%가 AI 에이전트를 도입했지만, 거버넌스와 기술 성숙도 부족이 에이전틱 AI로 나아가는 걸림돌로 작용하고 있다는 조사 결과가 나왔다.
가트너가 IT 애플리케이션 책임자 중 15%만이 사람의 감독 없이 목표를 수행하는 완전 자율 AI 에이전트를 고려하거나, 시범 운영, 구축 중이라는 설문조사 결과를 발표했다.
가트너는 2025년 5월부터 6월까지 북미, 유럽, 아시아 태평양 기업의 IT 애플리케이션 책임자 360명을 대상으로 설문조사를 실시해, 생성형 AI와 에이전틱 AI가 기업 애플리케이션에 미치는 영향을 파악했다.
가트너 시니어 디렉터 애널리스트 맥스 고스는 “에이전틱 AI를 둘러싼 과대광고는 계속 확산하고 있으며, 많은 업체가 기존 생성형 AI 어시스턴트의 한계를 극복할 차세대 AI 기술로 AI 에이전트를 제시하고 있다”라며 “이번 조사에서도 응답자의 75%가 AI 에이전트를 시범 도입했거나, 배포 중, 배포 완료했다고 답했지만, 거버넌스 부재, 기술 성숙도, 확산에 대한 우려가 진정한 에이전틱 AI 구축을 가로막고 있다”라고 전했다.
완전 자율 솔루션 구축의 주요 장애 요인으로는 공급업체의 보안·거버넌스·환각 방지 역량에 대한 신뢰 부족과 기업의 준비 상태에 대한 우려가 지목됐다. 설문조사에 따르면, 응답자 19%만이 AI 업체의 환각 방지 기능을 높이 또는 완전히 신뢰한다고 답했으며, 74%는 AI 에이전트가 조직 내 새로운 공격 경로가 될 것이라고 우려했다. 또한 이를 관리할 적절한 거버넌스 체계를 갖추었다고 확신한 응답자는 13%에 그쳤다.
AI 에이전트, 영향력은 상당하지만 혁신 효과는 미지수
응답자의 26%는 AI 에이전트가 생산성에 혁신적 변화를 가져올 것으로 예상했으며, 절반 이상(53%)은 영향력은 크지만 혁신적인 수준은 아닐 것이라고 답했으며, 20%는 효과가 제한적일 것이라고 전망했다.
Gartner
또한 AI 활용 목표에 대해 IT와 비즈니스 직원, 경영진 간 의견이 매우 일치한다고 답한 응답자는 14%에 불과했다. 의견이 일치하는 기업은 그렇지 않은 기업보다 AI 에이전트를 혁신적이라고 평가할 가능성이 1.6배 높고, 생성형 AI 도구에서 가치를 발견할 가능성이 3배 이상 높은 것으로 나타났다.
이와 관련해 고스는 “AI 활용 목표와 그 가치 측정 방법에 대한 합의가 성공적인 AI 배포의 핵심임에도 불구하고, 많은 기업이 이를 확보하지 못하고 있다”라고 지적했다.
AI 에이전트 배포 우선순위 재정립 필요해
AI 활용 목표에 대한 내부 합의가 부족한 기업은 AI 에이전트가 가장 큰 영향을 미칠 분야로 ‘사무 생산성’을 꼽을 가능성이 거의 2배에 달했다. 반면, 의견이 일치한 기업은 ‘고객 서비스’, ‘ERP’, ‘영업’ 등 보다 직접적이고 가치 창출이 가능한 활용례에 집중하는 경향을 보였다.
고스는 “AI 에이전트 활용 방안에 대한 이해가 부족한 기업에서는 사무 생산성과 디지털 업무 환경이 기본 선택지가 될 수 있지만, 반드시 최대 가치를 제공하는 영역은 아니다”라며 “조사 결과, AI 에이전트의 영향을 가장 크게 받을 분야로는 분석 및 비즈니스 인텔리전스(64%)가 1위를 차지했으며, 고객 서비스(55%), 사무 생산성(39%)이 그 뒤를 이었다”라고 설명했다.
AI 에이전트, 단기간 내 애플리케이션·인력 대체 어려워
AI 에이전트의 장기적 도입 전망은 불확실하지만, 대부분 책임자는 향후 2~4년 내에 이 기술이 애플리케이션이나 인력을 대체할 가능성은 낮다고 예상했다. AI 에이전트가 애플리케이션을 대체할 것이라고 강력히 동의한 응답자는 12%에 불과했으며, 작업자를 대체할 것이라는 응답자는 7%에 그쳤다. 다만 어느 정도 동의하는 비율은 각각 34%, 29%로 훨씬 높게 나타났다.
고스는 “보편화된 지 겨우 12개월밖에 안 된 기술임을 고려할 때 이는 상당한 수치이며 에이전틱 AI를 둘러싼 과대광고와 불확실성이 동시에 존재함을 보여준다”라고 말했다.
가트너는 기업이 에이전틱 AI를 도입할 때 다음 3가지 핵심 영역에 집중할 것을 권장했다.
- AI 에이전트 거버넌스 구축 : 특정 플랫폼에 종속되지 않는 거버넌스 프레임워크를 구축해 무분별한 확산 위험을 방지하고, 기업이 다양한 도구와 영역에 걸쳐 AI 에이전트 기능을 안전하게 개발할 수 있도록 명확한 지침·정책·제어 기능을 제공해야 한다.
- 영향력 높은 영역에 전략적 배치 : AI 에이전트 활용 목적에 대해 IT와 비즈니스 부서 간 합의를 도출하는 것이 성공의 핵심이다. 사무 생산성 제품군에 AI 에이전트를 배포하는 것이 위험 부담이 크고 수익성이 낮다면, 고객 서비스나 데이터 및 분석과 같이 보다 실질적인 ROI를 제공할 수 있는 다른 영역을 고려할 수 있다. 적절한 활용 사례에 AI 에이전트를 도입하면, 기술에 대한 신뢰를 구축하고 에이전트를 가장 효과적으로 활용할 수 있는 영역을 식별할 수 있다.
- 멀티 업체 전략 채택 : 가트너는 AI 에이전트 전략을 단일 업체에 의존하기에는 아직 이르다고 판단했다. 기업은 ERP, CRM, 디지털 워크플레이스 포트폴리오 전반에서 다양한 옵션을 탐색하고, 변화하는 요구사항을 충족할 수 있는 공급업체 역량을 활용해야 한다.
가트너 고객은 ‘기업 애플리케이션에서 생성형 AI와 에이전틱 AI의 영향 평가‘ 보고서에서 더 자세한 내용을 알아볼 수 있다.
dl-ciokorea@foundryco.com
