챗봇 이후의 AI, 이제는 ‘운영 주체’를 묻는 단계로

생성형 AI가 조직 안으로 빠르게 확산됐지만, 그 활용 방식은 아직 한계가 분명하다. 많은 기관과 기업이 AI를 도입했음에도, 실제 업무 구조는 크게 달라지지 않았다. 질문에 답하고 문서를 요약하는 수준을 넘어서지 못한 채, AI는 여전히 ‘보조 수단’으로 머물러 있다. AI를 도입했느냐보다, AI가 어떤 역할을 맡고 있느냐가 조직의 변화를 가르는 기준이 되고 있다. 최근 공개된 Databricks의 State of AI Agents 분석은 이 지점에서 중요한 전환 신호를 포착한다. 이 분석에 따르면, 이미 67%의 조직이 AI 기반 도구를 활용하고 있지만, 스스로 계획하고 도구를 호출하며 업무를 수행하는 AI 에이전트를 실제 운영 환경에 배치한 조직은 19%에 그친다. AI 활용이 확산된 것처럼 보이지만, 업무의 주체로 AI를 전환한 사례는 아직 제한적이라는 의미다.

이 격차는 기술 성숙도의 문제가 아니다. 같은 분석에서 인용된 MIT Technology Review 조사에서도 확인되듯, AI의 잠재력에 대한 기대는 높지만 실제 성과로 이어지는 비율은 낮다. 문제는 어떤 모델을 쓰느냐가 아니라, AI를 기존 업무 체계 안에 어떻게 위치시키느냐에 있다. 지금 벌어지고 있는 변화는 바로 이 질문에 대한 답을 바꾸는 과정에 가깝다.

AI 활용의 방향은 점점 분명해지고 있다. 단일 챗봇이나 범용 모델이 아니라, 역할을 분화한 여러 에이전트가 협력하는 구조가 빠르게 확산되고 있다. 실제 운영 데이터에 따르면, 멀티 에이전트 워크플로의 사용량은 불과 네 달 만에 327% 증가했다. 이는 AI가 ‘대화 인터페이스’ 중심에서 ‘업무 흐름’ 중심으로 이동하고 있음을 보여준다. 특히 여러 에이전트와 도구를 조율하는 Supervisor Agent는 2025년 7월 출시 이후 빠르게 확산되며, 같은 해 10월 기준 전체 에이전트 활용의 37%를 차지했다. 정보 추출, 지식 검색, 문서 구조화와 같은 개별 기능을 넘어, 업무 전체를 조정하는 역할을 AI가 맡기 시작한 것이다. 이는 AI가 더 똑똑해졌기 때문이라기보다, 조직이 AI에게 맡길 일을 구체적으로 정의하기 시작했기 때문에 가능해진 변화다.

이러한 흐름은 특정 산업에만 국한되지 않지만, 기술 산업에서 특히 빠르게 나타난다. 기술 기업은 평균적으로 다른 산업보다 약 네 배 많은 멀티 에이전트 시스템을 구축하고 있는데, 이는 기술 격차라기보다 문제를 분해하고 업무를 구조화하는 방식의 차이에 가깝다. 멀티 에이전트 시스템은 AI 도입의 결과라기보다, 조직 운영 방식이 달라질 때 자연스럽게 따라오는 구조로 보인다.

AI 에이전트가 데이터 계층을 장악하다

멀티 에이전트 시스템의 확산이 업무 단위의 변화라면, 더 근본적인 전환은 데이터 인프라에서 나타난다. 운영 데이터에 따르면, 2025년 기준 전체 데이터베이스의 80%가 AI 에이전트에 의해 생성되고 있으며, 테스트와 개발 환경에서 사용되는 데이터베이스 브랜치의 97%는 이미 에이전트가 자동으로 만들어낸다. 불과 2년 전만 해도 이 비율은 0.1%에 불과했다. 데이터 인프라의 생성과 분기, 실험 환경 구성까지 AI가 담당하는 구조가 빠르게 표준이 되고 있다. 이 변화는 단순한 자동화의 문제가 아니다. AI 에이전트는 사람이 설계한 환경 안에서 정해진 작업만 수행하는 존재가 아니라, 필요에 따라 데이터베이스를 만들고 분기하며, 실험이 끝나면 즉시 폐기하는 고빈도·고속 운영을 전제로 작동한다. 이러한 패턴은 전통적인 OLTP 데이터베이스가 가정해 온 인간 중심의 사용 방식과는 근본적으로 다르다. 예측 가능한 트랜잭션, 제한적인 스키마 변경, 수동 프로비저닝을 전제로 한 구조로는 에이전트 중심 환경을 감당할 수 없게 된 것이다.

이와 같은 전환을 두고 Gartner는 2028년까지 새로운 프로덕션 소프트웨어의 40%가 이른바 ‘vibe coding’ 방식으로 만들어질 것으로 전망한 바 있다. 자연어로 요구사항을 설명하면 AI가 코드를 생성하는 방식이 확산될수록, 데이터베이스와 운영 인프라는 인간의 속도가 아니라 에이전트의 속도에 맞춰 재편될 수밖에 없다. AI 에이전트가 데이터 계층의 ‘사용자’를 넘어 ‘운영자’로 이동하고 있다는 진단이 나오는 이유다.

광고

AI 에이전트가 만들어내는 작업 패턴은 기존 시스템의 전제를 무너뜨린다. 에이전트는 연속적인 읽기·쓰기 작업을 수행하며, 다단계 추론 과정에서 복잡한 쿼리를 반복적으로 실행한다. 동시에 수많은 실험 환경을 병렬로 생성하고, 필요에 따라 즉시 되돌리는 방식으로 움직인다. 이는 밀리초 단위의 분기, 대규모 동시성, 강력한 격리와 실시간 응답성을 요구하는 환경이다. 이러한 요구에 대응해 등장한 것이 ‘AI 시대를 위한 운영 데이터베이스’라는 새로운 범주다. 이 범주는 전통적인 트랜잭션 성능에 더해, 에이전트가 프로그래밍 방식으로 데이터베이스를 생성·분기·오케스트레이션할 수 있는 구조를 전제로 한다. 분석에 따르면, 이러한 구조는 단순히 성능 개선의 문제가 아니라, 에이전트 기반 업무를 가능하게 하는 전제 조건에 가깝다. AI가 실제로 일을 하게 만들기 위해서는, AI가 작동할 수 있는 데이터 환경부터 달라져야 한다는 의미다.

이 지점에서 주목할 점은, 이 변화가 특정 기업이나 특정 산업의 선택이 아니라는 사실이다. AI 에이전트가 수행하는 업무가 늘어날수록, 데이터와 운영 인프라는 필연적으로 재구성된다. 이는 기술 도입 여부의 문제가 아니라, 이미 시작된 사용 방식의 변화가 시스템 전반을 끌고 가는 흐름에 가깝다. 대학과 공공기관 역시 예외일 수 없는 이유가 여기에 있다. 행정·연구·교육 시스템이 점점 더 많은 데이터와 규칙, 반복 작업 위에서 움직이는 한, AI 에이전트가 요구하는 인프라 조건은 같은 질문을 던질 수밖에 없다.

혁신보다 먼저 확산되는 것, ‘반복 업무’

AI 에이전트 활용의 양상을 들여다보면, 기대와는 다른 장면이 먼저 나타난다. 가장 많이 사용되는 사례들은 전략 수립이나 고난도 판단이 아니라, 필수적이지만 반복적인 업무들이다. 전체 AI 활용 사례 가운데 약 40%는 고객 지원, 온보딩, 질의 분류, 문서 요약, 개인화된 콘텐츠 생성과 같은 일상적 작업에 집중돼 있다. 이는 AI가 조직의 핵심 의사결정을 대체하고 있기 때문이 아니라, 사람이 계속 붙잡고 있을 필요가 없는 일을 먼저 넘겨받고 있다는 신호에 가깝다. 이 같은 경향은 산업과 지역을 가리지 않고 반복된다. 금융, 제조, 헬스케어, 공공 영역 모두에서 상위 활용 사례는 ‘필요하지만 지루한 일’에 몰려 있다. 예외적으로 산업별 특성에 따라 세부 영역은 달라지지만, 기본 방향은 일관된다. AI 에이전트는 혁신을 앞세우기보다, 조직이 매일 반복하는 운영 업무를 통해 신뢰를 축적하는 방식으로 확산되고 있다. 이는 기술 도입의 서사가 아니라, 운영 안정성의 축적 과정에 가깝다.

이 지점은 대학과 공공기관을 포함한 비영리 조직에도 그대로 적용된다. 규정에 따라 반복되는 판단, 유사한 민원과 문의, 주기적으로 생성되는 보고와 문서, 예외 처리를 제외한 대다수의 행정 흐름은 이미 구조화된 데이터와 규칙 위에서 움직인다. AI 에이전트가 이 영역에서 먼저 자리 잡는 이유는, 기술이 앞서서가 아니라 업무의 성격이 에이전트와 잘 맞기 때문이다.

AI 에이전트 확산과 함께 또 하나의 변화가 나타난다. 단일 모델 중심 전략에서 벗어나, 여러 모델을 조합해 사용하는 멀티모델 전략이 빠르게 기본값이 되고 있다. 2025년 10월 기준, 조직의 78%는 두 개 이상의 LLM 모델 패밀리를 사용하고 있으며, 세 개 이상을 사용하는 비율은 불과 몇 달 사이 36%에서 59%로 급증했다. 특정 모델의 우월성보다는, 업무 유형에 맞는 선택과 조합이 중요해졌다는 의미다. 이 변화는 비용과 성능, 그리고 위험 관리의 문제와 직결된다. 모든 업무에 동일한 모델을 적용하는 방식은 비효율적일 뿐 아니라, 특정 벤더에 대한 의존도를 높인다. 반면 멀티 에이전트 환경에서는 정보 추출, 요약, 추론, 생성 등 역할에 따라 다른 모델을 배치하는 것이 자연스럽다. 이는 AI 전략이 기술 선택의 문제가 아니라, 업무 설계의 문제로 이동하고 있음을 보여준다.

대학과 공공기관 역시 이 변화에서 자유롭지 않다. 예산 구조와 조달 방식, 책임성과 감사 체계를 고려할 때, 단일 모델에 모든 업무를 의존하는 전략은 오히려 부담을 키울 수 있다. 멀티모델 전략은 단순한 기술 트렌드라기보다, 장기적인 운영 안정성과 정책적 유연성을 확보하기 위한 선택지로 부상하고 있다.

운영으로 가는 관문, 거버넌스와 평가

AI 에이전트 도입이 늘어날수록 조직이 마주하는 질문은 단순해진다. “이 시스템을 실제로 운영해도 되는가.” 많은 조직이 이 질문 앞에서 멈춘다. 2025년 기준, 생성형 AI 파일럿의 95%가 운영 단계로 이어지지 못한다는 조사 결과는 이 지점을 단적으로 보여준다. 기술이 부족해서가 아니라, 통제와 책임의 구조가 준비되지 않았기 때문이다. 운영 데이터는 이 문제에 대해 분명한 상관관계를 제시한다. AI 거버넌스를 적극적으로 도입한 조직은 그렇지 않은 조직에 비해 12배 더 많은 AI 프로젝트를 실제 운영 환경에 배치하고 있다. 여기서 거버넌스는 단순한 규제나 승인 절차를 의미하지 않는다. 데이터 접근 방식, 사용 범위, 호출 빈도, 책임 주체를 정의하는 운영 계층으로서 작동한다. 에이전트가 자율적으로 움직일수록, 이를 감싸는 구조는 더 정교해질 수밖에 없다.

이러한 흐름 속에서 Databricks AI Gateway와 같은 통합 거버넌스 도구의 활용은 2025년 한 해 동안 7배 이상 증가했다. 이는 조직들이 AI를 ‘통제하기 위해’서가 아니라, 운영에 올리기 위해 거버넌스를 구축하고 있음을 시사한다. 자율성을 제한하지 않으면서도 책임을 명확히 하는 구조가 있어야만, 에이전트는 실험을 넘어 일상 업무로 이동할 수 있다.

거버넌스가 경계를 설정한다면, 평가는 에이전트의 행동을 지속적으로 검증하는 장치다. AI 평가 도구를 적극적으로 사용하는 조직은 그렇지 않은 조직에 비해 약 6배 더 많은 AI 프로젝트를 운영 환경에 배치하고 있다. 이는 평가가 사후 점검이 아니라, 운영으로 가는 촉진제 역할을 하고 있음을 보여준다. 중요한 점은 평가의 방식이다. 범용 벤치마크를 통과하는지가 아니라, 특정 조직의 데이터와 업무 맥락에 맞춰 정확성, 안전성, 공정성, 규정 준수 여부를 지속적으로 점검하는 구조가 핵심이다. 이러한 평가는 에이전트를 ‘정지된 도구’가 아니라, 학습하고 조정되는 시스템으로 만든다. 문제를 사전에 발견하고, 운영 중에도 성능을 관리할 수 있을 때만 에이전트는 신뢰를 얻는다. 이 지점에서 Economist Impact가 실시한 글로벌 조사 결과도 겹쳐진다. 응답자의 40%는 자사 조직의 AI 거버넌스 체계가 안전성과 규정 준수를 보장하기에 충분하지 않다고 답했다. 기술 도입 속도에 비해, 이를 평가하고 관리하는 체계가 뒤따르지 못하고 있다는 인식이다. 에이전트형 AI가 확산될수록, 평가는 선택 사항이 아니라 운영의 전제 조건이 된다.

이 분석이 기업 사례를 중심으로 하고 있음에도, 대학과 공공기관이 이 흐름에서 자유롭지 않은 이유는 분명하다. 이들 조직은 이미 높은 수준의 책임성과 설명 가능성을 요구받고 있으며, 규정과 절차 위에서 운영된다. AI 에이전트가 반복 업무를 맡고, 데이터와 시스템을 오가며 작동하기 시작할수록, 거버넌스와 평가는 기술 문제가 아니라 조직 운영의 문제로 전환된다. AI를 도입하느냐의 문제가 아니라, AI가 한 판단을 누가 책임질 것인가, 그 판단이 어떤 기준으로 검증되는가라는 질문이 앞에 놓이게 된다. 이는 기업보다 오히려 공공성과 제도성을 가진 조직에서 더 먼저, 더 명확하게 제기될 수밖에 없는 질문이다. 에이전트형 AI가 대학과 공공기관에 던지는 도전은 기술 수용 여부가 아니라, 운영 원칙의 재정의에 가깝다.

기술의 문제가 아니라, 운영의 문제로

이 분석이 반복해서 가리키는 결론은 단순하다. 조직의 AI 성과를 가르는 요인은 더 강력한 모델이나 더 많은 파일럿 프로젝트가 아니다. 실제로 운영 데이터가 보여주는 차이는, AI를 어디에 배치했느냐에 있다. 단일 챗봇이나 보조 도구로 머무는 AI와, 업무 흐름 속에서 계획하고 실행하는 에이전트로 작동하는 AI 사이에는 구조적인 간극이 존재한다. 멀티 에이전트 시스템의 확산, 데이터베이스 운영의 자동화, 멀티모델 전략의 일반화는 모두 같은 방향을 가리킨다. AI는 기능이 아니라 운영 주체로 이동하고 있다. 이 변화 앞에서 조직이 던져야 할 질문도 달라진다. 어떤 모델을 도입할 것인가가 아니라, 어떤 업무를 AI에게 맡길 것인가, 그리고 그 결과를 어떤 기준으로 검증하고 책임질 것인가가 핵심이 된다. 거버넌스와 평가가 없는 상태에서 AI 에이전트를 운영 환경에 올리는 것은 가능하지 않다는 점은 이미 수치로 확인되고 있다. 반대로 말하면, 이 구조를 갖춘 조직은 훨씬 빠르게 실험을 운영으로 전환하고 있다.

대학과 공공기관을 포함한 제도 조직에게 이 변화는 선택지라기보다 질문에 가깝다. 반복 업무와 규정 기반 판단, 복합적인 데이터 흐름 위에서 운영되는 조직일수록, 에이전트형 AI가 요구하는 조건과 마주하게 된다. 이는 기술 도입의 속도 문제가 아니라, 운영 원칙과 책임 구조를 어떻게 재설계할 것인가의 문제다. AI를 쓰느냐 마느냐보다, AI가 개입한 결정과 결과를 조직이 어떻게 설명할 수 있는지가 더 중요해진다. 에이전트형 AI는 조직을 더 빠르게 만드는 기술이기 이전에, 조직의 운영 방식을 드러내는 기술이다. 어떤 일을 자동화할 수 있는지가 아니라, 어떤 일을 자동화해도 되는지를 묻는다. 이 질문에 답을 준비한 조직만이, AI를 실험의 대상으로 남기지 않고 일상의 일부로 전환할 수 있을 것이다. 지금 벌어지고 있는 변화의 본질은 기술의 진보가 아니라, 운영에 대한 사고방식의 이동에 있다.

#AI에이전트 #에이전트형AI #멀티에이전트 #StateOfAIAgents #Databricks #AI거버넌스 #AI평가 #멀티모델전략 #대학AI #공공기관AI #디지털전환