'AI동료' 적응해야 생존 일하는 방식·기업 문화 설계부터 다시하라

'AI동료' 적응해야 생존 일하는 방식·기업 문화 설계부터 다시하라

최초입력 2025.05.07 16:19:27
[Cover Story] 삼정KPMG AI센터가 말하는 '기업 AI에이전트 전략'
'AI에이전트' 핵심은 실행
축적된 회사 데이터 분석
스스로 판단하고 행동도
AI가 단순 반복 업무 맡고
사람은 창의적 활동 집중

사람과 AI가 함께 일하는 미래의 사무실을 챗GPT를 이용해 이미지화 한 모습. 챗GPT

아마존은 온라인 서점에서 출발했지만 디지털 전환(Digital Transformation)을 통해 세계 최대 전자상거래 기업이자 클라우드 컴퓨팅부터 인공지능(AI), 물류 자동화까지 다양한 분야에서 혁신을 이뤄낸 기업으로 변신했다. 전통적인 커피 전문점이었던 스타벅스는 모바일 주문·결제 시스템, 리워드 프로그램, 데이터 기반 개인화 서비스 같은 디지털 기술을 적극 도입해 고객 경험을 혁신했다. 월마트는 오프라인 중심의 소매업체에서 온라인으로 확장하며 모바일 앱, 데이터 분석 기반 서비스로 신속하게 변화에 대응해 살아남았다.

이들 세 업체는 디지털 전환으로 업계 내 경쟁력을 확보한 것으로 평가받는다. 한마디로 디지털 전환은 단순히 기술의 문제가 아니라 기업의 생존에 관한 문제다.

이제 기업들은 단순한 시스템 업그레이드가 아니라 '일하는 방식' 자체의 근본적인 변화를 요구받고 있다. 사람과 시스템 그리고 AI가 유기적으로 협력하는 새로운 업무 방식은 거스를 수 없는 대세다. 'AI 에이전트' 시대가 본격적으로 도래하고 있는 가운데 매일경제는 삼정KPMG AI센터에서 산업별 맞춤형 AI 전략과 실행 지원 방안에 대해 들어봤다.

주지하다시피 디지털 전환은 기업 경영의 핵심 키워드다. 그러나 모두가 디지털 전환에 성공하는 건 아니다. 많은 기업이 시스템 구축과 데이터 자산화에 막대한 투자와 노력을 기울여왔지만 최근 전통적 디지털 전환 방식이 한계에 부딪히고 있다. 올바른 방법을 몰라서 실패 수렁에 빠지는 우를 범하고 있다.

기존에 실패한 디지털 전환은 대체로 시스템 중심, 프로세스 중심으로 이뤄졌다. 사용자 경험을 고려하지 않은 시스템 설계는 오히려 현장 실무자에게 또 다른 업무 부담으로 작용했다. 시스템은 업무를 쉽게 해주는 도구가 아니라 오히려 '배워야 할 추가 업무'로 인식됐고, 이로 인해 실질적인 업무 개선 효과를 체감하기 어려운 상황이 빈번했다.

시스템 간 정보 흐름의 단절, 실시간 의사결정의 지연, 부서 간 연계 비효율성 같은 부작용도 심각했다. 막대한 예산과 인력을 투입하고도 기대한 수준의 업무 혁신을 이루기까지는 오랜 시간이 걸렸다. 시장의 변화 속도가 갈수록 빨라지는데 이러한 전통적 시스템 기반만으로는 비즈니스 환경 변화에 민첩하고 유연하게 대응하기 어려운 구조적 한계에 봉착한 것이다.

기업들은 디지털 전환을 통해 지식과 경험을 데이터로 전환하는 데는 성공했지만 이렇게 쌓인 디지털 자산을 실제 경쟁력으로 연결하는 데는 한계가 있었다. 이는 디지털 전환이 시스템 중심, 프로세스 중심에 머물렀기 때문이다.

그 결과 많은 데이터가 쌓이기만 할 뿐이지 실질적인 업무에 활용되지 못한 채 단순 보고서 작성이나 통계 수준에 그쳤다. 하지만 AI 기술이 급격히 발전하고 경제적·사회적 변화가 함께 작용하면서 상황은 달라지고 있다.

AI로 전환하는 데 성공하기 위해서는 AI 에이전트가 무엇인지 정확히 알아야 한다. AI 에이전트란 '사용자나 시스템을 대신해 목표를 달성하고자 자율적으로 계획하고 실행하는 소프트웨어'를 뜻한다. 기업 관점에서는 사용자의 자연어 지시를 이해하고 데이터 분석, 문서 작성, 시스템 수행을 비롯한 지식 기반 업무를 스스로 처리할 수 있는 '실행형 AI'를 의미한다.

가장 핵심적인 AI 에이전트의 특징은 기존에 축적된 디지털 자산을 실시간으로 분석하고 판단하며 실행까지 가능하게 한다는 점이다. 이는 기업의 민첩성, 생산성, 전략적 대응력을 비약적으로 높이는 핵심 수단으로 부상하고 있다. 특히 단순한 생성형 AI를 넘어 본격적으로 AI 에이전트를 도입하려는 기업들이 빠르게 늘어나고 있다.

한 번에 AI 도입을 완료하는 걸 목표로 진격하지 말고, 차근차근 발전 단계별로 접근해야 한다. 삼정KPMG AI센터는 AI 에이전트의 발전 단계를 세 가지로 구분했다.

첫째는 '단위 업무에 최적화된 에이전트' 단계다. 예를 들어 마케팅 AI 에이전트는 고객 행동 데이터를 분석해 개인 맞춤형 제품을 추천하고, 고객과 실시간 소통하며 마케팅 메시지를 실행할 수 있다. 이 단계에서 사람은 AI 에이전트가 제시한 결과를 최종 확인하거나 모니터링하는 역할로 전환된다.

AI 에이전트 도입 초기에는 'Human in the Loop(HITL)' 개념이 중요하다. 이는 AI나 머신러닝(ML) 시스템의 의사결정 과정에 인간이 적극적으로 개입해 감독하고, 피드백을 제공하며 필요할 때 직접 조정하는 접근 방식이다. 사람과 AI의 상호작용(HAI)을 체계화해 사람이 최종 의사결정을 통제하는 프로세스를 구축하는 것이다.

두 번째는 '멀티 AI 에이전트 시스템' 단계다. 여러 AI 에이전트가 각각 특화된 기능을 수행하면서 서로 협력해 공동의 비즈니스 목표를 달성하는 형태다. 예를 들어 마케팅, 영업, 고객 서비스 각각에 특화된 AI 에이전트들이 상호 연계돼 한 프로젝트를 공동으로 추진하는 식이다.

이 과정에서는 '오케스트레이터 에이전트'의 역할이 중요해진다. 각 에이전트의 활동을 조율하고, 전체 시스템을 최적화하는 기능을 수행하기 때문이다. 멀티 에이전트 시스템은 복잡한 문제 해결, 보안 강화, 비즈니스 확장성 확보 측면에서도 강점을 지닌다.

세 번째는 '조직 외부와 상호작용하는 AI 에이전트' 단계다. 이 단계에 이르면 AI 에이전트는 단순히 내부 업무를 자동화하는 수준을 넘어 회사나 개인을 대표해 외부와 직접 소통하고 협상하는 역할까지 수행하게 된다.

예를 들어 기업의 AI 에이전트가 외부 공급업체와 구매 협상을 하거나 개인의 AI 에이전트가 금융사 AI와 연동해 자산 관리를 최적화하는 일이 가능해진다. 이러한 발전은 B2A(Business to Agent·기업과 에이전트 간 거래), B2A2B(Business to Agent to Business, 기업·에이전트·기업 연계 비즈니스)와 같은 새로운 비즈니스 모델을 창출할 수 있다.

AI 에이전트와 공존하는 기업 운영 모델은 단순한 업무 자동화를 넘어 경영전략 전체를 변화시킨다. 반복적이거나 저부가가치 업무는 AI가 수행하고, 사람은 보다 창의적이고 전략적인 고부가가치 활동에 집중할 수 있다. 이는 곧 속도의 경영, 성과 기반 운영, 민첩한 조직 문화를 가능하게 하고, 빠르게 변화하는 시장에서도 지속적으로 경쟁력을 유지할 수 있게 한다. 이동근 삼정KPMG AI센터장은 "AI 에이전트 도입 여부가 향후 기업의 생존과 경쟁력을 가르는 핵심 요소가 될 것"이라며 "단순한 기술 도입을 넘어 조직 전체의 업무 방식, 의사결정 구조, 심지어 기업 문화까지 재설계해야 할 때"라고 강조했다.

생성형 인공지능(AI)을 활용해 만든 'AI 기술로 무장한 인간의 모습'. 챗GPT

인공지능 스킬로 무장한 하이브리드 직원 키워라

삼정KPMG AI센터가 말하는 'AI 에이전트 활용' 전략

AI도구 쓰는 기업들 폭발적 증가세

결국 인간 일자리가 줄어든다? NO

AI와의 상호작용 스킬 갈수록 중요

인간 한계 보완하는 디지털 파트너

사람·AI 협업 인터페이스 개발하고

지속가능한 운영 모델 구축 힘 써야

이동근 AI센터장

올해 4월 글로벌 KPMG가 발표한 보고서에 따르면 기업 내에서 인공지능(AI) 생산성 도구를 사용한 비율이 전 분기 22%에서 58%로 급격히 늘어난 것으로 나타났다. 구체적으로 AI 기반 지식 검색 주간 이용률도 48%에서 61%로 수직 상승했다. AI 사용은 기하급수적으로 증가하는 추세다. 특히 리더 중 76%는 향후 12개월 내 AI가 특정 업무를 자동화할 것으로 전망했고, 69%는 AI가 직원들이 보다 전략적인 업무에 집중할 수 있도록 도와줄 것이라고 응답했다. 또 57%는 AI가 저성과 직원들의 역량 향상에 기여할 것으로 기대했다.

KPMG 글로벌 HR 리더인 존 도얼은 "AI 에이전트는 기업의 인적 리소스와 통합되어야 할 핵심 자산"이라고 밝혔다. 이어 "직원들이 AI와 상호작용하는 기술이 향상되고, 조직의 AI 에이전트 관리 역량이 강화되면 'Human-AI 하이브리드 디지털 직원'이 출현할 수 있다"며 "이에 따라 생성형 AI가 창출하는 비즈니스 가치는 급속도로 확대될 것"이라고 예측했다.

AI 에이전트의 성공적 도입 위한 세 가지 전략

AI 가치 창출, 확장성, 지속가능성을 고려한 AI 운영 모델은 AI 에이전트의 통합, 혁신 촉진, 경쟁 우위 확보를 위한 핵심 기반이 된다. 지속가능한 AI 가치 창출 모델은 조직 내 다양한 요소가 유기적으로 결합돼야 성공적으로 기능을 할 수 있다.

삼정KPMG AI센터는 성공적으로 AI 에이전트를 도입하고 활용하는 전략에 대해 △업무 관점에서 시작 △사람과 AI가 공존하는 프로세스 재구성 △지속가능 AI 운영 모델 구축이 핵심이라고 제시하며 AI 에이전트가 단순히 기술을 도입하는 게 아니라 기업 비즈니스 모델 자체를 혁신하는 열쇠가 돼야 한다고 강조했다.

첫째, 업무 관점에서 시작하라

AI 에이전트 도입의 핵심은 기술 구현이 아니라 '업무 혁신'이다. 따라서 AI 도입은 기술적 관점이라기보다 업무 관점에서 출발해야 한다. 삼정KPMG AI 솔루션 컨설팅 담당 이준기 상무는 "어떤 AI 기술을 적용할 것인지 고민하기 전에 어떤 업무를 AI가 대신해 혁신할 것인지를 명확히 정의해야 한다"고 설명했다.

특히 반복적이고 데이터 중심적이지만 인력 자원을 과도하게 소모하는 조사 연구, 보고서 작성, 기준정보 관리, 규정 검토와 같은 업무들이 주요 대상이 될 수 있다. 이처럼 '업무 변화의 필요성'과 '개선 목표'를 먼저 설계하는 것이 중요하다고 강조했다.

이런 과업을 AI 에이전트가 대신 수행함으로써 직원들은 창의적이고 전략적인 업무에 집중할 수 있다.

둘째, 사람과 AI가 공존하는 프로세스 필요

AI 에이전트는 사람을 대체하는 존재가 아니라 함께 일하는 디지털 파트너다. 기존 업무 방식이 정보를 사람이 직접 수집·분석·보고하는 형태였다면 앞으로는 사람이 목표를 설정하고, AI가 이를 실행하며, 결과에 대해 사람이 최종 판단·개선하는 방식으로 업무 프로세스를 재편해야 한다. 이 상무는 "AI가 사람을 대체하는 게 아니라 인간의 인지적 한계를 보완하고 업무 속도와 정확성을 극대화하는 협력자로 자리 잡아야 한다"고 말했다. 이를 위해 필요한 것은 단순 자동화를 넘어선 '역할 기반 협업체계' 구축이다.

사람과 AI가 각자의 강점을 발휘할 수 있도록 업무를 재설계함으로써 업무 품질을 높이고 직원 만족도와 몰입도를 동시에 향상시킬 수 있다.

또한 업무별로 'AI가 주도하는 영역'과 '사람이 주도하는 영역'을 명확히 구분하고 필요하다면 사람·AI 협업 인터페이스를 개발해 사용자 경험(UX)까지 고려하는 것이 중요하다. 이를 통해 조직은 AI를 업무 혁신 파트너로 인식하도록 할 수 있다.

셋째, 지속가능한 AI 운영 모델을 구축하라

AI 에이전트 도입은 단발성 프로젝트로 끝나서는 안 된다. 지속적인 피드백과 개선을 통해 진화하고 확장할 수 있는 체계적인 AI 운영 모델을 갖추는 것이 필수적이다. AI 에이전트가 기업 내에서 실질적인 가치를 창출하기 위해서는 다음과 같은 핵심 요소들이 필요하다.

우선 고부가가치 AI 과제를 선별하고 이를 중심으로 AI 에이전트와 협업하는 업무 프로세스를 재설계해야 한다. 다음으로 AI 에이전트 활용을 촉진할 수 있는 역량을 조직에 내재화해야 하고 AI와 협업하기 위한 변화 관리가 지속적으로 이뤄져야 한다. 또한 최적화된 AI 에이전트 배포와 제어를 통해 직원이나 고객의 경험을 혁신하는 것이 필요하다.

AI 비즈니스 효과와 가치를 측정하고 실시간으로 AI 에이전트 성과를 추적해 비즈니스 성과와 연계해야 한다. 마지막으로 데이터 프라이버시 보호, 모델 보안, 규제 준수를 위한 AI 윤리 원칙과 리스크 관리체계를 마련해야 한다. AI 에이전트의 판단과 실행 결과에 대한 검토나 대응 방안을 명확히 정의하고 기업의 신뢰를 구축해야 한다.

이 상무는 "기술 중심이 아닌 '업무 중심의 AI 혁신'을 지향하며 다양한 산업과 업무 현장에서 실질적인 변화를 이끌어내는 AI 에이전트 기반의 컨설팅과 솔루션이 중요하다"고 강조했다. 특히 삼정KPMG AI센터는 기존 전략 컨설팅, 경영 컨설팅, 전사적 자원 관리(ERP·Enterprise Resource Planning) 영역에 AI를 접목하는 것은 물론 AI 전략 수립, 과제 정의, 플랫폼 구축, 거버넌스 체계 수립 등 AI 전환(AX·AI Transformation)을 위해 일괄적으로 엔드 투 엔드(End-to-End) 서비스를 수행하고 있다고 부연했다.

삼정KPMG는 AI 플랫폼을 통해 AI 적용을 더욱 쉽고 빠르며 지속가능하게 구현할 수 있는 다양한 솔루션을 제공한다. 예를 들어 'AI on SAP'는 ERP 업무를 AI 에이전트가 대신 수행해 사용자 편의성을 높이고 프로세스 자동화와 구축·운영비용 절감을 동시에 실현한다. AI 내부통제 에이전트는 내부통제 테스트를 자동화하며, AI 기준정보 관리 에이전트는 ERP 기준정보를 점검하고 정비하는 기능을 수행한다.

Gen BI(생성형 비즈니스 인텔리전스) 에이전트는 자연어 질문만으로 보고서와 시각화 자료를 생성하고, AI 컴플라이언스 에이전트는 업무규정 준수 여부를 실시간으로 검토한다. AI 심사 에이전트는 계약서 분석과 심사 업무를 자동화하는 등 다양한 솔루션을 제공한다. 이러한 기술 외에도 삼정KPMG는 향후 도래할 멀티 AI 에이전트 시대에 대비해 MCP(모델 콘텍스트 프로토콜), A2A(에이전트 간 협업) 등 협업 표준 기술과 오케스트레이션 기능을 선행적으로 적용하고 있다. 삼정KPMG는 "AI를 통한 기업 비즈니스 수행 방식 변화가 본격적으로 가속화되고 있다"면서 "AI 에이전트 도입은 단순 기술적 변화가 아니라 조직의 전반적인 업무 혁신을 이끄는 핵심 요소이며 이를 통해 기업은 비즈니스 환경 변화에 유연하게 대응하고 지속적인 경쟁 우위를 확보할 수 있다"고 조언했다.

[권오균 기자 정리]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]

매일경제

'AI동료' 적응해야 생존 일하는 방식·기업 문화 설계부터 다시하라

많이 본 뉴스