AI 대전환 시대 … 민·관 협력형 AI 사이버 방패 구축 필요 [기고]
홍진배 정보통신기획평가원(IITP) 원장
클라우드, 사물인터넷(IoT)을 넘어 에이전틱 인공지능(AI), 피지컬 AI 등 공격 표면이 전방위로 확장되는 상황에서 AI를 활용하면 중급 해커 이상의 위협이 가능하고 제로데이 공격이 수시간 내로 단축되는 등 AI 기반 사이버 공격이 늘어나고 있다. 기존 보안 체계로는 빠르게 진화하는 사이버 위협 대응에 한계가 있다.
이러한 지능형 위협에 대응하기 위해서는 외부 침입을 막는 경계 보안 중심의 대응을 넘어 AI를 활용한 위협 탐지·대응, 제로트러스트 기반 보안 설계의 도입, 소프트웨어(SW) 공급망 보안 체계 마련, 그리고 AI 자체를 보호하기 위한 보안 기술 개발을 아우르는 능동형 사이버 보안 패러다임으로의 전환이 필요하다.
먼저 'AI를 활용한 위협 탐지·대응'으로, AI를 통해 정상 행위를 학습하고 비정상 징후를 자동으로 탐지해 사이버 위협을 조기에 찾아내고 실시간으로 대응할 수 있다. 공격을 기다리는 수동적 방어가 아닌, 위협을 능동적으로 찾아내는 통합 보안관제도 AI 기반으로 고도화해야 한다.
또한 조직 내부에 이미 침투한 공격에 대응하기 위해서는 '절대 신뢰하지 말고, 항상 검증'하는 원칙의 '제로트러스트 기반 보안 설계 도입'이 필수적이다. 네트워크 전반의 인증과 권한 관리뿐만 아니라 내부 침투 시 중요 데이터 접근을 막기 위한 '횡적 이동'의 제한, 정보의 분산 관리, 지속적인 인증으로 해커의 내부 활동을 제어해야 한다.
대량의 정보가 유출되거나 소량이라도 지속적으로 나가는 경우 정책시행지점(PEP)에서 비정상적인 트래픽을 실시간으로 차단할 수 있어야 한다. 이를 통신, 금융, 공공, 국방 등 국가 핵심 인프라스트럭처에는 우선 적용할 필요가 있다.
아울러 제3자 공급 SW를 포함한 모든 구성 요소를 식별·관리하고, 보안 취약점을 사전에 파악·차단할 수 있는 'SW 공급망 보안 체계' 마련도 시급하다. SK텔레콤 사례에서도 외부 협력업체로부터 공급받은 SW에 포함된 악성코드가 내부로 유입될 위험이 확인됐고, 미국에서는 마이크로소프트(MS) 클라우드 보안 솔루션 공급사의 패치 오류로 대형 서비스 마비가 발생한 바 있다. 백도어, 악성 보안패치, 오픈소스 취약점 등 공급망을 통한 위협은 사회 전반의 연쇄적 피해를 초래할 수 있기에 관리가 필수적이다.
이와 함께 AI 자체가 공격의 표적이 되는 만큼 'AI를 위한 보안 기술 개발'도 중요하다. AI 모델의 무단 복제 및 변조를 막는 모델 보호 기술, 학습 데이터의 무결성을 확보하는 기술, 적대적 공격에 대응하는 AI 방어 기술 등이 요구된다.
더불어 AI의 의사결정 과정을 검증할 수 있는 설명 가능한 AI(XAI·Explainable AI)와 AI 시스템 안전성을 평가·인증하는 체계의 개발도 병행돼야 한다.
AI 전환 가속화로 인한 공격 피해는 치명적이므로 피해 최소화와 서비스 지속성을 보장하는 사이버 복원력 확보를 위해 '민관 협력의 다층 보안 체계' 구축이 중요하다.
여기에 지능형 사이버 보안 연구개발(R&D) 확대, S급 화이트해커 양성, 정보보호 공시 확대, 실전형 모의 침투 훈련 의무화 등이 뒷받침돼야 할 것이다. 이제는 민관이 함께 AI 대전환 시대에 부합하는 'AI 사이버 방패'를 구축해야 할 때다.
[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]
