매일경제 빌리어드뉴스 MK빌리어드뉴스 로고

생성형AI 시장 커질수록, 에너지 대란 우려 … '로컬 AI' 인프라가 대안 [기고]

  • 기사입력:2025.05.12 16:18:55
  • 최종수정:2025.05.12 16:18:55
  • 프린트
  • 이메일
  • 페이스북
  • 트위터
사진설명


지난 4월 '지구의 날'을 전후해 산업 전반에서는 환경 및 지속가능성에 대한 담론이 다시금 주목받고 있다. 환경 보호를 위한 인식 제고와 실천을 촉구하는 이날은 디지털 기술 분야에도 책임 있는 발전 방향을 고민하게 만든다. 인공지능(AI) 기술이 빠르게 대중화하며 본격적인 AI 시대를 맞이하고 있는 가운데, 그 이면에 자리한 에너지 소비와 인프라스트럭처 부담은 정책 결정자 및 산업계가 풀어야 할 주요 도전 과제로 부상하고 있다.

최근 챗GPT의 이미지 생성 기능이 업데이트되며 사용자가 시간당 100만명 증가, 사용자 수는 사상 최고치를 기록했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 "그래픽처리장치(GPU)가 녹고 있다"며 시스템 과부하에 대한 우려를 전달했다. 위트 있는 발언으로 들릴 수 있지만, 속을 들여다보면 결코 가볍지 않은 현실이 있다. 한 주간 챗GPT가 생성한 이미지 수는 7억장을 넘어섰고, 이 과정에서 소모된 전력은 미국 내 약 6만7000가구가 하루 동안 사용하는 전력량에 해당하는 것으로 나타났다. 생성형 AI 연산이 수반하는 막대한 에너지와 그로 인한 인프라 부담을 상징적으로 보여주는 사례다.

고성능 연산을 기반으로 하는 AI 서비스는 이미지 생성, 대화형 응답 등 다양한 기능을 제공하는 대신 외부 서버인 클라우드 인프라에 높은 전력 부하를 야기한다. 국제에너지기구(IEA)는 현 추세가 지속될 경우, 2030년에는 전 세계 데이터센터 전력 소비량이 현재의 두 배를 뛰어넘을 것이라고 밝혔다.

이는 오늘날 일본 전체의 연간 전력 소비량에 맞먹는 규모다. 이에 따라 빅테크 기업은 물론 각국의 정부 차원에서 에너지 분야의 투자를 발표하고 있지만, AI 시장의 성장 속도를 따라잡기엔 역부족인 상황이다.

이런 흐름 속에서 인터넷이나 클라우드 연결이 불필요한 로컬 AI가 데이터센터 중심의 연산 구조를 보완할 수 있는 지속가능한 대안으로 떠오르고 있다. 로컬 AI는 디바이스 내에서 AI 연산을 수행하기 때문에 데이터센터를 통하는 기존 클라우드 기반 연산 대비 전력 소비량이 현저히 낮고, 지연 시간이나 보안 리스크 역시 최소화할 수 있다.

HP는 제품 설계 단계부터 지속가능성을 핵심 가치로 삼고, 이를 AI PC를 포함한 전체 포트폴리오에 일관되게 반영하고 있다. 로컬 AI가 구현된 AI PC는 전용 신경망처리장치(NPU)를 탑재해 AI 연산을 보다 효율적으로 처리하며, 고성능 작업을 필요로 하는 환경에서도 안정적인 성능을 유지할 수 있도록 설계된다.

그뿐만 아니라 오픈AI GPT-4o 기반의 온디바이스 AI 솔루션 'HP AI 컴패니언'은 인터넷 연결 없이도 챗GPT 기능을 실행할 수 있도록 지원하고 있다. 이러한 기술은 사용자에게 빠르고 안전하며, 에너지 효율적인 AI 경험을 가능하게 한다.

AI 기술이 지속가능성을 저해하는 요소가 아닌, 이를 촉진하는 기술로 진화하기 위해서는 업계 전반의 협력과 책임 있는 기술 선택이 필요하다. 로컬 AI는 에너지 효율과 인프라 부담 완화 측면에서 그 해법의 실마리를 제시하고 있으며, 앞으로 더 많은 기술 기업이 전략적 기준으로 고려해야 할 미래지향적 선택지가 될 것이다.

[김대환 HP코리아 대표]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]