LG CNS, 코히어와 추론형 대규모언어모델 개발

LG CNS, 코히어와 추론형 대규모언어모델 개발

최초입력 2025.07.10 10:41:22
23개 언어 지원

23개 언어 지원

LG CNS 사옥 전경. <사진=LG CNS>

LG CNS가 캐나다에 기반을 둔 인공지능(AI) 유니콘 기업(기업가치 1조원 기업) 코히어(Cohere)와 1110억개의 매개변수(파라미터)를 갖춘 추론형 대규모언어모델(LLM)을 공동 개발했다고 10일 밝혔다.
추론형 LLM은 AI가 복잡한 문제에 대해 여러 변수를 고려한 논리적인 해답을 도출하는 모델로, AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’ 서비스 구현에 필수적인 기술로 손꼽힌다.
해당 모델은 한국어, 영어 등 23개 언어를 지원하고 모델 압축 기술을 통해 2장의 그래픽처리장치(GPU)만으로 구동이 가능하다. 일반적으로 파라미터 1000억개 이상의 LLM에 최소 4장의 GPU가 필요하다는 점에서 경쟁력을 갖추고 있다는 게 이 회사 설명이다.
LG CNS에 따르면 이 모델은 대표적인 추론 능력 검증 테스트인 매쓰(Math) 500과 미국 초청 수학 시험(AIME) 2024에서 한국어, 영어 모두 GPT-4o, GPT4.1, 클로드 3.7 소넷 등 글로벌 LLM보다 높은 점수를 기록했다. 매쓰 500은 대학 수준 이상의 수학문제 500개로 구성된 테스트로 AI가 얼마나 논리적으로 문제를 풀 수 있는지를 검증하며, AIME 2024는 미국의 수학 경시대회 문제를 활용해 AI의 수학적 추론 능력을 평가한다.
한국어 평가 테스트인 KMMLU(한국어 대규모 다중과제 언어 이해 평가), KO-IFEval(작업 지시 수행)에서도 글로벌 LLM보다 높은 점수를 기록했다고 LG CNS는 전했다.
KMMLU는 한국어 이해 능력을 종합적으로 평가하는 지표다. 인문학·사회과학·응용과학 등 45가지 분야 전문가 수준의 지식을 담은 3만5천여개의 객관식 문제로 구성돼 있다. KO-IFEval는 구글과 예일대학교가 만든 ‘IFEval’을 한국어로 번역한 벤치마크 테스트로 LLM이 대화 내용을 얼마나 잘 이해하고 지시사항을 잘 따르는지를 평가한다.
회사 관계자는 “특히 파라미터 규모가 2배 이상 많은 Qwen3보다도 우수한 성능을 보였다”고 말했다.
이에 앞서 LG CNS는 지난 5월 코히어와 70억개의 파라미터로 구성된 한국어 특화 경량 모델을 출시한 바 있다.
한편 LG CNS는 코히어와 공동 개발한 초대형·경량형 2종의 LLM과 국내 대표적인 AI 모델인 LG AI연구원의 ‘엑사원’(EXAONE) 등 LLM 라인업을 갖춰 고객이 맞춤형 에이전틱 AI 서비스를 만들 수 있는 기반을 마련했다고 강조헀다. 에이전틱 AI는 AI가 스스로 판단, 추론해 복잡한 작업을 수행하는 차세대 인공지능으로 비즈니스 자동화, 최적화 등에 활용도가 높다.
향후 LG CNS는 LLM을 온프레미스 방식(기업의 서버나 시스템을 클라우드가 아닌 회사 내부에 직접 설치해 운영하는 방식)으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다.
김태훈 LG CNS AI클라우드사업부장(전무)은 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 말했다.
[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]

매일경제

LG CNS, 코히어와 추론형 대규모언어모델 개발

많이 본 뉴스