사진 확대

인공지능(AI) 스타트업 업스테이지가 차세대 거대언어모델(LLM) ‘솔라 프로 2’를 공개했다.

업스테이지 모델 최초로 일반 답변과 추론 모드를 함께 지원하는 것이 특징으로, 수학이나 코딩 등 복잡한 문제 풀이 성능이 개선됐다.

업스테이지는 모델을 구성하는 매개변수(파라미터)를 기존 220억개에서 310억개로 확장한 ‘솔라 프로 2’ 프리뷰 버전을 20일 공개했다. ‘솔라 프로 2’는 지난해 12월 업스테이지가 선보였던 ‘솔라 프로’의 후속 모델이다.

‘솔라 프로 2’의 정식 출시는 7월 예정이며, 업스테이지는 이를 앞두고 초기 테스트를 위해 프리뷰 버전을 먼저 공개하고 응용 프로그램 인터페이스(API)를 무료로 사용할 수 있도록 제공하기 시작했다.

솔라 프로 2는 모델 크기가 커진 것과 함께 업스테이지 모델 중 처음으로 빠른 응답과 단계적인 사고를 통한 추론 응답을 모두 제공하는 ‘하이브리드 모드’가 적용됐다.

빠른 응답을 원할 경우 ‘챗 모드’를 통해 이용하고, 복잡한 문제에 대한 구조화된 답변이 필요할 경우 ‘추론 모드’를 택해 이용하는 식이다. 업스테이지가 공개한 테스트 플랫폼에서는 AI 모델의 추론 노력(reasoning effort) 수준을 낮음 또는 높음 중 선택해 답변의 수준을 조정할 수 있게 제공되고 있다.

추론 모드에는 ‘생각 사슬(Chain of Thought·CoT)’ 기법이 적용되어 수학이나 코딩처럼 복잡한 문제에서 더욱 정교한 답변을 제공한다.

또한 ‘솔라 프로 2’에서는 처리 능력이 기존보다 2배 확장된 6만4000 토큰까지 지원해 더 긴 문서나 대화를 한 번에 처리할 수 있게 됐다. 업스테이지 자체 토크나이저 개선을 통해 한국어 및 문서 기반 작업에서 최대 30%까지 토큰 절감이 가능해지면서 응답 속도와 비용 효율도 향상됐다고 업스테이지는 설명했다.

사진 확대

업스테이지는 종합 지식 평가를 위한 글로벌 벤치마크인 MMLU를 포함해 솔라 프로2의 주요 벤치마크 성능 평균도 공개했다.

업스테이지는 “LLM 벤치마크 성능 평균에서 메타의 ‘라마 4 스카우트’는 물론, ‘라마 3.3 70B’, 알리바바의 ‘큐원(Qwen) 2.5 72B’ 등 두 배 이상 큰 빅테크 모델들도 앞질렀다”라고 강조했다.

또한 KMMLU와 해례(HAERAE) 등 한국어 성능을 평가하는 벤치마크에서 높은 점수를 기록했다고 설명했다.

김성훈 업스테이지 대표는 “솔라 프로 2는 31B라는 효율적 규모로도 70B 모델 수준의 성능을 구현하며 소형언어모델의 새 기준을 제시한다”라며 “특히 최고 추론 성능과 뛰어난 한국어 성능을 갖춘 이번 모델을 통해 더 많은 업무 혁신을 기대한다”고 말했다