[논문리뷰] K-EXAONE Technical Report

링크: 논문 PDF로 바로 열기

저자: LG AI Research*

핵심 연구 목표

LG AI Research는 K-EXAONE 이라는 대규모 다국어 언어 모델을 개발하여 최첨단 성능을 달성하는 것을 목표로 합니다. 특히, 기존 모델의 한계를 극복하고 한국의 AI 인프라 환경을 고려하여 효율적이면서도 강력한 범용 및 전문 AI 기반 모델을 제공하고자 합니다.

핵심 방법론

이 모델은 Mixture-of-Experts (MoE) 아키텍처를 기반으로 하며, 총 236B 파라미터 중 추론 시 23B 파라미터 를 활성화합니다. 256K 토큰 의 컨텍스트 창을 지원하며, SuperBPE 기반의 확장된 토크나이저를 통해 한국어, 영어, 스페인어, 독일어, 일본어, 베트남어를 포함한 6개 언어를 지원합니다. 학습은 FP8 정밀도 로 이루어지고 MTP(Multi-Token Prediction) 및 AGAPO, GROUPER 를 활용한 강화학습, 선호 학습을 통해 성능을 최적화했습니다.

주요 결과

K-EXAONE 은 다양한 벤치마크에서 경쟁 모델과 유사하거나 우수한 성능을 보였습니다. 특히 KGC-Safety 벤치마크 에서 96.1% 의 가장 높은 안전율을 달성했으며, AIME 2025 에서 92.8% , LIVECODEBENCH v6 에서 80.7% 를 기록했습니다. 토크나이저 효율성 또한 기존 EXAONE 4.0 대비 약 30% 향상 되었습니다.

AI 실무자를 위한 시사점

K-EXAONE 은 MoE 아키텍처 를 통해 효율적인 확장을 가능하게 하며, 256K 토큰 의 긴 컨텍스트 처리 능력으로 복잡한 산업 및 연구 애플리케이션에 매우 유용합니다. 특히 한국어 및 다국어 지원이 강화되어 글로벌 시장뿐만 아니라 한국어 특화 서비스 개발에 중요한 도구로 활용될 수 있습니다. K-AUT 기반의 안전 프레임워크 는 지역적, 문화적 특수성을 반영한 윤리적 AI 개발의 모범 사례를 제시합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.