Kanana-2 개발기 (2): 개선된 post-training recipe를 중심으로

간단 소개

카카오의 Kanana-2 LLM은 Mid-training, Parallel RL, Calibration Tuning 등 개선된 Post-training 레시피를 통해 Agentic AI 핵심 역량을 강화하고 성능을 극대화했다.

AI Summary

Mid-training * Pre-training과 Post-training 사이의 추가 단계로, 추론 능력 강화 및 Agentic AI 기반 다지기. * 200B 토큰 규모의 수학, 코드, 툴 추론 데이터셋 구축 및 치명적 망각 방지를 위한 Pre-training 데이터 리플레이. * 수학/코딩 성능 향상 및 기존 언어 능력 유지, SFT 이후 성능 시너지. Instruct 모델 * Agentic AI 핵심인 Instruction Following 및 Tool Calling 능력 극대화 목표. * 멀티턴 IF/Tool Calling 데이터셋 제작 및 Parallel RL 도입. * Linear Merging 후 Calibration Tuning으로 통합 모델 성능 복원. Thinking 모델 * 심층 추론, 고난이도 한국어 답변, IF/Tool Calling 능력 강화. * 고품질 Thinking SFT 데이터 엄선, '한국어 질문 → 영어 사고 과정 → 한국어 답변' 구조. * Parallel RL 및 Calibration Tuning으로 통합 모델 성능 복원.