LLaDA2.2-flash 공개

LLaDA2 시리즈의 신모델 LLaDA2.2-flash는 확산(diffusion) 언어 모델에 에이전틱 능력을 더한 100B 파라미터(비임베딩) MoE 아키텍처다.

주요 특징:

• 128K 컨텍스트: Block Routing으로 MoE 전문가 활성화를 diffusion 블록 단위로 제한해 장문 처리 효율화
• Levenshtein Editing: DELETE·INSERT 제어 토큰을 도입해 병렬 생성 중 시퀀스 편집·중복 제거·삽입 슬롯 생성 가능
• Agentic RL: L-EBPO(Levenshtein Editing ELBO 기반 블록 수준 정책 최적화)로 멀티턴 툴 사용 및 오류 수정 학습

멀티턴 상호작용, 장문 컨텍스트 툴 사용, 강건한 오류 수정 등 에이전트 응용을 1차 목표로 한다.