TII, 에미레이트 방언 특화 LLM Falcon-Emirati-7B 공개

Technology Innovation Institute(TII)가 에미레이트 아랍어 방언 이해 및 생성에 특화된 대형 언어 모델 Falcon-Emirati-7B를 공개했다. 이 모델은 Falcon-H1-Arabic 하이브리드 아키텍처를 기반으로 하며, 선형 시간 효율성을 위한 State Space Models(Mamba)와 장거리 의존성 처리를 위한 Transformer 어텐션을 결합했다. 7B 파라미터 크기는 문화적 뉘앙스 포착과 실용적인 학습 및 추론 비용 간 최적의 균형점으로 선택됐다.

방언 적응 및 데이터 전략

표준 아랍어(MSA) 모델은 구어체 에미레이트 아랍어의 관용구, 유머, 문화적 맥락을 포착하는 데 실패하는 경우가 많다. 이를 해결하기 위해 TII는 3단계 데이터 파이프라인을 구축했다.

• 진정한 에미레이트 방언 웹 데이터: UAE 웹사이트와 포럼에서 크롤링한 원본 텍스트
• 에미레이트 문화 관련 MSA 데이터: UAE 역사, 가치관, 사회적 규범을 다루는 텍스트로 주제별 지식 제공
• 합성 데이터: 부정확한 '걸프풍' 아랍어를 방지하기 위해 엄격한 어휘와 스타일 규칙을 사용해 생성

벤치마크 성능

이 모델은 ALLaM-7B-Instruct-preview, gemma-3-27b-it, Jais-2-8B-Chat, Fanar-2-27B-Instruct 등 주요 아랍어 및 다국어 모델과 비교 평가됐다.

• Alyah 벤치마크: Falcon-Emirati-7B는 84.83% 점수를 기록하며, 파라미터 수가 훨씬 큰 모델을 포함해 비교 대상 모든 모델을 능가했다.
• 방언 충실도: Gemini 3.7 Flash가 평가한 개방형 생성 테스트에서 Falcon-Emirati-7B는 0.52의 방언 충실도 점수를 달성했다. 이는 ALLaM의 0.05, gemma-3-27b-it의 0.03, Jais-2-8B-Chat의 0.02, Fanar-2-27B-Instruct의 0.00과 대비된다. 경쟁 모델들은 정답을 맞혀도 MSA로 돌아가는 경향이 있었다.
• 문화 이해: ArabCulture-Dialogue UAE 벤치마크에서 Falcon-Emirati-7B는 85.57% 정확도로 ALLaM-7B(83.39%), Jais-2-8B(73.79%), Fanar-2-27B(71.50%)를 앞섰다.

주요 시사점

결과적으로 모델 크기만으로는 방언 능력이 향상되지 않음이 입증됐다. Nabati 시, 속담, 사회적 예절 등 미묘한 차이를 처리하려면 진정한 방언 데이터와 문화적 맥락에 대한 특화 학습이 필수적이다. 방언 충실도에서는 뛰어난 성능을 보였으나, TII는 희귀 표현이나 고도로 지역화된 참조에서는 한계가 있음을 지적하며 민감하거나 공식적인 사용 사례에서는 평가를 권장했다.