AI Briefing#model-architecture
#model-architecture와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-architecture와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
ViKernel v0.4가 Meta Muse Glimmer 30B 모델 가중치에 CPU·NPU·GPU·RAM·ROM 회로를 사이드카 층으로 이식하여 에이전트 보안 위협을 실측 차단했다.
LatentLoop가 비대칭 컴퓨트 할당으로 1.3B-7B 모델의 효율과 성능을 개선했다.
Meta Expert가 70-80%의 전문가로 Vanilla MoE 성능을 맞췄다
Linum AI가 VAE 없는 픽셀 공간 모델 Pyramid-JiT을 공개해 학습 효율성을 11.3배 높였다.
CLM-8B는 상태와 행동을 분리 인코딩해 캐싱하며, 에이전트 코딩 벤치마크에서 SOTA를 달성했다.
Kuleshov 연구팀이 병렬 생성으로 AR 모델의 속도 한계를 극복하는 확산 언어 모델(dLLM) 기술과 Mercury 2 등 상용화 현황을 정리했다.
새로운 연구는 트랜스포머 스택에서 어텐션 메커니즘의 배치 순서보다 다양한 메커니즘의 조합(특히 SSM 포함)이 성능에 더 큰 영향을 미친다고 입증했다.
싱가포르국립대 등 연구진이 로봇 World-Action Model의 설계 변수를 비교하는 모듈형 스택 OpenWAM을 공개했다.
GLM-5.3 모델이 HF Viewer에서 시각화되었으며, 아키텍처는 GLM-5.2와 동일하지만 학습 개선을 통해 성능이 향상된 것으로 확인됐다.
AWS는 Trainium 경쟁력 강화를 위해 AI 모델과 커널을 칩 설계와 함께 최적화한다.
Liquid AI가 LFM2.5-8B-A1B 모델의 어휘 사전을 65K에서 128K로 처음부터 재학습 없이 확장하는 기법을 공개했다.
LLM의 단일 스트림 병목을 thoughts·inputs·outputs 분리로 푼다.
고정된 언어 모델들을 선형 브릿지로 연결해 가중치 수정 없이 성능을 높이는 Residual Coupling 기술을 제안한다.
Qwen3 기반 Orthrus가 lossless 병렬 생성으로 최대 7.8배 빨라졌다.
Interfaze가 OCR·STT·구조화 출력용 새 모델 아키텍처와 API를 공개했다.
초기 레이어의 표현을 토큰 및 헤드별로 선택적으로 재사용하여 효율성을 높인 SATFormer를 제안한다.