AI Briefing#llm
#llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic이 LLM이 언어를 생성하기 전 내부적으로 개념을 형성하는 'J-space'를 발견했다.
Microsoft 연구 결과, AI 에이전트는 명령줄 인자를 JSON 페이로드로 대체하는 것보다 기존 CLI 형식을 사용할 때 더 나은 성능을 보였다.
NVIDIA가 추론 효율성을 대폭 개선한 MoE 기반의 Nemotron-3 Puzzle-75B 모델을 출시했다.
언어 모델의 암기(Memorization)와 일반화(Generalization)를 분리하여 모델의 용량을 측정하는 새로운 방법론을 제시한다.
무신사가 Prompt Caching을 도입하여 LLM API 비용을 64% 절감하고 캐시 히트율 98%를 달성했다.
LLM의 안전 정렬이 모델 전체에 분산되지 않고 특정 뉴런에 집중되어 있어, 단 하나의 뉴런 조작만으로도 안전 가드레일을 무력화할 수 있음이 밝혀졌다.
LLM이 생성한 UI가 실제 웹사이트처럼 자연스러운 상호작용 흐름을 지원하는지 측정하는 FlowEval 프레임워크를 제안한다.
Weblica는 HTTP 캐싱과 LLM 기반 합성을 통해 시각적 웹 에이전트 학습을 위한 재현 가능하고 확장 가능한 환경을 제공한다.
DynaMiCS는 특정 도메인의 성능을 높이면서도 기존 지식이나 안전성 같은 핵심 능력을 유지하도록 돕는 동적 혼합 최적화 기법이다.
PyTorch Monarch가 AMD GPU의 ROCm 환경을 지원하며 노드 장애 시에도 중단 없는 탄력적 분산 학습을 가능하게 한다.
기업용 AI 시장에서 오픈 소스 점유율이 감소하는 것은 오픈 소스의 패배가 아니라, AI 활용 사례가 성숙 단계로 진입함에 따라 최적화된 모델로 전환되는 과정이다.
소형 LLM을 활용해 RAG 컨텍스트의 68%를 제거하면서도 재현율 96%를 유지하는 기술을 소개한다.
각국은 경제 성장과 국가 안보를 위해 자국 데이터와 인프라를 기반으로 한 독자적인 AI 생태계 구축에 집중하고 있다.
Sberbank가 432B 파라미터 규모의 GigaChat 3.5 모델과 GGUF 양자화 버전을 출시했다.
저장 공간이 제한된 온디바이스 환경에서 데이터 없이도 LLM의 능력을 지속적으로 확장하는 K-Merge 프레임워크를 제안한다.
AI 에이전트의 성능은 모델 자체보다 모델을 구동하는 루프인 '하네스'의 설계 방식에 의해 결정된다.
SOTA LLM과 STT 모델을 로컬 환경에서 구동하기 위한 하드웨어 구성 및 Docker 설정 방법을 안내한다.
LLM보다 가벼운 seq2seq 모델을 활용해 ASR 오류 수정의 효율성과 정확도를 높이는 방법을 제안한다.
PACE 프레임워크는 소수의 데이터만으로 고비용의 LLM 에이전트 벤치마크 성능을 정확하게 예측한다.
소형 언어 모델에서 발생하는 임베딩 응집 현상을 해결하기 위한 새로운 학습 목적 함수를 제안한다.