한국어 벤치마크 평균 75.1점으로 GPT-4o(61.9점)를 상회하며, Native resolution과 C-Abstractor 구조를 채택했다.
HuggingFace가 사실성과 유용성을 동시에 평가하는 3C3H 지표 기반의 아랍어 LLM 벤치마크 AraGen을 공개했다.
서버 자원 사용량 50% 절감 및 메모리 사용량 90%에서 15%로 대폭 감소
LLM 기반 데이터 라벨링으로 소형 모델의 성능을 높이고 운영 비용을 최대 80배 절감한 CFM의 사례를 소개한다.
올리브영은 데이터 수집 구조를 원천 데이터 중심의 방식으로 개편하여 정산 데이터의 정합성을 확보하고 운영 리소스를 획기적으로 줄였다.
컬리 주문플랫폼개발 팀이 Spring Kafka의 ConsumerSeekAware와 Redis Pub/Sub을 결합해 컨슈머 그룹 중단 없이 오프셋을 이동하는 방식을 적용했다.
올리브영은 UI 개발 효율성과 통일성을 높이기 위해 Emotion과 Storybook을 활용한 디자인 시스템을 구축했다.
올리브영은 DB 부하와 데이터 지연 문제를 해결하기 위해 선물하기관을 전시 전략과 통합하고 커스텀 어노테이션을 도입했다.
Qwen Team이 수학 및 코딩 분야의 심층 추론 능력을 강화한 실험적 모델 QwQ-32B-Preview를 공개했다.
MCP 서버에서 ANSI 이스케이프 시퀀스를 악용해 AI 에이전트에게만 보이는 숨겨진 명령을 주입하는 공격 기법이 공개됐다.
12월 18일 판교 아지트에서 AI 에이전트, TDD, 사내 RAG 봇 등 3개 세션 진행
가비지 컬렉터가 있는 언어에서도 전역 캐시 등을 통해 메모리 누수가 발생할 수 있으며, Replit은 이를 통해 에이전트의 메모리 문제를 확인했다.
카카오페이 DevRel 팀이 if(kakaoAI)2024 컨퍼런스를 준비하며 진행한 리허설 및 스피치 코칭 고도화 과정을 소개한다.
HuggingFace가 메모리 효율성을 극대화한 2B 규모의 오픈소스 시각 언어 모델 SmolVLM을 공개했다.
Hugging Face가 대용량 모델과 데이터셋의 효율적인 전송을 위해 CAS 기반의 새로운 업로드/다운로드 아키텍처를 도입한다.
앤스로픽이 AWS와 협력을 확대하며 Trainium 가속기 최적화 및 40억 달러 규모의 추가 투자를 발표했다.