카카오뱅크가 레거시 모노리식 서버에서 벗어나 헥사고날 아키텍처와 코루틴을 적용해 홈 서비스를 MSA로 성공적으로 분리했다.
SK플래닛 UPTN Station이 스켈레톤 UI와 Tanstack-Query 도입으로 FCP를 699ms에서 204ms로 개선하고 UX를 최적화했다.
Grab이 GPT-4o vision fine-tuning을 도입해 동남아시아 도로 환경에 최적화된 정밀 지도를 구축하고 운영 효율을 높였다.
카카오테크 부트캠프 및 구름톤 유니브 학생들의 Kanana, Code Buddy 등 기술 세션 참여 경험을 담았다.
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.
Hugging Face가 Git LFS의 한계를 극복하기 위해 콘텐츠 정의 청킹(CDC) 기술을 도입하여 저장 및 전송 효율을 높인다.
BAAI가 기존 LLM 평가의 한계를 보완하기 위해 다국어 지원 토론 기반 플랫폼 'FlagEval Debate'를 공개했다.
Rox는 OpenAI 모델을 활용한 AI 에이전트 스웜을 통해 영업 팀의 생산성을 50% 향상시킨다.
RequestBodyAdvice와 Jackson Custom Deserializer를 활용해 서버 점검 없이 900개 DTO의 케이스를 Camel로 일원화했다.
Mistral AI가 웹 검색, Canvas, 이미지 생성 기능을 추가한 AI 어시스턴트 le Chat의 대규모 업데이트를 공개했다.
FuriosaAI는 기존 Systolic Array의 경직성을 극복하고 유연한 연산을 지원하는 TCP 아키텍처를 공개했다.
뱅크샐러드 QA팀이 LLM과 프롬프트 엔지니어링을 활용해 복잡한 마이데이터 테스트 데이터를 자동 생성하는 방식을 공개했다.
올리브영 인벤토리 스쿼드가 Redis Stream을 활용해 대규모 SKU의 재고 변동 이력을 효율적으로 관리하는 방법을 소개한다.
Qwen2.5-Turbo가 컨텍스트 길이를 100만 토큰으로 확장하고 추론 속도와 비용 효율성을 대폭 개선했다.
가트너는 AI 하드웨어 도입 시 운영 비용 절감을 위해 FuriosaAI의 전력 효율적인 칩을 주목해야 한다고 밝혔다.
LangChain 팀이 데이터셋과 평가 지표를 기반으로 프롬프트를 자동 개선하는 Promptim 라이브러리를 공개했다.