카카오페이 FE 리더들이 모여 기술적 확장성과 매니징, 웹 접근성 등 실무적 고민을 나눴다.
AI21이 Invisible Technologies와 기업용 AI 모델 개선 파트너십을 맺었다.
Mistral AI가 3종의 채팅 모델과 임베딩 모델을 제공하는 API 플랫폼 'La Plateforme'의 베타 서비스를 시작했다.
Mistral AI의 새로운 MoE 모델 Mixtral 8x7b가 공개되었으며, GPT-3.5를 능가하는 성능을 보여준다.
컬리가 OR-Tools 기반 조합 최적화 모형으로 TC-권역 할당 문제를 해결하고 배송 소요시간을 최소화하는 방식을 공개했다.
SetFit을 활용해 적은 데이터로도 LLM보다 뛰어난 성능을 내는 속성 기반 감성 분석(ABSA) 프레임워크를 공개했다.
소프트웨어 개발사 Techjays는 Replit을 도입해 MVP 프로토타이핑 속도를 높이고 개발 생산성을 25~30% 향상시켰다.
Lombok 이슈를 극복하며 자바 프로젝트를 코틀린으로 점진적으로 전환하는 실무 경험을 공유한다.
HuggingFace가 베이스 모델을 유지하며 LoRA 어댑터만 동적으로 교체하여 추론 속도를 300% 향상시켰다.
Hugging Face가 NVIDIA 플랫폼에서 LLM 추론 속도를 최대 28배 높여주는 Optimum-NVIDIA 라이브러리를 출시했다.
Hugging Face가 AMD Instinct GPU에서 별도 코드 수정 없이 LLM을 실행할 수 있는 최적화 지원을 발표했다.
Docker Compose로 로컬 Airflow를 배포 환경에 가깝게 맞추고 PyCharm 디버깅까지 가능하게 만들었다.
프로그래밍 챌린지인 Advent of Code를 별도 설치 없이 브라우저에서 다양한 언어로 해결할 수 있는 Replit 활용법을 소개한다.
Open LLM Leaderboard의 DROP 벤치마크에서 모델 점수가 비정상적으로 낮게 측정된 원인이 평가 지표의 정규화 오류임을 밝혀냈다.