Mistral AI의 새로운 MoE 모델 Mixtral 8x7b가 공개되었으며, GPT-3.5를 능가하는 성능을 보여준다.
컬리가 OR-Tools 기반 조합 최적화 모형으로 TC-권역 할당 문제를 해결하고 배송 소요시간을 최소화하는 방식을 공개했다.
SetFit을 활용해 적은 데이터로도 LLM보다 뛰어난 성능을 내는 속성 기반 감성 분석(ABSA) 프레임워크를 공개했다.
소프트웨어 개발사 Techjays는 Replit을 도입해 MVP 프로토타이핑 속도를 높이고 개발 생산성을 25~30% 향상시켰다.
Lombok 이슈를 극복하며 자바 프로젝트를 코틀린으로 점진적으로 전환하는 실무 경험을 공유한다.
HuggingFace가 베이스 모델을 유지하며 LoRA 어댑터만 동적으로 교체하여 추론 속도를 300% 향상시켰다.
Hugging Face가 NVIDIA 플랫폼에서 LLM 추론 속도를 최대 28배 높여주는 Optimum-NVIDIA 라이브러리를 출시했다.
Hugging Face가 AMD Instinct GPU에서 별도 코드 수정 없이 LLM을 실행할 수 있는 최적화 지원을 발표했다.
Docker Compose로 로컬 Airflow를 배포 환경에 가깝게 맞추고 PyCharm 디버깅까지 가능하게 만들었다.
프로그래밍 챌린지인 Advent of Code를 별도 설치 없이 브라우저에서 다양한 언어로 해결할 수 있는 Replit 활용법을 소개한다.
Open LLM Leaderboard의 DROP 벤치마크에서 모델 점수가 비정상적으로 낮게 측정된 원인이 평가 지표의 정규화 오류임을 밝혀냈다.
1만 명의 동시 접속을 처리하기 위한 C10K 문제의 정의와 이를 해결하기 위한 기술적 진화 과정을 살펴본다.
카카오페이 SRE팀이 AWX와 Jenkins를 활용해 물리 서버 배포의 안정성과 속도를 높인 '파일런' 파이프라인을 구축했다.
카카오뱅크 메시지 허브 시스템에 코드 중복을 최소화하고 확장성을 높이는 멀티모듈 헥사고날 아키텍처를 적용한 사례를 소개한다.
뱅크샐러드가 주 단위 배포와 자동화 테스트를 통해 모바일 앱의 안정성을 확보하는 협업 방식을 공개했다.