카카오페이 DevRel 팀이 if(kakaoAI)2024 컨퍼런스를 준비하며 진행한 리허설 및 스피치 코칭 고도화 과정을 소개한다.
HuggingFace가 메모리 효율성을 극대화한 2B 규모의 오픈소스 시각 언어 모델 SmolVLM을 공개했다.
Hugging Face가 대용량 모델과 데이터셋의 효율적인 전송을 위해 CAS 기반의 새로운 업로드/다운로드 아키텍처를 도입한다.
앤스로픽이 AWS와 협력을 확대하며 Trainium 가속기 최적화 및 40억 달러 규모의 추가 투자를 발표했다.
아마존이 앤스로픽에 최대 40억 달러를 투자하며, AWS 인프라를 통한 AI 모델 개발 및 Amazon Bedrock 지원을 강화한다.
OpenAI가 사람과 AI를 결합해 AI 모델의 위험을 탐지하는 레드팀 기술 고도화 방안을 발표했다.
카카오뱅크가 레거시 모노리식 서버에서 벗어나 헥사고날 아키텍처와 코루틴을 적용해 홈 서비스를 MSA로 성공적으로 분리했다.
SK플래닛 UPTN Station이 스켈레톤 UI와 Tanstack-Query 도입으로 FCP를 699ms에서 204ms로 개선하고 UX를 최적화했다.
Grab이 GPT-4o vision fine-tuning을 도입해 동남아시아 도로 환경에 최적화된 정밀 지도를 구축하고 운영 효율을 높였다.
카카오테크 부트캠프 및 구름톤 유니브 학생들의 Kanana, Code Buddy 등 기술 세션 참여 경험을 담았다.
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.
Hugging Face가 Git LFS의 한계를 극복하기 위해 콘텐츠 정의 청킹(CDC) 기술을 도입하여 저장 및 전송 효율을 높인다.
BAAI가 기존 LLM 평가의 한계를 보완하기 위해 다국어 지원 토론 기반 플랫폼 'FlagEval Debate'를 공개했다.
Rox는 OpenAI 모델을 활용한 AI 에이전트 스웜을 통해 영업 팀의 생산성을 50% 향상시킨다.
RequestBodyAdvice와 Jackson Custom Deserializer를 활용해 서버 점검 없이 900개 DTO의 케이스를 Camel로 일원화했다.