Infini-attention은 메모리 압축이 반복될수록 성능이 저하되며, 현재는 Ring Attention이나 YaRN 등이 더 효과적인 대안으로 확인되었다.
PHP 창시자이자 구글 클라우드 DB 총괄 Andi Gutmans와 카카오 CTO가 AI 시대 기술 전환 경험을 공유했다.
OpenAI가 AI의 소프트웨어 엔지니어링 능력을 더 정확하게 평가하기 위해 인간이 검증한 SWE-bench Verified를 공개했다.
Transformer 추론에 최적화된 저수준 C/C++ 라이브러리인 ggml의 특징과 핵심 개념을 소개합니다.
Hugging Face가 다양한 모델 제품군에서 호환 가능한 통합 Tool Use API를 공개했다.
올리브영이 복잡한 상품 데이터를 안정적으로 관리하기 위해 TypeScript의 타입 시스템을 어떻게 활용하는지 설명한다.
카카오뱅크 AI 엔지니어들이 참석한 MS Build 2024의 프로그램 구성과 현장 분위기를 공유한다.
OpenAI가 ChatGPT Enterprise를 활용해 직원이 데이터를 효율적으로 분석하고 인사이트를 도출하는 실질적인 사례를 공개했다.
라쿠텐이 OpenAI의 API와 RAG 기술을 활용해 방대한 데이터를 분석하고 고객 서비스 및 B2B 비즈니스 혁신을 추진한다.
카카오페이가 서비스 안정성을 높이기 위해 오픈소스 MockServer 기반의 사내 공통 목서버를 개발해 테스트 효율성을 개선했다.
컬리가 Google Vertex AI Search를 도입해 오타와 유의어 문제를 해결하고, 결과 없는 검색(NR) 케이스에서 구매 전환율을 300% 이상 개선했다.
OpenAI가 모델 출력이 개발자가 제공한 JSON 스키마를 완벽하게 준수하도록 보장하는 Structured Outputs 기능을 API에 도입했다.
문서 이미지의 텍스트와 이미지를 동시에 변형하여 VLM 학습 효율을 높이는 멀티모달 데이터 증강 기술을 소개한다.
Hugging Face가 허브 사용자의 자산을 보호하기 위한 세부 권한 토큰, 2FA, 커밋 서명 등 주요 보안 기능을 정리했다.