AI Briefing#llm
#llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
카카오 광고추천팀 개발자가 제주에서 열린 KCC 2023 카카오테크 워크숍에서 큐라스 플랫폼을 소개했다.
FuriosaAI가 CVPR 2023에서 상용화된 1세대 NPU를 선보이며 다양한 컴퓨터 비전 작업에서의 성능을 입증했다.
Replit은 AI를 개발 환경의 핵심으로 삼는 'ADI(Artificial Developer Intelligence)' 비전을 통해 소프트웨어 개발의 패러다임 전환을 선언했다.
BERT와 GPT2의 핵심인 MLM과 CLM 원리를 설명하고, PyTorch로 트랜스포머 인코더를 직접 구현하여 도메인 특화 모델을 구축하는 방법을 소개한다.
인터랙션 디자이너 Saleh Kayyali가 Replit Deployments를 통해 AI 아이디어 캔버스 NodePad를 구축했다.
4-bit 양자화와 QLoRA 기술을 통해 대규모 언어 모델을 적은 메모리로도 효율적으로 파인튜닝할 수 있게 되었다.
Hugging Face와 IBM이 watsonx.ai를 통해 엔터프라이즈 AI 구축을 위한 협력을 발표했다.
SmoothQuant 기술을 활용해 LLM의 크기를 줄이고 Intel CPU에서의 추론 효율을 높이는 방법을 다룬다.
LLM 추론의 병목인 메모리 대역폭 문제를 해결하여 텍스트 생성 지연 시간을 최대 10배 단축하는 새로운 디코딩 기법을 소개한다.
StarCoder를 ChatML과 DeepSpeed로 미세 조정하여 대화형 코딩 어시스턴트 StarChat을 구축하는 방법을 소개한다.
AI 기술 발전과 함께 저작권 이슈가 부상하는 가운데, Replit은 라이선싱을 통해 기술 혁신과 생태계 구축을 도모한다.
Databricks와 Hugging Face가 Spark 데이터프레임을 Hugging Face 데이터셋으로 직접 변환하는 기능을 출시했다.
개발 플랫폼 Replit이 클라우드 서비스 확장과 AI 개발 혁신을 위해 9,740만 달러 규모의 투자를 유치했다.
전 GitHub CEO Nat Friedman이 Replit Bounties를 통해 LLM 비교 도구 nat.dev를 구축한 사례를 소개한다.
Replit과 Chroma가 개발자가 메모리와 지식을 갖춘 AI 애플리케이션을 쉽게 구축할 수 있도록 돕는 전용 템플릿을 출시했다.
Replit은 개발자가 IDE를 벗어나지 않고도 코딩과 디버깅을 수행할 수 있도록 IDE에 통합된 AI 페어 프로그래머 Ghostwriter Chat을 구축했다.