AI Briefing#transformer
#transformer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#transformer와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Hugging Face가 AWS Inferentia2 최적화를 지원하여 Transformers 모델의 추론 성능과 비용 효율성을 개선했다.
Hugging Face와 Flower 프레임워크를 결합하여 언어 모델의 연합 학습을 구현하는 기술 튜토리얼이다.
Fetch가 Hugging Face와 AWS를 활용해 자체 AI 모델을 구축함으로써 영수증 처리 효율을 높이고 개발 시간을 단축했다.
고정된 이미지 인코더와 LLM을 연결하는 Q-Former를 통해 효율적인 시각-언어 학습을 구현한 BLIP-2를 소개한다.
Hugging Face Transformers 라이브러리에 통합 음성 처리 모델인 SpeechT5가 추가되었습니다.
Intel Sapphire Rapids CPU와 Optimum Intel 라이브러리를 활용해 PyTorch Transformer 모델의 추론 성능을 최적화하는 방법을 다룬다.
Hugging Face가 8가지 핵심 비전 태스크와 3,000개 이상의 모델을 지원하며 컴퓨터 비전 생태계를 확장하고 있다.
Mask2Former와 OneFormer를 통해 인스턴스, 시맨틱, 파놉틱 세그멘테이션을 통합 수행하는 범용 모델을 소개한다.
Intel Sapphire Rapids의 AMX 기술을 활용해 PyTorch Transformer 학습을 가속화하는 방법을 소개한다.
Elixir 환경에서 GPT2, Stable Diffusion 등 Hugging Face 모델을 실행할 수 있는 Bumblebee 라이브러리가 출시되었다.
Transformer의 Encoder-Decoder 구조를 활용해 불확실성을 포함한 확률적 시계열 예측을 수행하는 방법을 설명한다.
Concrete-ML을 사용하여 암호화된 데이터 상태에서 Transformer 기반 감성 분석을 수행하는 방법을 소개한다.
Transformers 라이브러리에 텍스트 반복 문제를 해결하는 Contrastive Search가 도입되었다.
Hugging Face Transformers를 사용하여 Whisper 모델을 다국어 음성 인식(ASR) 데이터셋으로 미세 조정하는 방법을 안내한다.
HuggingFace가 BLOOM 모델의 추론 서버를 최적화하여 지연 시간을 5배, 처리량을 50배 개선한 기술적 과정을 설명한다.
대규모 언어 모델의 메모리 사용량을 2배 줄이면서 성능을 유지하는 8비트 양자화 기술과 Hugging Face 라이브러리 통합을 설명한다.
Nyström 방법을 활용해 Transformer의 self-attention 복잡도를 $O(n^2)$에서 $O(n)$으로 줄이는 Nyströmformer를 소개한다.
Hugging Face transformers에서 TensorFlow와 XLA를 결합해 텍스트 생성 속도를 최대 100배까지 높일 수 있다.
Hugging Face Optimum을 활용해 Transformers 모델을 ONNX 형식으로 변환하고 추론 성능을 최적화하는 방법을 설명한다.