AI Briefing

Transformers, 텍스트 생성 제어 기능 강화

Guiding Text Generation with Constrained Beam Search in 🤗 Transformers

·2022.03.11 09:00

Transformers 라이브러리에서 특정 단어를 포함하도록 텍스트 생성을 제어하는 Constrained Beam Search 기능을 소개한다.

기존의 **빔 서치(Beam Search)**는 토큰을 순차적으로 생성하는 방식이기 때문에, 특정 시점에 원하는 단어나 문구가 반드시 포함되도록 강제하는 것이 기술적으로 매우 까다롭다.

Hugging Face의 Transformers 라이브러리는 이를 해결하기 위해 force_words_ids 인자를 활용한 Constrained Beam Search 기능을 제공한다. 이 기능을 통해 사용자는 다음과 같은 정교한 제어가 가능하다:

  • 특정 단어 강제: 번역 시 문체(예: 격식체 vs 비격식체)를 결정하는 특정 단어를 포함하도록 유도
  • 다중 제약 조건: 여러 개의 특정 문구를 결과물에 포함
  • 선택적 제약: 여러 후보 문구 중 하나를 선택하여 포함하도록 설정

이 기능은 모델이 생성 과정 중 어느 시점에 제약 조건을 삽입해야 할지 스스로 판단하게 함으로써, 텍스트 생성의 예측 가능성과 사용자 의도 반영 능력을 크게 높여준다.

이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.

요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.