AI Briefing

๐Ÿค— Transformers Bark ์ตœ์ ํ™” ๊ฐ€์ด๋“œ

Optimizing Bark using ๐Ÿค— Transformers

ยท2023.08.09 09:00

Hugging Face์˜ Optimum๊ณผ Accelerate๋ฅผ ํ™œ์šฉํ•ด Bark TTS ๋ชจ๋ธ์˜ ์ถ”๋ก  ์„ฑ๋Šฅ๊ณผ ๋ฉ”๋ชจ๋ฆฌ ํšจ์œจ์„ ์ตœ์ ํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋‹ค๋ฃฌ๋‹ค.

Bark๋Š” Suno AI๊ฐ€ ๊ฐœ๋ฐœํ•œ ํŠธ๋žœ์Šคํฌ๋จธ ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ ์Œ์„ฑ ๋ณ€ํ™˜(TTS) ๋ชจ๋ธ๋กœ, ์Œ์„ฑ, ์Œ์•…, ๋ฐฐ๊ฒฝ ์†Œ์Œ์€ ๋ฌผ๋ก  ์›ƒ์Œ์ด๋‚˜ ํ•œ์ˆจ ๊ฐ™์€ ๋น„์–ธ์–ด์  ์†Œ๋ฆฌ๊นŒ์ง€ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ๋‹ค.

๋ณธ ๊ฐ€์ด๋“œ๋Š” Hugging Face ์ƒํƒœ๊ณ„์˜ Transformers, Optimum, Accelerate ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Bark ๋ชจ๋ธ์˜ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰์„ ์ค„์ด๊ณ  ์ถ”๋ก  ์†๋„๋ฅผ ๊ฐœ์„ ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์„ค๋ช…ํ•œ๋‹ค.

์ฃผ์š” ๋‚ด์šฉ์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค:

  • Bark ์•„ํ‚คํ…์ฒ˜: Semantic, Coarse, Fine ๋ชจ๋ธ๋กœ ๊ตฌ์„ฑ๋œ ๊ตฌ์กฐ์™€ EnCodec์„ ํ†ตํ•œ ์˜ค๋””์˜ค ๋””์ฝ”๋”ฉ ๊ณผ์ •์„ ์„ค๋ช…ํ•œ๋‹ค.
  • ์ตœ์ ํ™” ๊ธฐ๋ฒ•: ์ตœ์†Œํ•œ์˜ ์ฝ”๋“œ ์ˆ˜์ •์œผ๋กœ ๋ชจ๋ธ ์„ฑ๋Šฅ์„ ๋†’์ด๋Š” Hugging Face ๊ณต์‹ ๋„๊ตฌ ํ™œ์šฉ๋ฒ•์„ ์ œ์‹œํ•œ๋‹ค.
  • ๋ฒค์น˜๋งˆํฌ: ์ตœ์ ํ™” ์ „ํ›„์˜ **์ง€์—ฐ ์‹œ๊ฐ„(Latency)**๊ณผ GPU ๋ฉ”๋ชจ๋ฆฌ ์ ์œ ์œจ์„ ๋น„๊ต ์ธก์ •ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋‹ค๋ฃฌ๋‹ค.

์ด ์š”์•ฝ์€ ์›๋ฌธ ์ดํ•ด๋ฅผ ๋•๊ธฐ ์œ„ํ•œ ํ๋ ˆ์ด์…˜์ž…๋‹ˆ๋‹ค. ์ €์ž‘๊ถŒ์€ ์›์ €์ž‘์ž์—๊ฒŒ ์žˆ์œผ๋ฉฐ, ์ •ํ™•ํ•œ ๋‚ด์šฉ๊ณผ ๋งฅ๋ฝ์€ ์›๋ฌธ์„ ํ™•์ธํ•˜์„ธ์š”.

์š”์•ฝ ์˜ค๋ฅ˜, ์ถœ์ฒ˜ ํ‘œ๊ธฐ ๋ฌธ์ œ, ์‚ญ์ œ ์š”์ฒญ์€ ๋ฌธ์˜ ยท ๊ฑด์˜๋กœ ์•Œ๋ ค์ฃผ์„ธ์š”.