FuriosaAI의 칩 아키텍처는 정말 혁신적인가?

FuriosaAI의 RNGD는 성능, 프로그래밍 가능성, 전력 효율성을 동시에 달성하기 위해 혁신적인 TCP(Tensor Contraction Processor) 아키텍처를 채택했다.

기존의 Systolic Array는 데이터가 고정된 격자 구조를 따라 흐르는 방식으로 행렬 연산에 매우 효율적이다. 하지만 구조가 경직되어 있어, 연산되는 텐서의 크기나 배치 사이즈가 고정된 격자와 일치하지 않을 경우 자원 활용도가 급격히 떨어지는 한계가 있다.

TCP는 이러한 문제를 해결하기 위해 다음과 같은 차별점을 가진다:

• 동적 재구성: 고정된 격자 대신 **'슬라이스(slices)'**라 불리는 작은 연산 단위를 사용하며, 이를 필요에 따라 동적으로 재구성하여 다양한 텐서 형태에 대응한다.
• 효율적인 데이터 이동: Fetch network를 통해 데이터를 여러 슬라이스에 동시에 브로드캐스트할 수 있다.
• 시공간적 데이터 재사용: 공간적 재사용을 넘어, 버퍼와 시퀀싱 로직을 활용해 시간적(temporal) 차원의 데이터 재사용까지 지원한다.

이러한 유연성 덕분에 TCP는 배치 사이즈가 작고 텐서 크기가 가변적인 Inference 워크로드에서도 높은 자원 활용도와 효율성을 유지한다.