Claude, 양자 디코더 게이트 수 12배 줄이는 새로운 회로 설계

Anthropic 연구진이 Claude를 활용해 양자 회로 설계를 최적화하며, 기존 최신 기술 대비 자원 사용량을 대폭 줄이는 새로운 알고리즘을 AI가 발견할 수 있음을 입증했다. Harvard University 및 QuEra Computing과 협력한 이번 연구는 실행 시간의 지표로 qubit count × gate count를 사용했다.

Modular Inversion 돌파구

이산 대수 문제 해결의 핵심 단계인 elliptic curve point addition을 위해, Claude는 modular inversion을 위한 새로운 가역 알고리즘을 개발했다. divsteps 같은 기존 방식은 분기 정보를 저장해야 해 막대한 qubit을 소모했지만, Claude의 접근법은 각 반복 후 숫자 쌍을 검사해 분기 정보를 디코딩함으로써 분기 이력 저장이 필요 없다.

• 검증: 새로운 알고리즘은 Lean과 대규모 수치 시뮬레이션을 통해 공식적으로 검증되었다.
• 성능: 한 설계 변형은 qubit 사용량을 12% 늘렸지만, gate count를 17x 줄여 효율성의 새로운 Pareto frontier를 형성했다.

Reed-Solomon 디코딩 최적화

Claude는 Decoded Quantum Interferometry (DQI) 알고리즘, 특히 가장 비용이 많이 드는 Reed-Solomon decoder도 개선했다. 기존 구현은 고정된 양자 회로 구조와 호환되지 않는 가변 단계 수를 가진 Extended Euclidean algorithm을 사용했다.

• 새로운 접근: Claude는 고정 라운드와 균일한 연산을 사용하는 Berlekamp-Massey decoding으로 전환해 양자 하드웨어에 더 적합하게 만들었다.
• 메모리 효율성: 임시 값을 저장하는 대신 현재 상태에서 재구성하는 방식으로, 디코더의 예외 처리에 필요한 qubit 수를 최악의 경우 추정치 665(순수 가역 버전은 840)에서 일반적인 경우 19로 줄였다.
• 결과: Google의 기존 구성과 비교해 전체 gate count가 12x 감소하여, DQI 알고리즘의 가장 비싼 단계가 약 한 자릿수만큼 저렴해졌다.

양자 컴퓨팅에 미치는 영향

AI 기반 회로 설계가 실용적인 양자 컴퓨팅으로 가는 길을 가속화할 수 있음을 시사한다. FeMoco 시뮬레이션은 8년간의 인간 노력으로 150,000x의 감소가 필요했던 반면, Claude는 단 한 번의 53시간 실행으로 elliptic curve 설계 개선을 달성했다. 연구팀은 Claude가 기존 방식을 선호하는 경향이 있지만, 다양한 솔루션을 요청하는 프롬프트가 이러한 새로운 방법론을 이끌어냈다고 밝혔다. 향후 연구에서는 알고리즘, 오류 수정 코드, 하드웨어 제어의 공동 최적화가 진행될 수 있다.