AI 루프 차단기

레딧과 GPT Researcher로 수집한 에이전트 불만을 바탕으로, 기억 상실, 디버깅 난이도, 비용 불투명성, 세션 리플레이, 루프 탐지를 핵심 문제로 정리했다.

이를 해결하려고 3D 그래프형 대시보드를 구현했다. 각 선은 이벤트를 의미하고, 길이는 이벤트 시점에 따라 달라져 에이전트가 작업을 쌓아가는 모습을 시각적으로 보여준다.

핵심 기능은 다음과 같다.

• green: 기억 저장
• blue: 기억 회상
• amber: 에이전트의 의사결정
• red: 루프 경고
• cyan: 다른 에이전트의 메모리를 읽은 흔적

기능 면에서는 semantic/prefix recall, shared memory, audit 및 loop detection을 제공하며, 필요하면 stop writes로 즉시 쓰기를 멈출 수 있다고 설명한다.

저자는 루프 탐지가 5번째로 많이 요청된 기능이었지만, 실제로는 가장 큰 비용 절감 효과를 냈다고 강조한다. 한 사용자는 runaway GPT-4 호출을 막아 하루에 200달러를 아꼈다고 전했다.

데모에서는 5개 에이전트가 실제 GPT-4o와 Claude API를 호출하며 리서치, 전략 분석, 컴플라이언스 체크를 수행했고, 500+ memories가 쌓였다. 루프는 특히 유료 자료 검증이나 수렴하지 않는 모델 계산에서 발생했다고 설명한다.

현재는 로컬과 클라우드에서 동작하며, 에이전트 추가와 설정이 비교적 간단하다고 주장하고 있다.