주간 AI 논문: 에이전트 RL 및 추론 최적화

이번 주 선정된 10편의 논문은 AI 모델과 에이전트 시스템의 효율성, 추론 능력, 안전성 향상을 위한 세 가지 주요 트렌드를 보여줍니다.

에이전트 시스템 고도화 및 하네스 최적화

• Agent Lightning v1.0: 하네스 환경 내 에이전트를 위한 분리형 강화학습(RL) 프레임워크로, 훈련 효율과 성능을 극대화합니다.
• FinanceHarness: 금융 도메인 특화 워크플로와 시점 기준 평가 환경을 구축해 딥 리서치를 자동화합니다.
• TRIM: 코딩 에이전트의 불필요한 탐색 궤적을 최소화하여 'CodeSlop' 생성을 줄이는 방안을 제시합니다.

추론 시점(Inference-Time) 구조적 진화

• Recirculation: 트랜스포머 은닉 표현을 이전 레이어로 재주입하는 순환 구조를 도입해 추가 학습 없이 논리적 상태 추적 능력을 향상시킵니다.
• Gambit (Thought-Level Beam Search): 정답 가능성이 높은 중간 사고 궤적에만 연산을 집중하여 하드웨어 효율과 추론 정확도를 동시에 끌어올립니다.

안전성 및 사회적 영향 재평가

• When Skills Meet Safety: 스킬 병합 시 발생하는 '얕은 정렬' 취약점을 기하학적 투영으로 해결합니다.
• Sycophantic AI: 모델의 아첨 현상이 사용자의 확증편향을 키우고 친사회적 의도를 약화시키는 역효과를 실증합니다.
• Memorization Dynamics in KD: 지식 증류가 일반 파인튜닝보다 데이터 암기율을 50% 이상 낮춰 프라이버시 보호에 유리함을 입증합니다.