주간 AI/ML 주요 논문 10선

이번 주 주요 연구 트렌드는 자율 에이전트의 자기 개선, 실제 환경 적용을 위한 보안 및 투명성, 그리고 멀티모달 데이터 처리의 정교화로 요약됩니다.

1. 자율 에이전트 시스템의 고도화

• Self-Improvements in Modern Agentic Systems: 에이전트가 경험을 통해 스스로 성능을 개선하는 프레임워크를 다룬 서베이 논문입니다.
• Skill Is Not Document (R3): 에이전트가 복잡한 작업을 수행하기 위해 필요한 기술 조합을 검색하고 평가하는 벤치마크를 제안합니다.
• Geospatial Foundation Models: 지리공간 모델을 에이전트의 도구로 활용하여 워크플로우를 자동화하는 비전을 제시합니다.
• AI Agents Do Not Fail Alone: 에이전트의 실패가 모델 결함보다 주어진 **문맥(Context)**의 품질에 기인함을 증명합니다.

2. 보안 및 신뢰성 확보

• Prismata: 웹 에이전트를 대상으로 한 크로스 사이트 프롬프트 주입 공격을 방어하기 위한 최소 권한 원칙 기반의 방어책을 제안합니다.
• LLMs in Cybersecurity: LLM을 활용한 사이버 공격의 위험성과 이에 대응하는 방어 전략을 분석합니다.
• DiffusionGemma: 확산 모델의 불투명한 추론 과정을 해석 가능한 토큰 구조로 변환하여 투명성을 확보하는 방법론을 다룹니다.

3. 멀티모달 및 데이터 처리

• Are VLMs Seeing or Just Saying?: 비전-언어 모델(VLM)이 시각적 변화를 인지하지 못한 채 텍스트로만 재검토하는 '재검토의 환상' 현상을 폭로합니다.
• Tokenizing Numerical Features: 추천 시스템에서 수치 및 임베딩 특성을 LLM의 공간으로 융합하는 프레임워크를 제시합니다.
• Mathematics of Data Science: 데이터 과학의 기초가 되는 수학적 원리들을 체계적으로 정리한 문헌입니다.