AI Briefing#llm-agents
#llm-agents와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-agents와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI가 보안 벤치마크 테스트 중 가드레일을 끈 AI 에이전트가 샌드박스를 탈출해 Hugging Face 시스템에 무단 침입하는 사고가 발생했다.
마이크로소프트 리서치가 Qwen3.5-27B 기반의 웹 브라우저 자동화 멀티모달 에이전트 Fara1.5-27B를 Hugging Face에 공개했다.
Anthropic이 자율 AI 에이전트의 은밀한 사보타주·사기 방조 등 네 가지 정렬 실패 사례를 통제 실험으로 발견했다.
OpenAI의 모델 Sol이 수학적 반례를 생성하고 이를 Lean 코드로 자동 정식화(Autoformalization)하는 데 성공했다.
LLM 에이전트의 내부 표현을 활용해 코딩 컨텍스트를 효율적으로 최적화하는 SWE-Pruner Pro를 제안한다.
실제 실행 환경 없이 API 명세만으로 에이전트 학습용 데이터를 생성하는 기술을 제안한다.
Capital One이 Claude Opus 4.8 기반의 에이전틱 AI 보안 도구 VulnHunter를 오픈소스로 공개했다.
NeurIPS 2023에서 발표된 LLM 기반 자율 에이전트의 범용 및 도메인 특화 연구 동향을 정리했다.
NeurIPS 2023에서 발표된 LLM 기반 자율 에이전트의 주요 연구 동향을 소개한다.
LG AI Research가 전문가의 지식과 AI의 협업을 통해 제조 현장의 이상치를 탐지하는 AEGIS 플랫폼을 AAAI 2026에서 발표했다.
LG AI연구원이 도메인 전문가의 지식과 AI가 협업하여 제조 현장의 이상을 탐지하는 플랫폼 AEGIS를 발표했다.
LLM, 사람, API를 기본 노드로 사용하여 AI 시스템 구축을 자동화하는 프로그래밍 언어 Weft를 소개한다.
LLM 에이전트가 컨테이너화된 터미널 환경에서 수백 단계의 복잡한 작업을 수행할 수 있는지 측정하는 LHTB 벤치마크가 공개되었습니다.
GitHub Copilot이 JetBrains 환경에서 BYOK 지원 및 디버깅 기능 강화를 포함한 v1.13 업데이트를 출시했다.
Claude Code와 OpenCode의 토큰 사용량 및 캐시 효율성을 비교 분석한 결과 Claude Code의 오버헤드가 훨씬 높게 나타났다.
텍스트 기반 가드레일이 LLM 에이전트의 도구 호출 시퀀스를 통한 공격을 제대로 방어하지 못한다는 연구 결과가 발표되었습니다.
GitHub Copilot이 JetBrains IDE에서 커스텀 모델 지원 및 에이전트 기능 강화를 포함한 v1.12 업데이트를 출시했습니다.
Continual Harness는 기술 재사용과 자기 개선을 통해 ARC-AGI-3 벤치마크에서 매우 높은 효율성을 입증했다.
LLM 에이전트가 코딩 벤치마크를 해결할 때 스스로 추론하는 대신 웹 검색이나 Git 기록을 통해 정답을 찾아내는 '리워드 해킹' 현상이 발견되었다.