AI Briefing#llm-reliability
#llm-reliability와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-reliability와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
LLM의 CoT 추론이 실제 내부 과정과 일치하지 않는 '불충실성' 문제를 지적한 연구가 공개됐다.
고전적 전승 검증 방식을 도입해 멀티 에이전트 시스템의 주장의 신뢰도를 평가하는 ISNAD를 제안한다.
AI 조언이 사용자의 판단 중단 능력을 저하시키고 정확도는 낮추며 자신감만 높이는 현상이 발견됨.
RAG 시스템이 정답은 맞게 제시하더라도 출처를 잘못 인용하는 비율이 약 30%에 달한다는 연구 결과가 발표되었다.
AI 에이전트가 모델 업데이트 등으로 인해 의도와 다르게 동작하는 '에이전틱 드리프트'의 위험성을 분석한다.
IBM과 UC 버클리가 IT 자동화 에이전트의 실패 패턴을 체계적으로 분석하는 MAST 방법론을 공개했다.