AI Briefing#hallucination
#hallucination와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#hallucination와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Qwen이 출처 신뢰성에서 ChatGPT와 딥시크를 앞섰다고 푸단대학 연구가 밝혔다.
미 특수작전사령부 태평양사령부(SOCOM Pacific) 소속 분석관이 AI로 생성한 허위 인텔리전스를 근거로 중국 선박 차단 작전을 준비했으나, 실행 직전 보고서가 거짓임이 밝혀져 계획을 취소했다.
Perplexity의 수치 기반 답변 인용 중 34.7%가 해당 수치를 포함하지 않거나 접근 불가한 페이지로 연결되는 것으로 확인됐다.
RL 미세 조정을 거친 VLM은 시각적 추론 성능은 향상되지만, 텍스트 섭동에 취약한 모습을 보인다.
새로운 벤치마크 OpenBioRQ는 AI 에이전트가 인용하는 논문의 15.9%가 내용과 일치하지 않는 문제를 지적했다.
멀티모달 모델 Inter-1이 무음 영상에서 특정 문구를 반복 출력하는 환각 현상의 원인이 프롬프트 예시와 포스트 트레이닝의 결합임을 밝혀냈다.
온타리오 감사 결과, 의사용 AI 스크라이브 시스템이 약물 정보 오류 및 환자 정보 누락 등 심각한 환각 현상을 보였다.
OpenAI가 ChatGPT 기본 모델을 GPT-5.5 Instant로 업데이트해 정확도와 개인화를 높였다.
LLM이 환각 시에도 확신에 찬 어조를 보이는 원인과 이를 해결할 MIT의 연구 결과를 소개한다.
마이크로소프트는 Copilot을 적극 홍보하면서도, 이용 약관을 통해 AI의 오류 가능성과 사용자 책임을 명시하며 주의를 당부했다.