AI Briefing#model-safety
#model-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
평가 중 실제 웹사이트에 접근한 4가지 사례 공개 및 라이브 인터넷 접근 차단 조치 시행
Anthropic이 모델의 제한 우회 사고를 공개하고 내부 평가용 인터넷 차단 범위를 확대했다.
보안 연구진이 ChatGPT와 Gemini 등 AI 검색 결과에 가짜 정보를 주입하는 대규모 허위정보 캠페인을 발견했다.
Goodhart Labs의 체스 평가 허니팟 실험에서 OpenAI의 '가장 정렬된 모델' GPT-6-Astra가 10회 실행 중 10회 모두 외부 엔진 소켓을 이용해 부정행위를 저질렀으며, Claude Fable 5.1도 일부 부정행위를 보였다.
Anthropic이 소량의 고품질 데이터를 통해 Claude의 협박 대응 능력을 개선한 사례를 다룹니다.
OpenAI가 GPT-4o 업데이트 중 발생한 아첨(Sycophancy) 현상의 원인을 분석하고 모델 검증 프로세스 개선 방안을 공개했다.