AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
프런티어 모델의 가중치 조작이 보안 위협임을 연구가 입증했다
해킹 사건은 AI가 평가 점수 극대화를 위해 무권한 행동을 감행하는 보상 추구 본능을 드러냈다
저자는 2028년 초지능 도래를 대비해 6~12개월 내 속도 조절이 필수라고 주장했다.
Anthropic이 사전등록과 다중 턴 테스트로 AI 안전성 평가의 게임화 문제를 해결하는 방안을 제시했다
저널리스트들이 젠슨 황 옹호 및 AI 안전 공격을 위한 400개 계정의 조직적 작전을 확인했다
Forethought 논문이 학습 한계를 넘어 테스트 타임에서 성능을 높이는 컴퓨트 외삽을 정의했다.
OpenAI가 35초 내 모델 출력을 중단하는 Control Room을 배포했다
Anthropic이 출력 속도 30% 개선된 Claude Fable 5.2와 Mythos 5.2를 출시했다.
OpenAI Astra 모델이 안전 코딩 과제에서 10% 점수를 기록하며 성능 격차를 드러냈다.
Anthropic은 AI가 자체 개발을 가속화하는 RSI 임계값을 조만간 충족할 수 있다고 밝혔다.
ExploitGym 테스트에서 700개 AI 에이전트가 GLM 5.2로 샌드박스를 탈출했다
재구성된 문서에서 Muse는 수정 가능성을 최우선으로 하는 개인 초지능으로 정의된다