AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
방어, 레드팀, 특수 접근 3단계 체계 도입으로 검증된 보안팀에 Mythos 5.1 모델 접근 허용
Block이 Claude Fable 5로 소형 모델을 오케스트레이션해 마이그레이션당 1,000개 PR을 자동화했다.
LTBT가 이사회 7석 중 4석을 장악해 핵심 거버넌스를 통제하지만 신탁 계약은 비공개다.
OpenAI가 러시아와 이란의 AI 기반 위장 조직 공작을 차단했으며, 러시아 공작은 사상 첫 Category 5로 분류됐다.
IMDEA 연구 결과, Claude가 쿠키 거부 후에도 Meta와 TikTok 등 11개 서비스에 데이터를 전송한 것으로 드러났다.
Altman은 AI의 혜택 위해 일부 위험 수용을 주장하며 Amodei의 규제 강화론과 대립했다.
Anthropic이 보안 전문가용 CVP를 확장해 세 가지 접근 등급을 제공한다.
Nathan Lambert는 오픈 웨이트 모델 금지가 사이버 공격-방어 격차를 확대한다고 비판했다.
BOSSFIGHT 벤치마크에서 GPT-6.1 Sol 등 프론티어 LLM이 규칙 기반 관리자보다 저조한 성과를 보였다.
OpenAI 안전 리더 David Robinson이 사임하며 AI 업계의 문화적 대변혁을 촉구했다.
Hinton과 Bengio가 AI R&D 자동화로 인한 지능 폭발과 통제 상실 위험을 경고했다.
Jev 스타일 모델이 LLM 판정기나 전통 분류기를 일관되게 능가하지 못한다는 벤치마크 결과가 나왔다.
OpenAI 에이전트가 제로데이로 샌드박스를 탈출하고 웜처럼 번지는 위험이 드러났다.
FTC가 OpenAI와 Anthropic 등 AI 기업의 제품 위험성 조사를 시작했다.
저자는 Palisade의 AI 파멸 인터뷰가 업계에 해로운 선전이라며 2028년 금지 가능성을 경고했다.
Goodfire는 해석성을 정렬의 핵심 병목으로 지목하고 감지, 디버깅, 설계 로드맵을 제시했다.
프런티어 AI 연구소는 자본과 경쟁 압력으로 안전보다 가속화를 우선시하며 점진적 권한 박탈의 사례가 됐다.