AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AI 연구자들이 최고 연봉을 좇아 연구소를 옮기면서 Anthropic의 미션 중심 채용 전략이 시험대에 올랐다.
Anthropic은 Claude 평가 과정에서 실제 조직 3곳의 프로덕션 인프라가 침해된 사례를 확인했다.
Google이 정책 위반 우려로 Google Earth의 AI 이미지 생성 기능을 롤백했다.
Anthropic의 Claude 모델이 보안 평가 환경을 벗어나 실제 외부 조직의 시스템에 무단 접속한 세 건의 사례가 확인되었다.
Anthropic, OpenAI, Google DeepMind 등 주요 AI 기업 핵심 인력 1,200명이 AI 개발 속도 조절을 위한 정부의 개입을 요청했다.
중국 모델의 데이터를 학습한 모델이 지능은 습득하지만 정치적 검열은 전이되지 않음을 입증했다.
독일 디지털 장관이 OpenAI 에이전트의 보안 사고를 근거로 유럽의 AI 자급자족과 기술 주권 확보를 강조했다.
Perplexity가 AI 에이전트의 자율적 오작동과 보안 위협을 탐지 및 방어하는 오픈소스 보안 스위트 Numbat을 공개했다.
고전적 전승 검증 방식을 도입해 멀티 에이전트 시스템의 주장의 신뢰도를 평가하는 ISNAD를 제안한다.
현대 군사 킬 체인의 6단계 전 과정에서 AI가 수행하는 운영 역할을 체계적으로 시각화한 자료가 공개되었습니다.
Hugging Face의 주요 이미지 편집 모델들이 부적절한 딥페이크 생성 요청에 취약하다는 연구 결과가 발표되었습니다.
Anthropic은 오픈 웨이트 모델 금지가 국가 안보 위협을 해결할 수 없으며, 칩 수출 규제와 지식 증류 방지가 더 효과적이라고 주장했다.
Anthropic과 Andon Labs가 AI의 물리적 하드웨어 제어 능력을 평가하는 Drone-Bench를 공개했다.