AI Briefing#ai-security
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Google이 Kubernetes 환경에서 AI 런타임을 자동으로 탐지하고 ML-BOM을 생성하는 k8s-aibom을 오픈소스로 공개했다.
단일 모델의 한계를 극복하기 위해 모델 불가지론적(Model-agnostic) 구조를 가진 AI 에이전트 기반 보안 검증 파이프라인 구축 방법을 설명한다.
IBM과 Red Hat이 AI를 이용한 보안 취약점 공격을 방어하기 위한 Lightwell을 출시했다.
중국 당국이 Anthropic의 코딩 에이전트 Claude Code에서 정보 유출 위험이 있는 보안 백도어를 발견했다고 경고했습니다.
신뢰할 수 있는 LoRA 어댑터의 하위 공간으로 학습 범위를 제한하여 파인튜닝 오염을 방지하는 연구가 발표되었습니다.
AI 에이전트의 취약점을 탐지하기 위해 다회차 대화와 적응형 공격을 수행하는 오픈소스 레드팀 도구입니다.
Google Threat Intelligence와 Wiz ASM의 통합을 통해 실시간 위협 정보에 기반한 선제적 보안 대응 체계를 구축한다.
AI 에이전트의 권한 오남용을 방지하기 위한 오픈소스 보안 프레임워크 MakerChecker가 공개되었습니다.
Datalog 규칙을 통해 Claude Code의 세션 이력을 분석하고 보안을 강화하는 Sasy-Guard가 출시되었습니다.
LangChain은 WebAssembly와 QuickJS를 활용해 격리된 환경에서 에이전트의 코드를 안전하게 실행하는 기술을 공개했다.
팔란티어가 NVIDIA Nemotron 오픈 모델을 활용해 미국 정부 기관을 위한 보안 중심의 AI 엔진을 선보였다.
CrowdStrike는 프롬프트 인젝션이 기술적 장벽을 낮춰 AI를 이용한 공격을 급증시키고 있다고 경고했다.
미국의 수출 규제로 Anthropic 모델 접근이 제한된 가운데, 아시아 기업들이 대안 모델을 출시하며 시장 공략에 나섰다.
Zhipu AI의 오픈 웨이트 모델 GLM 5.2가 보안 벤치마크에서 Claude를 앞서며 강력한 성능을 입증했다.
AI를 이용한 취약점 공격에 대응하기 위해 주요 IT 기업들이 연합 보안 프로젝트 Akrites를 출범했다.
Google Cloud가 NVIDIA RTX PRO 6000 Blackwell GPU를 탑재한 Confidential G4 VM을 출시하며 AI 워크로드의 보안을 강화했다.
구글은 AI 에이전트의 오작동 및 정렬 불일치 위험에 대응하기 위해 시스템 수준의 보안을 강화한 'AI Control Roadmap'을 발표했다.
특정 모델에 의존하지 않고 다양한 LLM을 교차 검증에 활용하는 모델 불가지론적 보안 스캐닝 파이프라인 구축 방법을 설명한다.
AWS가 Amazon Bedrock AgentCore를 중심으로 에이전트 구축, 웹 검색, AI 트래픽 수익화 및 보안 자동화 기능을 발표했다.
Reddit 등 UGC 사이트의 짧은 텍스트 조각만으로도 AI 에이전트의 출력을 스팸이나 사기로 유도할 수 있다.
Google Cloud가 Apple의 Private Cloud Compute(PCC)를 지원하기 위해 강력한 보안 인프라를 구축했다.