AI Briefing#cybersecurity
#cybersecurity와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#cybersecurity와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
고비용 AI 추론 자원을 무단으로 사용하거나 재판매하는 '추론 탈취' 공격에 대응하기 위해 매 요청마다 검증을 수행하는 보안 전략이 필수적이다.
EY의 사이버 보안 보고서에서 다수의 가짜 인용과 통계 등 LLM 환각 현상이 발견되었다.
데이터 오염 문제를 해결하고 동적 방어 환경을 반영한 AI 보안 평가 벤치마크 PolyRange가 공개되었다.
공공 부문 CISO를 위해 AI를 활용한 보안 프로그램 구축 로드맵과 단계별 실행 전략을 제시한다.
Anthropic은 AI 모델이 사이버 보안 및 생물학 분야에서 급격한 역량 향상을 보이며 국가 안보 리스크의 초기 징후를 나타내고 있다고 경고했다.
Anthropic은 프론티어 AI 모델의 도난 및 오용을 방지하기 위해 '2인 통제'와 같은 강력한 보안 체계와 국가적 차원의 인프라 보호를 제안했다.
Anthropic이 미국의 청소년을 위한 AI 교육 투자 서약에 참여하며 사이버 보안 교육 지원과 교사용 커리큘럼 개발 등 구체적인 지원책을 발표했다.
IBM이 오픈소스 취약점 해결을 위한 AI 기반 'Project Lightwell'에 50억 달러를 투자한다.
LangChain이 에이전트의 안전한 코드 실행을 위한 하드웨어 가상화 기반의 LangSmith Sandboxes를 정식 출시했다.
16개의 전문 에이전트와 LangGraph를 활용해 전문적인 레드팀 공격을 수행하는 자율 해킹 에이전트입니다.
Ramp는 1만 개의 AI 에이전트를 투입해 자사 백엔드에서 7개의 고위험 보안 취약점을 성공적으로 찾아냈다.
Multi-Agent LLM 시스템을 활용해 소프트웨어 취약점을 자동으로 발견하고 재현하는 연구를 소개한다.
Google이 AI 기반 사이버 공격에 대응하기 위해 자동화된 보안 시스템인 Google AI Threat Defense를 출시했다.
OpenAI가 2026년 글로벌 선거를 대비해 신뢰할 수 있는 정보 제공과 사이버 보안 및 AI 콘텐츠 투명성 강화에 나선다.
AI 도구가 간단한 프롬프트만으로 Linux와 Windows의 보안 취약점을 찾아내는 새로운 위협이 나타나고 있다.
Claude를 통해 Apple macOS 커널의 보안 취약점인 CVE-2026-28952를 발견했다.
Anthropic이 보안 특화 모델인 Mythos 1을 Claude Code 및 Claude Security에 도입하기 위해 준비 중이다.
KPMG가 Anthropic과 제휴해 Claude를 전사와 핵심 업무에 도입했다.
npm 패키지 공급망 공격을 통해 Claude Code 및 Codex와 같은 AI 코딩 도구가 탈취될 위험이 발견되었습니다.