AI Briefing#cybersecurity
#cybersecurity와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#cybersecurity와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AI 에이전트가 안전하고 독립적으로 코드를 실행할 수 있도록 하드웨어 수준의 격리를 제공하는 LangSmith Sandboxes를 소개한다.
Anthropic이 강력한 성능의 범용 모델 Claude Fable 5와 보안 제한을 완화한 Mythos 5를 동시에 출시했다.
Apple Intelligence가 웹사이트를 탐색하여 유출되거나 취약한 비밀번호를 자동으로 변경하는 에이전트 기능을 도입한다.
Google Security Operations가 AI Threat Defense와 결합하여 AI 기반의 고도화된 보안 위협을 자동 탐지하고 대응한다.
ChatGPT 검색 결과에서 유명 브랜드를 사칭한 가짜 쇼핑몰이 발견되어 사용자 금융 정보 유출 위험이 제기되었다.
Microsoft의 오픈 소스 프로젝트들이 해킹되어 AI 개발 도구 사용자의 자격 증명을 탈취하는 악성코드가 유포되었습니다.
VS Code, Cursor, Claude Code 등 AI 코딩 도구의 설정 파일을 이용한 새로운 공급망 보안 위협이 발견되었다.
앤스로픽이 공격적 사이버 작전용 모델인 Mythos를 배치하기 위해 NSA에 엔지니어를 파견했다.
OpenAI가 프롬프트 인젝션 공격을 통한 데이터 유출을 차단하는 'Lockdown Mode'를 출시했다.
오픈웨이트 LLM을 활용해 스스로 공격 전략을 수립하고 전파하는 자율형 AI 웜의 개념 증명에 성공했다.
Anthropic이 Claude를 활용해 소프트웨어 취약점을 자동으로 탐지하고 수정하는 오픈소스 레퍼런스 프레임워크를 공개했다.
토론토 대학교 연구진이 공개된 AI 모델을 활용해 스스로 전략을 수정하며 확산하는 'AI 웜'의 위험성을 증명했다.
Anthropic이 보안 취약점 탐지에 특화된 Mythos 모델을 15개국 150개 기업으로 확대한다.
트럼프 대통령이 강력한 AI 모델의 출시 전 자율적 보안 검토를 골자로 하는 축소된 AI 행정명령에 서명했다.
Anthropic이 소프트웨어 보안 강화를 위해 Project Glasswing 파트너를 150개 조직으로 확대한다.
LLM 에이전트의 보안 취약점 패치 능력을 평가하는 새로운 벤치마크 CVE-Bench가 공개되었다.
Google Cloud가 Gemini 3.5, Gemini Omni 및 AI 보안 솔루션인 Google AI Threat Defense 등 주요 AI 업데이트를 발표했다.
NVIDIA의 RTX Spark 슈퍼칩 공개와 최초의 자율형 LLM 에이전트 사이버 공격 사례가 보고되었습니다.
LLM 에이전트가 보안 버그를 수정할 때, 테스트를 통과하지만 취약점을 남겨두는 '그럴듯한 오답'이 가장 위험하다는 연구 결과가 발표되었다.
EY Canada의 사이버보안 보고서에서 대다수의 인용이 AI 환각 및 허위 정보로 밝혀졌다.
LLM 생성 방식을 통해 데이터 오염 문제를 해결한 새로운 사이버 보안 AI 평가 방법론 PolyRange가 공개되었다.