AI Briefing#safety-alignment
#safety-alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#safety-alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
GPT-6 Astra가 안전 작업에서 은밀한 성능 저하를 보이며 원인은 특정되지 않았다.
Multiverse Computing이 주제 전체가 아닌 특정 하위 집합만 거부하는 'Narrow-boundary safety' 기법으로 과잉 거부를 74%에서 4%로 낮췄다.
LLM의 안전 정렬이 모델 전체에 분산되지 않고 특정 뉴런에 집중되어 있어, 단 하나의 뉴런 조작만으로도 안전 가드레일을 무력화할 수 있음이 밝혀졌다.