AI BriefingApple ML 뉴스
Apple ML에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →일반적인 분포 특성을 위한 대화형 증명(Interactive Proofs)
제한된 자원으로도 데이터 분포의 복잡한 특성을 효율적으로 검증할 수 있는 대화형 증명 시스템을 구축했다.
함수의 위치 불변 속성과 분포의 속성: 테스트에서는 일치하나 검증에서는 분리됨
함수의 위치 불변 속성 테스트와 분포의 속성 테스트는 유사하지만, 검증 단계에서는 두 개념 사이의 관계가 유지되지 않는다.
LLM Function-Calling을 위한 불확실성 정량화(Uncertainty Quantification)
LLM이 함수를 잘못 호출하여 발생할 수 있는 위험을 방지하기 위해 호출의 정확도를 측정하는 불확실성 정량화 기술이 중요해지고 있다.
단 한 개의 레이어로 충분하다: 이미지 생성을 위한 사전 학습된 시각적 인코더 적응 기술
단 하나의 어텐션 레이어만으로 사전 학습된 시각적 표현을 이미지 생성에 적합한 저차원 잠재 공간으로 변환하는 FAE 프레임워크를 제안한다.
Apple Music 검색을 위한 다국어 의미론적 검색(Semantic Retrieval)
Apple Music이 다국어 검색 품질을 높이기 위해 Siamese bi-encoder 기반의 의미론적 검색 시스템을 도입했다.
선제적 에이전트 연구 환경: 능동적 사용자 시뮬레이션을 통한 선제적 어시스턴트 평가
사용자 행동을 정교하게 시뮬레이션하여 선제적 AI 에이전트를 평가하는 Pare 프레임워크와 벤치마크를 제안한다.
에이전트 협상에서의 행동 프라이버시 유출: 무작위 정책을 통한 추론 공격의 정식화 및 완화
협상 에이전트의 행동 패턴을 통해 개인 정보를 추론하는 공격을 막기 위해 차분 프라이버시를 적용한 새로운 협상 정책을 제안했다.
On-Policy Distillation의 실체: 도움이 되는 경우와 해가 되는 경우, 그리고 그 이유
On-Policy Distillation이 추론 모델 학습에 미치는 영향을 토큰 단위로 분석하는 진단 프레임워크를 제안한다.
1인칭 시점 비디오 이해 모델의 시간적 인지 능력 향상을 위한 유인책 연구
MLLM의 1인칭 시점 비디오 이해력을 높이기 위해 시간적 추론을 강화하는 TGPO 알고리즘을 제안한다.
단 하나의 뉴런만으로 LLM의 안전 정렬(Safety Alignment) 우회 가능
LLM의 안전 정렬이 모델 전체에 분산되지 않고 특정 뉴런에 집중되어 있어, 단 하나의 뉴런 조작만으로도 안전 가드레일을 무력화할 수 있음이 밝혀졌다.
FlowEval: 생성된 사용자 인터페이스(UI)의 참조 기반 평가
LLM이 생성한 UI가 실제 웹사이트처럼 자연스러운 상호작용 흐름을 지원하는지 측정하는 FlowEval 프레임워크를 제안한다.
Weblica: 시각적 웹 에이전트를 위한 확장 가능하고 재현 가능한 학습 환경
Weblica는 HTTP 캐싱과 LLM 기반 합성을 통해 시각적 웹 에이전트 학습을 위한 재현 가능하고 확장 가능한 환경을 제공한다.
MT-EditFlow: Flow Matching을 활용한 멀티턴 이미지 편집을 위한 강화학습
강화학습과 Flow Matching을 결합해 멀티턴 이미지 편집 시 발생하는 오류 전파 문제를 해결했다.
LensVLM: 텍스트의 압축된 시각적 표현을 위한 선택적 컨텍스트 확장
LensVLM은 VLM이 텍스트가 포함된 이미지를 처리할 때 해상도 저하로 발생하는 인식 오류를 해결하기 위한 프레임워크다.
DynaMiCS: 성능 제약 조건을 고려한 동적 혼합 방식의 LLM 미세 조정
DynaMiCS는 특정 도메인의 성능을 높이면서도 기존 지식이나 안전성 같은 핵심 능력을 유지하도록 돕는 동적 혼합 최적화 기법이다.
고급 모달리티 조건 및 상호작용을 통한 텍스트 기반 오디오 동기화 비디오 생성 제어
텍스트로부터 오디오와 비디오가 동기화된 영상을 생성할 때 발생하는 모달리티 간 간섭과 캡션 불일치 문제를 해결하는 연구를 발표했다.
Fortress: 시계열 데이터 증강 및 Feature Pruning을 통한 검색 추천 시스템의 안정화 사례 연구
Fortress는 시계열 데이터 증강과 Feature Pruning을 통해 검색 추천 모델의 예측 불안정성을 해결하고 정확도를 높인다.
긴 오디오 인코딩을 위한 분절형 어텐션 디코딩
AED 모델이 긴 오디오를 처리할 때 발생하는 위치 정보 상실 문제를 해결하기 위한 네 가지 개선 방안을 제안한다.
해석 가능성을 통한 데이터 어노테이터 안전 정책의 이해
데이터 어노테이터의 라벨링 행동을 통해 내부 안전 정책을 학습하고 불일치 원인을 분석하는 APM 모델을 제안한다.