AI Briefing#interpretability
#interpretability와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#interpretability와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Google DeepMind가 Transformer 모델의 내부 작동 원리를 분석하기 위한 Tracr 프레임워크를 공개했다.
AI 탐지 모델 Pangram 3.3.2의 내부 활성화 값을 분석하여 AI와 인간의 텍스트를 구분하는 메커니즘을 탐구한다.
입력 텍스트의 내용에 따라 LLM의 내부 hidden state가 변화하며 답변의 성향을 바꾼다는 연구 결과가 발표됨.
DiffusionGemma는 변수 투명성 측면에서 Gemma와 유사하지만, 알고리즘 투명성은 여전히 낮다.
서로 다른 신경망에서 공통적으로 발견되는 'Rosetta 뉴런'이 모델 규모가 커질수록 더 전문화된다는 연구 결과가 발표되었습니다.
Anthropic 공동 창립자가 AI 내부의 미지의 구조와 이에 따른 윤리적 규제의 필요성을 강조했다.
학습 전 데이터 분석을 통해 모델의 행동 변화를 예측하고 데이터셋을 최적화하는 기술을 소개한다.
SAE의 개별 특징을 클러스터링하여 신경망의 복잡한 곡선 기하학 구조를 복원하는 비지도 학습 파이프라인을 제안한다.
Anthropic이 모델의 내부 활성화를 자연어로 설명하는 NLA 기술을 발표했다.
Anthropic이 모델의 내부 활성화 벡터를 텍스트로 변환해 실제 사고 과정을 파악하는 NLA 기술을 연구 중이다.