Silico (3분 읽기)

Goodfire가 Silico를 초기 공개했다. AI 모델을 코드처럼 정밀하게 설계하고, 내부를 들여다보며, 실패를 의도적으로 찾아내는 모델 설계 플랫폼이다.

회사는 해석가능성 연구를 통해 알츠하이머 바이오마커 발견, 언어 모델의 자기 환각 교정, 로보틱스 모델의 성능 병목 진단 같은 성과를 냈다고 밝혔다. Silico는 이런 최첨단 해석가능성 기법을 연구자와 엔지니어가 바로 쓸 수 있게 묶었다.

핵심 기능은 다음과 같다.

• 모델 내부 관찰: 해석 가능한 feature로 분해해 실제 이해와 가짜 상관을 구분한다.
• 건강 진단: undertraining, information bottleneck, feature collapse를 조기에 포착한다.
• 실패 디버깅: 교란 요인을 제거하고 배포 전 문제를 찾아낸다.
• 행동 조정: 내부 feature를 활용해 더 강한 예측기와 생성 결과를 조정한다.
• 적은 데이터로 일반화: training distribution, objective, architecture를 조정해 같은 데이터나 더 적은 데이터로 더 넓게 일반화한다.

Silico에는 실험을 병렬로 계획·실행하는 자율 에이전트 model neuroscientist가 포함되며, 연구 스레드를 정리하고 논문을 재현·확장하는 협업 환경도 제공한다. Early access는 지금 열려 있고, MIT Tech Review도 CEO·공동창업자와 이 제품의 의미를 다뤘다.