InternLM, 과학 특화 AI 모델 Intern-S2-397B 공개

InternLM 팀이 과학 지능과 장기 호라이즌 에이전트 작업을 위해 설계된 가장 강력한 멀티모달 파운데이션 모델 Intern-S2-397B를 공개했다. 이 모델은 사전 학습, 강화 학습 작업 커버리지, 대화형 에이전트 환경이라는 세 가지 핵심 차원에서 확장되었다.

주요 기술 특징

• 새로운 사전 학습 패러다임: 과학 문헌의 원본 페이지에서 직접 학습하는 시각 사전 학습을 통해 중간 파싱 없이 기호 의미와 시각적 관계를 공유 표현 공간에서 공동 모델링한다. 이를 통해 텍스트와 시각 요소 간의 연결성을 보존하고 데이터 효율성을 높였다.
• 과학 모달리티 추론 및 생성: 20개 이상의 다양한 과학 도메인에 걸쳐 대규모 멀티태스크 강화 학습을 수행하여, 오픈소스 모델 중 최상급의 일반 추론 성능을 달성했다. 특히 생체 분자 상호작용 설계 및 물질 구조 생성과 같은 전문 과학 작업에서 강력한 결과를 보인다.
• 장기 호라이즌 에이전트: 여러 에이전트 프레임워크를 대규모 샌드박스 환경과 연결하여 블랙박스 에이전트 강화 학습을 수행함으로써, 일반 및 과학 도메인 모두에서 장기 작업의 일반화 능력과 성능 상한을 높였다.