NASA, 우주 임무용 로컬 LLM 시스템 구축

NASA 존슨 우주 센터는 달 및 화성 탐사 시 발생할 수 있는 통신 지연과 블랙아웃 문제를 해결하기 위해 **CMO-DA(Crew Medical Officer Digital Assistant)**를 개발하고 있습니다. 이 시스템은 클라우드 연결 없이 로컬 하드웨어에서 작동하는 Local-first architecture를 채택했습니다.

주요 기술적 특징은 다음과 같습니다:

• RamaLama 활용: llama.cpp를 래핑한 오픈 소스 CLI 도구인 RamaLama를 사용하여 모델을 컨테이너 이미지처럼 관리하며, GPU 자동 감지 및 패스스루 기능을 제공합니다.
• RAG(검색 증강 생성) 적용: 우주 비행용 의료 문헌을 기반으로 승무원이 증상을 진단하고 치료할 수 있도록 지원합니다.
• 엣지 컴퓨팅 구현: Red Hat의 지원을 받아 HPE 하드웨어 기반의 오프라인 엣지 배포 방식으로 테스트 중이며, 현재 국제우주정거장(ISS)에 탑재된 HPE Spaceborne Computer의 지상 트윈 모델에서 검증되고 있습니다.

이 프로젝트는 모델을 단순 설치가 아닌 **이식 가능한 아티팩트(Portable artifacts)**로 취급하여, 물리적 접근이 불가능한 우주 환경에서도 재현 가능하고 암호학적으로 검증 가능한 배포를 보장하는 것을 목표로 합니다.