Sam Altman, 단일 초지능 대신 1조 개 AI 반복 배포 주장

• Altman은 단일 초지능(Superintelligence) 구축에 반대하며, 사회적 견고성과 다원성을 반영하기 위해 초인적 지능을 약간 갖춘 AI 1조 개를 반복적으로 배포하는 구조를 선호함
• 현재 샌드박싱은 최고의 보안 연구자보다 100만 배 더 똑똑한 AI를 감당하기에 부족하며, 안전을 위해 정렬(Alignment)에 대한 신뢰가 선행되어야 함
• Altman은 OpenAI에서 컴퓨트 할당이 핵심 자본 전략이며, 높은 토큰 사용량은 승진에 보상이 되지 않음을 지적함
• Navier-Stokes와 같은 복잡한 수학 증명의 재실행 비용이 1년 내 원래 비용의 1/100로 하락할 것으로 예측함

Safety and Architecture

• 안전 계층 구조는 샌드박싱, 모니터링(사고 연쇄, 활성화), 그리고 완전한 정렬 신뢰를 요구함
• Altman은 선호하는 멀티 에이전트 구조를 '스웜(Swarms)'이라 명명하며, 현재 고급 수학 및 해킹 작업에는 '에이전트 팀'이 사용됨
• 코드 수정보다 소프트웨어 아키텍처 변경이 더 지속 가능하며, 스타트업들은 더 지능적인 모델을 위해 새로운 인터넷/앱 아키텍처를 구축 중임

Compute and Supply Chain

• OpenAI는 자체 칩과 데이터 센터를 개발 중이며, 로봇 프로그램을 활용해 공급 제약 문제를 해결하고 인프라를 구축함
• DRAM 공급이 제한적이므로 글로벌 할당 관점에서 로컬 추론은 비효율적임

Model Quality and Pricing

• 과학적 발견 능력과 즐거운 협업 경험을 중시하며, 벤치마크 점수 극대화(Benchmaxxing)는 덜 중요시됨
• 비용이 더 높을 수 있음에도 고객이 일관된 단위를 선호하기 때문에 프롬프트 기반 가격보다 토큰 기반 가격 체계를 유지함
• 현재 모델은 '생각 깊고 도전적이지만 여전히 존중하는 시니어 동료'로 묘사되며, 이전의 아첨이나 까다로움 단계는 지나감