Cohere, 온프레미스 지원 엔터프라이즈 에이전틱 AI 플랫폼 North 2 공개

Cohere가 보안, 지능, 비용 간의 트레이드오프를 제거하도록 설계된 엔터프라이즈 에이전틱 AI 플랫폼 North 2를 공개했다. 오케스트레이션, 거버넌스, 모델 유연성을 통합해 온프레미스 및 에어갭 환경 등 데이터가 위치한 곳에서 실행할 수 있다.

강화된 에이전트 기능

North 2의 핵심은 복잡한 다단계 자동화를 가능하게 하는 재설계된 agent harness다. 주요 기능은 다음과 같다.

• Skills and Libraries: 중복 워크플로 생성을 방지하는 재사용 가능한 기능과 공유 지식 자산
• Memory: 세션 간 컨텍스트 유지
• Applications: 자연어 프롬프트로 덱, 대시보드, 경량 앱 프로토타이핑
• Connectors: Slack, SharePoint, OneDrive, Microsoft Outlook, Exchange, Jira, Linear, Notion, GitHub 연동 및 PitchBook, S&P Global 등 금융 데이터 제공업체 지원 예정

엔터프라이즈 거버넌스 및 보안

North 2는 세분화된 비용 관리와 보안을 위한 제어 계층 North Admin을 도입했다. 관리자는 속도 제한, 사용자 할당량, 조직 단위 상한선을 설정해 예측 가능한 AI 운영을 보장할 수 있다. SOC 2 Type 2, ISO 27001, ISO 42001 인증을 지원하며 셀프 호스팅, VPC, 하이브리드, 온프레미스 배포가 가능하다. 가드레일과 자율성 정책을 통해 에이전트 행동을 제한하고 중요한 결정 시 인간 감독을 요구할 수 있다.

모델 무관성 및 효율성

플랫폼은 model-agnostic으로 Cohere 모델 사용 또는 자체 모델 도입이 가능하다. Cohere는 NVIDIA와의 협업을 강조하며, NVIDIA Blackwell 및 Hopper 하드웨어에서 학습 및 배포된 Cohere 모델을 사용하면 노드당 초당 토큰 수가 증가해 지능을 희생하지 않고 비용을 절감한다고 밝혔다. 이는 금융, 헬스케어, 공공 부문 등 규제 산업의 AI ROI 향상을 목표로 한다.