AI 모델 개발 위한 핵심 인프라 확보
인공지능(AI) 인프라 솔루션을 제공하는 크루소(Crusoe)는 검색 AI 스타트업 퍼플렉시티(Perplexity)와 장기적인 파트너십을 맺고 AI 워크로드를 위한 인프라를 공급한다고 밝혔습니다. 이 협력에 따라 퍼플렉시티는 최첨단 AI 모델의 훈련부터 배포에 이르는 전 과정을 크루소의 플랫폼 상에서 진행하게 됩니다.
구체적으로 퍼플렉시티는 엔비디아의 최신 GPU인 GB300 NVL72와 고성능 네트워킹 솔루션인 인피니밴드(InfiniBand) 기술이 집약된 클러스터 환경에서 모델을 훈련할 예정입니다. 또한, 크루소가 제공하는 관리형 추론(Managed Inference) 서비스를 통해 훈련된 모델을 효율적으로 배포하고 운영할 계획입니다. 이는 AI 모델의 성능 최적화와 비용 효율성을 높이기 위한 크루소의 독자적인 기술이 적용된 결과입니다.
양사 간 시너지 효과 및 비즈니스 확장
이번 파트너십은 기술 인프라 제공업체와 AI 서비스 기업 간의 상호 이익을 도모하는 형태로 진행됩니다. 크루소는 퍼플렉시티의 AI 개발 및 운영 전반에 필요한 고성능 컴퓨팅 자원을 지원하며, 퍼플렉시티는 이를 통해 AI 모델의 성능을 극대화하고 서비스 확장을 가속화할 수 있을 것으로 기대됩니다.
한편, 크루소는 이번 계약을 통해 약 1,800명의 임직원을 위한 업무 생산성 향상 도구로 퍼플렉시티 엔터프라이즈 프로(Perplexity Enterprise Pro)와 맥스(Max) 버전을 도입합니다. 이는 웹 검색, 내부 정보 검색, 다단계 연구, 데이터 분석 등 다양한 업무에 걸쳐 최신 AI 모델을 활용하려는 의지를 보여줍니다.
저지연·고처리량 추론 서비스의 중요성
퍼플렉시티의 CEO 아라빈드 스리니바스(Aravind Srinivas)는 AI 서비스 운영에 있어 지연 시간(latency)의 중요성을 강조하며, 크루소의 인프라가 이러한 요구사항을 충족시킨다고 언급했습니다. 그는 “퍼플렉시티 규모의 AI 운영에서는 매 밀리초(ms)의 지연이 사용자 경험에 영향을 미친다”며, “크루소는 이러한 제약 조건을 해결하기 위해 설계되었으며, 차세대 하드웨어를 기반으로 높은 처리량과 낮은 지연 시간을 제공한다”고 덧붙였습니다. 이는 AI 서비스의 경쟁력을 좌우하는 핵심 요소로서 고성능 추론 인프라의 가치를 시사합니다.