AI 안전 노력, 컴퓨팅 수요 증폭시키나
인공지능(AI) 분야에서 안전성과 통제 가능성을 높이기 위한 노력이 오히려 관련 컴퓨팅 자원 수요를 증대시킬 것이라는 전망이 제기되었습니다. 일각에서는 AI 안전 규제가 하드웨어 시장에 부정적인 영향을 미칠 수 있다는 우려가 있었지만, 주요 AI 개발 기업들은 이러한 접근 방식이 인프라 투자 확대를 견인할 것이라는 분석을 내놓고 있다고 씨티(Citi) 리서치가 보고했습니다.
최근 열린 AI 인프라 서밋(AI Infra Summit)에서 나온 이러한 의견들은 AI 산업의 현재 병목 현상이 단순히 모델 설계의 진보를 넘어, 대규모 컴퓨팅 파워, 전력 공급, 그리고 시설 용량 확보로 이동하고 있음을 시사합니다. 차세대 데이터센터는 기존 설비보다 30~40% 더 많은 그래픽 처리 장치(GPU)를 수용하도록 설계되고 있으며, 엔비디아(Nvidia)의 베라 루빈(Vera Rubin)과 같은 하드웨어 개선과 아스트라(Astra)와 같은 소프트웨어 관리 플랫폼은 시스템 전반의 처리 효율을 높이는 데 초점을 맞추고 있습니다.
에이전트 AI, 하드웨어 요구사항 100배 증가
특히, 엔비디아의 이안 벅(Ian Buck) 부사장은 대화형 챗봇에서 더 나아가 자율적으로 작동하는 '에이전트 AI'로의 전환이 하드웨어에 대한 요구치를 기하급수적으로 늘리고 있다고 설명했습니다. 에이전트 AI 워크로드는 2023년 수준의 챗 애플리케이션과 비교했을 때 약 100배에 달하는 컴퓨팅 자원을 필요로 하는 것으로 파악되었습니다. 이는 입력 데이터 길이, 캐시 메모리 용량, 다자간 상호 작용, 하위 에이전트의 생성 등 여러 측면에서 급격한 규모 확장이 발생하기 때문입니다.
인텔의 전략 변화와 메타의 인프라 확장 계획
인텔(Intel)의 립-부 탄(Lip-Bu Tan) 최고경영자(CEO)는 기존의 중앙처리장치(CPU) 공급업체에서 포괄적인 AI 인프라 제공업체로의 전략적 전환을 발표했습니다. 탄 CEO는 경쟁의 중심이 순수한 GPU 성능에서 시스템 수준의 최적화로 옮겨감에 따라, CPU는 강화 학습, 운영 관리 계층, 그리고 에이전트 AI 워크플로우에서 여전히 핵심적인 역할을 수행할 것이라고 강조했습니다. 또한, 의사결정 과정을 신속하게 하기 위해 경영진 구조를 기존 10~12개 계층에서 4~5개로 간소화했습니다.
제조 부문에서는 인텔 18A 공정 기술이 양산 단계에 진입했으며, 첨단 14A 공정은 10월에 0.9 버전, 다음 분기에 1.0 버전의 공정 설계 키트(PDK) 출시를 앞두고 있습니다. 메타 플랫폼(Meta Platforms)의 산토시 자나르단(Santosh Janardhan) 인프라 총괄은 대규모 학습 인프라를 확장해 온 경험을 공유했습니다. 메타가 1기가와트(GW) 규모의 '프로메테우스(Prometheus)' 클러스터에서 향후 5기가와트 규모의 '하이페리온(Hyperion)'으로 확장하는 과정에서, 지역 간의 안정적인 네트워킹이 가장 큰 운영상의 난관으로 떠올랐다고 밝혔습니다. GPU 클러스터 중단 횟수를 GPU 8,000개당 하루 2회로 제한하겠다는 목표 달성을 위해, 메타는 자체 개발한 백엔드 집계(BAG) 네트워킹 아키텍처를 적용했습니다.