Bloomberg에 따르면 Nvidia는 AI 칩이 탑재된 서버의 가격이 2027년 초부터 제공되는 시스템에서 15% 이상 인상될 것이라고 일부 최대 고객에게 말했습니다. 이는 7월 거의 모든 제품 라인에서 약 30% 인상된 데 이어 1년 만에 두 번째로 큰 가격 인상입니다.

대규모 데이터 센터 운영자를 위한 시스템을 조립하는 서버 제조업체를 통해 전달된 경고는 AI 업계에 민감한 순간에 도달했습니다. 기업은 대규모 인프라 구축 비용으로 씨름하고 있고, 증가의 원인으로 알려진 메모리 시장은 냉각될 기미가 보이지 않습니다. Nvidia는 8월 26일에 분기별 결과를 보고할 예정이며, 분석가들은 수요, 공급 및 비용에 대한 새로운 세부 정보를 기대하고 있습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

영향을 받는 시스템

보고에 따르면 이러한 증가는 Nvidia의 주력 Grace Blackwell 플랫폼과 곧 출시될 Vera Rubin 세대를 기반으로 구축된 서버에 적용될 것입니다. 인상은 일정하지 않을 것입니다. 조정 규모는 관련된 Nvidia 실리콘 생성과 각 시스템의 메모리 양 및 구성에 따라 다릅니다.

Microsoft, Google, Oracle 등 주요 기술 기업에 서비스를 제공하는 서버 제조업체는 2027년 초에 출시될 시스템 가격 변경에 대해 고객에게 알리기 시작한 것으로 알려졌습니다.

기억이 범인이다

주요 동인은 메모리 비용의 급증입니다. 고성능 AI 시스템에는 엄청난 양의 고대역폭 메모리가 필요하며, 데이터 센터 확장에 따른 수요로 인해 HBM 및 LPDDR5 가격이 상승했습니다. 메모리 제조업체인 삼성전자, SK하이닉스, 마이크론 테크놀로지는 모두 반도체 생산 능력이 고대역폭 메모리 및 기타 고급 컴퓨팅 제품으로 점점 더 집중되면서 높은 수요에 직면해 있습니다.

Gartner의 부사장 겸 분석가인 Gaurav Gupta는 이러한 증가가 RAM뿐만 아니라 전체 AI 공급망에 걸친 압력을 반영한다고 말했습니다. 그는 CIO.com과의 인터뷰에서 "메모리 가격, 특히 HBM과 LPDDR5의 가격이 오르고 있지만 첨단 파운드리 웨이퍼, 첨단 패키징, 기타 부품 부족 등 다른 측면도 있다"며 "이러한 문제로 인해 리드 타임이 길어지고 이는 일반적으로 가격 상승으로 이어진다"고 덧붙였다.

그리고 그는 곧 안도감을 기대하지 않습니다. 굽타는 "수요는 많고 공급은 제한적인 현재 환경에서 이러한 상황은 단기 또는 중기적으로 계속될 것으로 예상한다"고 말했다. 이는 자체 서버를 배포하는 조직과 클라우드에서 컴퓨팅을 임대하는 조직 모두에게 더 높은 비용이 든다는 것을 의미한다.

구매자를 위한 작은 선택

CIO에게 미적분학은 매력적이지 않습니다. 컨설턴트와 분석가들은 기업은 AI 인프라 가격이 계속 상승할 것이라는 점과 메모리 및 구성 요소 비용이 전체 시장에 영향을 미치기 때문에 공급업체를 바꾸는 것(가능하더라도)이 인상을 회피할 수 없다는 사실을 받아들이는 것 외에는 선택의 여지가 없다고 말합니다.

Info-Tech Research Group의 자문위원인 Scott Bickley는 Nvidia가 실제로 타격의 일부를 흡수하고 있다고 주장했습니다. 그의 계산에 따르면 회사는 자체적으로 증가하는 비용 중 일부를 부담하고 최대 고객에게 극히 일부만 전달할 가능성이 높습니다. 그러나 그는 구매자가 갖고 있는 영향력에 대해 솔직하게 말했습니다. “토큰당 작업 부하 비용은 낮아지고 있는 반면 기본 하드웨어 및 인프라 비용은 올라가고 있습니다.”라고 그는 말했습니다. "자신의 클러스터를 직접 구축하는 경우 이는 이미 엄청나게 비싼 솔루션으로의 자동 향상입니다. 자신의 하드웨어를 구입하는 경우 이를 빨아 들여야 할 것입니다. 이 문제에서 벗어날 방법을 협상하지 않을 것입니다."

Bickley가 지적한 한 가지 긍정적인 측면이 있습니다. AI 모델의 토큰당 가격이 하락하고 있는 것으로 보이며, 이는 원시 메모리 용량에 덜 의존하는 워크로드를 설계하여 구매자에게 하드웨어 인플레이션을 둔화시킬 수 있는 방법을 제공한다는 것입니다.

이미 소유한 것에서 더 많은 것을 짜내기

기존 하드웨어에서 더 많은 마일리지를 얻는 전략은 여러 분석가가 수렴하는 곳입니다. Bickley는 이미 서비스 중인 클러스터의 활용도를 높이는 방법으로 모델 라우팅, 압축, 일괄 처리와 같은 기술을 지적했습니다.

LexisNexis Risk Solutions Group의 CISO인 Flavio Villanustre는 AI 기반 수요를 충족하기 위해 메모리 생산량이 증가하면 정체가 근본적으로 공급 및 수요 문제라는 점에 동의했습니다. 그러나 그는 앞으로 몇 달 안에 그런 일이 일어날 것으로 보지 않습니다. 그 동안 그는 일부 AI 모델 공급업체가 메모리가 제한된 환경에서 더 잘 실행되도록 모델을 조정하고 있다고 지적했습니다. 그는 전체 모델을 RAM에 보관하는 대신 모델의 필요한 부분만 메모리로 가져오는 계층적 계층형 접근 방식을 사용하는 Google의 Gemma E4B 및 유사 모델을 지적했습니다.

Aikido Security의 기업 CISO인 Mike Wilkes는 가격 인상이 보다 엄격한 아키텍처를 강요한다면 어느 정도 좋은 결과를 가져올 수 있다고 주장했습니다. 기업들은 지난 몇 년 동안 프론티어 모델 토큰을 "무한 탄력성 있는 유틸리티"로 취급해 왔으며 작업에 프론티어 수준 추론이 필요한지 여부에 관계없이 작업 부하를 가장 큰 모델로 라우팅했다고 말했습니다. 올바른 아키텍처는 점차 하이브리드화되고 있습니다. 즉, 진정으로 필요한 문제에 대한 프론티어 모델 소비의 약 10%를 예약하는 동시에 기업이 제어하는 ​​인프라에서 실행되는 소규모 언어 모델 및 개방형 모델에 대한 분류, 추출, 요약 및 일상적인 에이전트 작업을 추진합니다.

Wilkes는 "이를 통해 CIO는 가격 폭리나 일방적인 가격 설정에 대비할 수 있는 영향력을 갖게 됩니다."라고 말했습니다.

AI 경제에 대한 인플레이션 신호

이러한 증가는 AI 붐의 비용이 어디로 향하고 있는지에 대한 신호이기도 합니다. 메모리, 웨이퍼, 패키징 가격이 모두 상승함에 따라 인플레이션은 칩 제조업체에서 서버 공급업체, 클라우드 제공업체, 궁극적으로 AI를 기반으로 하는 기업으로 확산되고 있습니다. Nvidia의 수익 보고서가 8월 26일로 마감됨에 따라 구매자와 투자자 모두 회사가 얼마나 많은 비용 압박을 흡수하는지, 그리고 그것이 얼마나 다운스트림으로 전달되는지 지켜볼 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →