Data center controls
과제 > 컴퓨팅 파워 및 확장성

AI 컴퓨팅 파워는 인프라 설계의 모든 것을 좌우합니다

AI 솔루션에는 새로운 차원의 컴퓨팅 파워 요구 사항이 필요합니다.지난 10년 동안 데이터 센터 프로세서와 가속기의 평균 전력 소비량은 거의 3배로 증가했으며 수요는 계속 증가하고 있습니다.

렛츠 토크

AI 컴퓨팅 파워
확장성 문제점

GPU 클러스터 및 AI 인프라와 관련된 전력 소비 증가는 데이터센터 운영에 상당한 영향을 미칩니다.기존 IT 시스템과 비교할 때 AI 클러스터에는 까다롭고 복잡한 전력 요구 사항이 있습니다.오늘날 고밀도 랙은 40kW ~ 125kW 범위에 속할 수 있지만 초밀도 랙은 200kW 이상에 달할 수 있습니다.

전력망에 가해지는 부담

AI 운영을 위한 일정한 고밀도 전력의 필요성은 기존 인프라에 부담을 주고 청정 에너지로의 전환을 늦춥니다.

환경 문제

에너지 효율적인 기술이 발전하지 않으면 AI의 에너지 발자국 증가는 환경 및 기후 중립 목표를 저해할 수 있습니다.

에너지 비용 상승

AI 추론 및 학습 AI 모델은 에너지 집약도가 매우 높아 지속 가능성과 에너지 비용에 대한 우려가 커질 수 있습니다.

컴퓨팅 병목 현상

프로세서가 데이터를 제공할 수 있는 속도보다 빠르게 데이터에 액세스해야 하기 때문에 메모리는 컴퓨팅 파워에 심각한 병목 현상이 될 수 있습니다.

Server chip on motherboard

AI 워크로드로 인해 전력 소비가 크게 증가하고 있습니다.

인공 지능 (AI) 은 산업에 혁명을 일으키고 있지만 급속한 성장으로 인해 상당한 에너지 수요가 발생합니다.AI 워크로드가 확장됨에 따라 모델 교육 및 실행과 관련된 전력 소비가 급증하여 지속 가능성과 기후 영향에 대한 우려가 제기되고 있습니다.

2026년까지 AI 데이터 센터에서만 연간 90테라와트시를 소비할 것으로 예상되며, 이는 2022년 수준보다 10배 증가한 수치입니다.이러한 급증은 전력 공급업체에 엄청난 압박을 가하고 있습니다. 효율성 개선이 실현되지 않을 경우 2030년까지 전 세계 데이터 센터 에너지 소비량은 1,300TWh를 초과할 것으로 예상됩니다.또한 AI 운영에 필수적인 서버를 수용하는 데이터 센터는 전 세계 전력 사용량의 1% 이상을 차지하며 최대 전력 소비량은 다음과 같습니다. 2028년까지 미국 전력의 12%.

환경에 미치는 영향

AI 워크로드의 에너지 집약적 특성은 거대 기술 기업이 설정한 기후 목표에 어려움을 야기합니다.2030년까지 탄소 중립을 약속했음에도 불구하고 데이터 센터 확장으로 인해 온실 가스 배출량은 계속해서 크게 증가하고 있습니다.

데이터 센터는 배출량 외에도 지역 자원에 부담을 줍니다.물이 부족한 지역에서 데이터 센터 시설은 매년 수백만 갤런의 식수를 소비합니다.인구 구역 근처의 기술 데이터 센터 허브에 더 많은 부동산이 할당됨에 따라 데이터 센터 근처의 커뮤니티는 구역 조정 문제와 전기 및 수도 공급에 대한 우려에 직면하고 있습니다.

혁신적이고 지속 가능한 솔루션

전력과 발열은 오늘날 데이터 센터에 영향을 미치는 가장 큰 두 가지 문제입니다.기존의 냉각 방식으로는 지속 가능한 방식으로 냉각할 수 없는 높은 밀도의 랙에는 더 많은 전력이 필요합니다.

액체 침지 냉각 공랭식 시스템에 비해 가동에 필요한 전력이 훨씬 적기 때문에 데이터 센터의 서버 장비를 냉각하는 데 사용되는 에너지를 50% 줄일 수 있습니다.액체 냉각은 팬을 제거하여 전력 소비를 줄이고 냉각 인프라의 오버헤드를 제거하여 공간 요구 사항을 줄입니다.

지금 Penguin Solutions에 연락하세요 앞서 언급한 문제를 해결하는 방법에 대해 자세히 알아보십시오. 메모리 컴퓨팅 병목 현상 문제점이 있으며 도움이 될 수 있습니다. 데이터센터 내 지속 가능성 다이렉트 투 칩 냉각 및 2상 액체 냉각을 통한 무수 냉각이 포함됩니다.

우리의 방법도 읽을 수 있습니다 성능 향상 및 배출량 감소 Shell의 데이터 센터에서 데이터 센터 침수 냉각 기능을 갖추고 있습니다.

Network engineer at work in server room
Network engineer cabling rack servers
콜백 요청

Penguin Solutions의 전문가와 상담하세요

지금 연락하셔서 프라이빗 AI를 위한 데이터 센터 인프라를 설계할 때 확장 가능한 AI 컴퓨팅 파워 요구 사항을 어떻게 지원할 수 있는지 자세히 알아보십시오.

렛츠 토크