AI 및 HPC 데이터센터
내결함성 솔루션
통합 메모리
CXL 메모리 기술을 사용하여 기존의 계산 한계를 극복하고 전례 없는 성능, 확장성 및 비용 효율성을 제공합니다.
메모리 벽은 대규모 모델을 학습할 때 증가하는 수요를 따라잡을 수 없는 초고속 메모리 대역폭이 필요한 인공 지능과 같은 메모리 집약적 애플리케이션에서 특히 중요한 문제입니다.
GPU와 메모리 간 (또는 여러 GPU 간) 데이터를 이동하는 데 걸리는 시간이 심각한 병목 현상이 되어 학습 시간이 느려질 수 있습니다.
학습된 모델을 사용한 추론의 경우에도 모델이 예측을 위해 메모리의 데이터에 액세스해야 하기 때문에 메모리 벽으로 인해 지연 시간이 길어질 수 있습니다.
메모리 시스템이 추론 요청의 요구를 따라가지 못하면 AI 시스템의 전체 처리량을 줄일 수 있습니다.
많은 수의 사용자에게 서비스를 제공하도록 AI 모델을 확장하는 것은 메모리 제한으로 인해 더 많은 하드웨어와 복잡한 인프라가 필요하기 때문에 어려울 수 있습니다.
Alibaba, Cisco, Dell EMC, Facebook, Google, Hewlett Packard Enterprise, Intel Corporation 및 Microsoft와 같은 다른 업계 리더들과 협력하여 데이터 센터 가속기 및 기타 고속 개선을 위한 개방형 에코시스템을 지원하는 동시에 새로운 사용 모델의 혁신적인 성능을 촉진하는 기술 사양을 개발하기 위해 개방형 산업 표준 그룹을 구성했습니다.
Compute Express Link® (CXL) 는 서버의 메모리 및 컴퓨팅 리소스 관리 방식을 재정의하는 업계 개방형 표준 프로토콜입니다.CXL은 CPU와 메모리 간에 지연 시간이 짧은 고속 연결을 지원함으로써 데이터 처리의 기존 병목 현상을 제거하여 인공 지능 (AI), 고성능 컴퓨팅 (HPC), 머신 러닝 (ML) 과 같은 새로운 애플리케이션에서 점점 더 많이 사용되고 있는 데이터 집약적 워크로드를 위한 새로운 수준의 확장성과 성능을 제공합니다.
CXL은 경쟁 통찰력을 더 빠르게, 속도와 정확성으로 경쟁 우위를 확보해야 하는 조직에 획기적인 이점을 제공합니다.
• 더 빠른 데이터 처리: 지연 시간을 최소화하면서 대규모 데이터 세트를 실시간으로 분석합니다.
• 인프라 효율성 향상: 운영 비용을 줄이면서 리소스 활용도를 최적화합니다.
• 확장 가능하고 미래에도 사용할 수 있는 솔루션: 메모리를 원활하게 확장하여 비용이 많이 드는 인프라 점검 없이 진화하는 데이터 수요를 충족할 수 있습니다.
CXL 표준을 구현하고 업계 표준 DDR5 DIMM도 지원하는 당사의 새로운 애드인 카드 (AIC) 제품군은 동급 고밀도 DIMM AIC 중 CXL 프로토콜을 채택한 최초의 제품입니다.당사의 4-DIMM 및 8-DIMM 제품을 사용하면 서버 및 데이터 센터 설계자가 익숙하고 배포하기 쉬운 폼 팩터에 최대 4TB의 메모리를 빠르게 추가할 수 있습니다.
AIC를 사용하면 서버는 비용 효율적인 64GB RDIMM으로 CPU당 최대 1TB의 메모리에 도달할 수 있습니다.또한 공급망을 선택할 수 있는 기회도 제공합니다.고밀도 RDIMM을 더 많은 수의 저밀도 모듈로 교체하면 시장 상황에 따라 시스템 메모리 비용을 낮출 수 있습니다.
AI, HPC 및 ML은 현재 서버가 수용할 수 있는 용량을 초과하는 많은 양의 고속 메모리를 필요로 하지만 기존 DIMM 기반 병렬 버스 인터페이스를 통해 더 많은 메모리를 추가하려는 시도는 CPU의 핀 제한으로 인해 문제가 되고 있습니다.
업계에서 핀 효율성이 더 높은 CXL 기반 솔루션으로 전환하고 있는 가운데, 소니의 4-DIMM 및 8-DIMM AIC는 고급 CXL 컨트롤러를 사용하여 구축되었습니다. 이 컨트롤러는 새로운 컴퓨팅 집약적 워크로드에 대한 메모리 대역폭 병목 현상과 용량 제약을 제거합니다.
지금 Penguin Solutions에 연락하세요 우리에 대해 더 알아보려면 CXL 제품 데이터를 활용하여 정보를 실행 가능한 인사이트로 더 빠르게 전환하도록 지원하는 방법을 소개합니다.
지금 연락하셔서 저렴한 비용으로 메모리 용량을 확장하면서 메모리 확장 및 풀링 기능을 극대화하는 데 당사가 어떻게 도움을 줄 수 있는지 자세히 알아보십시오.