AI および HPC データセンター
フォールトトレラントソリューション
内蔵メモリ
AIモデルトレーニングとAI 推論に多数のユーザーとデータセットが関与する場合、1つの明確な指標が浮かび上がります。それはメモリ容量です。
インメモリデータベースのサイズを大きくしようとしても、1 つの CPU 分のメモリが限界に達したときには、常に CPU とメモリを追加するという方法がありました。
このソリューションは、ワークロードが複数のサーバーにオーバーフローするとすぐに、ネットワークの遅延とワークフローのオーバーヘッドにより、データアクセス応答とアプリケーション通信パフォーマンスがすぐに低下し始めるという点で問題があります。
ただし、データベースを実行している単一サーバーのメモリを大きくすればするほど、ネットワーク遅延が発生する可能性は低くなります。コンピュート・エクスプレス・リンク® (CXL®) を入力してください。
PCIe Gen 5以降、メモリ拡張プロトコル層はCPUのメモリアーキテクチャと緊密に結合されているため、メインストリームのシングルソケットまたはデュアルソケットサーバに追加のメモリまたはメモリモジュールを追加できます。
CXL は メモリ容量の問題を解決するために設計されています CPUの周辺I/Oバスを介してメモリを追加できるため、1つのサーバー内でメモリを追加できるため、リアルタイムのデータ分析による大量のメモリの検索と処理が可能になります。
メモリヘッドルームを追加することで、永続ストレージへのオーバーフローを回避できます
256 GB の DIMM よりも、ビットあたりのコストが低い 96 GB または 128 GB DIMM を使用
高速リアルタイム dBASE を導入した場合のレイテンシーはミリ秒レベル
AI 推論で重要な意思決定を行う際には最新のデータを使用する
今すぐお問い合わせいただき、お客様の AI と HPC インフラストラクチャプロジェクトの目標達成を支援する方法の詳細をご覧ください。私たちのチームは、高性能で可用性の高いエンタープライズソリューションを設計、構築、導入、管理し、お客様が画期的なイノベーションを実現できるよう支援します。