以上 大規模企業の 40% が積極的にAI を活用している、さらに40％がAI オプションを模索しています。によると 最近の調査データしかし、課題は残っており、ITプロフェッショナルの38％が、AI を成功させる最大の障壁としてテクノロジーインフラストラクチャの不足を挙げています。
最近では テック・ディスラプターズ・ポッドキャスト、ホストのウー・ジン・ホーは、ペンギン・ソリューションズのChief Technology Officer 者であるPhil Pokorny とグローバル・マーケティング担当副社長のMark Seamans に話を聞き、企業が猛暑のAI 市場で複雑なインフラストラクチャを冷却する方法を探りました。
注目のトピック:価格、パフォーマンス、消費電力
1。ホットトピック:AI 価格
課題:AI インフラストラクチャは高価です。
「AI のコストは、標準サーバーの 10 ～ 20 倍です」と Mark 氏は言います。AI 支出を効果的に管理するには、次の 2 つの考慮事項が重要です。 クエリ 1 件あたりのコスト そして ワークロードあたりの値。クエリあたりのコストには、サーバへの設備投資に加えて、次のような継続的なコストが含まれます。 電源と冷却。一方、ワークロードあたりの価値は、AI を活用したビジネスプロセスオートメーション（BPA）や詳細なデータ分析などのソリューションの利点を物語っています。
解決策:カスタマイズされた、実績のあるソリューション。
「ペンギン・ソリューションズは、AI の設計、構築、導入、管理に専念しています」とMark は言います。「これらのシステムは標準的なコンピューターのように見えますが、設計と構築のプロセス全体が一般的なITとは異なります。」ペンギン・ソリューションズ エンドツーエンドのアプローチにより、カスタマイズされたAI ソリューションを実現 これにより、コストと価値が確実に一致するようになります。
2。ホットトピック:AI パフォーマンス
課題は、努力と成果のバランスを取ることです。
Phil によると、「AI の導入はIT部門にとって習得に時間がかかる可能性があり、AI モデルが企業にどのように役立つかは明らかではないかもしれません。」彼は、信頼性の高いAI 出力には、細かく調整されたInfiniBandファブリックを使用して複数のGPUが連携する必要があると指摘し、Mark は、増大する容量ニーズに対応するためのインフラストラクチャの拡張性の必要性を強調しています。「以前は、新しいプロセッサの開発期間は2〜4年でした」と彼は言います。「今では半年に短縮されました。」
解決策は、専門家を招くことです。
「私たちが提供する重要なサービスの1つは工場です」とPhil は言います。「未加工の部品は発送しません。ラッキング、スタッキング、テストは施設で行っています。」また、ペンギンがメタと仕事をしたことも指摘しています。Meta は、プロダクションチームに HPC クラスターのデプロイと管理を依頼するのではなく、Penguin Solutions を選択しました。5 年が経過し、16,000 基の GPU が導入されても、このパートナーシップは引き続き強固です。
3。ホットトピック:AI パワー
課題：多すぎるか少なすぎるか。
AI 対応システムは、大量の電力を必要とし、大量の熱を発生させます。Phil が指摘するように、「一般的なデータセンターは120ボルトの電力を使用しますが、これではHPCラックには十分ではありません。企業は240ボルトまたは277ボルトへのアップグレードを計画する必要があります。」ただし、その拡張性があっても、企業によっては、必要な電力を購入するのが難しい場合があると彼は指摘しています。 地域公益事業インフラの容量。
一方、この電力使用による副産物として発生する熱は、ハードウェアの損傷のリスクを最小限に抑えるための効果的な管理が必要です。
解決策:AI Factory 検証済みソリューション
以下に基づく AI と HPC の導入 検証済みのインフラストラクチャ設計 これにより、組織はソリューションから最高のパフォーマンスを引き出すと同時に、データセンターの電力能力に合わせてデリバリーアプローチを適応させることができます。また、Penguin Solutionsは油性浸漬冷却ソリューションの提供でも最前線に立っています。これにより、システム全体の消費電力も削減できる方法で、非常に高密度のサーバーを実現できます。
冷静さを保つ
AI市場が激化する中、経営幹部やITマネージャーは、インテリジェントなソリューションを導入し、一貫した価値を提供しなければならないというプレッシャーにさらされています。
Penguin Solutions は、価格、パフォーマンス、パワーを重視したソリューションにより、複雑な AI インフラストラクチャの緩和に役立ちます。 今すぐご連絡いただき、当社の専門家にご相談ください もっと学ぶために。
