ChatGPT がサーバー コンピューティング インフラストラクチャ セクターに火をつける

ChatGPT モデルのトレーニングには大量のベクトル操作とテンソル操作が含まれており、AI サーバーには計算効率という利点があります。 大規模なモデルのトレーニングにより、AI サーバーの調達需要が高まることが予想されます。 サーバーは、ネットワーク内のノードとして機能する高性能コンピューターであり、ネットワーク上のデータと情報の 80% を保存および処理します。 したがって、ネットワークの魂とも呼ばれます。 通常、Web サイト サーバーは 1 台のマシン、または 1 台または複数の高性能コンピュータで構成されるマシンのグループで構成されます。 サーバーは通常のPCに比べ、高い安定性、セキュリティ、パフォーマンスなどが求められます。

業界関係者らは、サーバーの消費電力は一般的に約400ワットかそれ以上であると指摘している。 CPU が熱くなると、システム メーカーは熱源の問題を解決する必要があります。 浙江証券は、空冷冷却は能力の上限に達しており、液体冷却を早急にアップグレードする必要があると述べた。 AI サーバーチップレベルの水冷の需要は数百億元に達すると予想されており、2025 年の推定世界および中国の AI サーバー水冷市場規模は 22.{4}}3 億人民元、7.{ {7}}8億人民元。