GPU不足

プロバイダがGPUノードを回収しました。今月はH100のキャパシティがありません。

何が起きるか#

プロバイダがGPUノードを回収しました。今月はH100のキャパシティがありません。

防ぎ方#

GPUが足りないときはLLM APIがプロンプトを引き取ります。

ポストモーテムは、まだ持っていない最初のものを開きます:

  1. ホスト型モデル

影響するコンポーネント#

GPUノード、LLM API

エンジニアリング用語#