リファレンス用語集

スポットインスタンス

大きな割引で売られるクラウドの余剰容量で、オンデマンド価格から最大 90% 引かれ、プロバイダが必要になったらいつでも取り戻せます。AWS は 2 分前に中断を通知します。スポットは状態を持たず障害に強い作業、たとえばバッチジョブや、余力のあるロードバランサーの後ろのサーバーに向き、単一のデータベースには向きません。

ビジネス

Quorum では#

スポット価格ではノードがオンデマンド価格の 0.3 倍で動きますが、プロバイダが取り戻せます。スポット回収のインシデントは 10 シミュレーション秒警告してからノードを落とし、警告の間にノードをオンデマンドに切り替えると取り消せます。リザーブドのノードは 0.6 倍で 1 カレンダー週保ちます。GPU不足のインシデントは別で、プロバイダが GPUノードを、H100 から先に取り戻し、フォールバックの LLM API があると頻度が 4 分の 1 になります。

設計#

Pricing models

営業利益率、オートスケーリング、ヘルスチェック、モデル推論

さらに学ぶ#