コンポーネント
ボードに置けるすべての部品。何を表し、いくらかかり、いつ解放されるか。
コンポーネントはカタログの 1 項目です。ノードはボード上のその 1 つのコピーです。コンポーネントはゲームのドックと同じく 7 つのグループに分かれます。バッジの形と色がファミリーを示します。エッジ、コンピュート、データ、運用です。
エッジ#
トラフィックが始まる場所。ドメインは1つのホストに解決されるので、ユーザーが取るリンクは1本だけです。
最大8ホストへのラウンドロビン。ヘルスチェックはなく、死んだホストも取り分を保ちます。
トラフィックをアプリサーバーに振り分け、死んだホストを次のヘルスチェックで外します。
キャッシュできるページをユーザーの近くから返します。エッジからのエグレスは安く済みます。
ボットがアプリに届く前に止めます。本物のユーザーもいくらか巻き込みます。
API呼び出しをレート制限し、ルーティングします。レート上限を超えたリクエストはthrottled扱いで失敗し、課金はリクエスト単位です。
コンピュート#
コードを動かします。リクエストに応答し、データベースへクエリを投げます。
キューから来たタスクでコードを動かします。ユーザーが待つことはありません。エクスポートが読むデータにリンクさせてください。
リクエストごとにコードを動かし、持つべき箱がありません。待機中はゼロ、起きればコールドスタート、同時実行は1,000です。
アプリサーバーやワーカーをリンクします。共有ノードに詰め込まれ、支出が15%減り、コピーは30秒で立ちます。
AIプロンプトを毎秒トークン数で処理します。サイズ1段ごとにGPUが倍になります。
小さなハンドラーをユーザーの隣で動かします。5 ms、コールドスタートなし、箱ではなくCPU上限で動きます。
データ#
唯一の正となるデータ。Postgresは接続ごとにプロセスをforkし、MySQLは接続ごとにスレッドを与えます。
多数のアプリ接続が、20本のデータベース接続を共有します。
ホットなデータが載っている間は、読み取りクエリをメモリから返します。書き込みは素通りし、キャッシュを無効化します。
読み取りに答えます。書き込みには遅れるので、一部のAPI読み取りは古い値を返します。
検索クエリに答えます。サイズ1段ごとに毎秒400件。
アップロードされたファイルを保持します。上限はありません。保存した分だけ課金されます。
行ではなくドキュメントを保持します。結合もプールすべき接続もなく、読み書きは一律のレートで、クエリごとに専用のインデックスが要ります。
レポートのスキャンをカラム指向で返します。1件1.5秒、上限なし、スキャン量に応じた課金です。
エンベディングの近傍探索に答えます。インデックスはメモリに載り、ここに届いたプロンプトはより多く稼ぎます。
各キーをN個のノードに複製します。読み取りはR個に問い、書き込みはW個を待ちます。
Raft上のSQLです。書き込みはレプリカの過半数を待ちます。
メッセージング#
プラットフォーム#
アプリサーバーやワーカーをリンクします。高負荷になればコピーを増やし、暇になれば減らします。
待っているものを出荷します。デプロイ戦略が、デプロイにかかる時間、燃やす支出、そして不正なデプロイの深刻さを決めます。
アプリサーバーとワーカーをリンクします。各ノードの隣のサイドカーが呼び出しをリトライし、遮断し、監視します。ホップごとに+1 ms、CPUの5%を使います。
機能を5%、25%、50%、または全ユーザーへ展開し、ワンクリックで切れます。不正なデプロイの影響は、その機能を持つ割合だけです。
鍵を保管し、TLS証明書を期限切れ前に更新します。これが動いていないと、証明書はカレンダーどおりに切れ、サイトは落ちます。