リファレンス用語集

スレッドプール

共有のキューから仕事を取る固定のスレッド群で、タスクごとにスレッドを作るコストを払わずに済みます。リクエストごとにスレッドを使うサーバーでは、プールの大きさが同時に動くリクエスト数を決め、I/O を待つリクエストもスレッドを占有します。

ランタイム

Quorum では#

Java の Tomcat は 1 つの JVM で 200 スレッドを動かし、Ruby の Puma はプロセスあたり 5 スレッドを動かします。待つリクエストはスレッドを占有するので、遅いデータベース呼び出しがプールを埋めます。Node.js では libuvスレッドプールのリサーチがパスワードのハッシュをイベントループから外すので、ログインが他のリクエストを止めなくなります。Rust の Tokio はワーカースレッドのプールで非同期タスクを動かすので、CPU を重く使うタスクはそのうち 1 つだけを止めます。

イベントループ、プリフォークワーカーモデル、非同期I/O、リトルの法則

さらに学ぶ#