GPUノードを解放。回り続けていれば、AIプロンプトのトークン単価が下がる。
GPUノード
インフラトラックの根です。これより前に何もありません。
つながる先:量子化、continuous batching。