QuorumWiki
Jugar

Escasez de GPU

El proveedor reclamó un Nodo GPU. No hay capacidad de H100 este mes.

Qué ocurre#

El proveedor reclamó un Nodo GPU. No hay capacidad de H100 este mes.

Cómo evitarlo#

La API de LLM asume los prompts cuando escasean las GPU.

El postmortem abre la primera de estas que aún no tengas:

  1. Modelos alojados

Componentes a los que afecta#

Nodo GPU, API de LLM

Términos de ingeniería#