Pular para o conteúdo
● ONLINE
Arquivo

Tag: kubernetes

Servindo LLMs no Kubernetes com vLLM e TTFT

Servir LLMs no Kubernetes com vLLM parece simples até o primeiro pico de tráfego. O que separa uma prova de conceito de um serviço confiável é medir TTFT, controlar GPU e aceitar as limitações reais da fila.

Cotas de CPU e RAM no OpenShift OKD

Se você trabalha com OpenShift OKD em ambientes corporativos ou de laboratório, já deve ter se deparado com situações em que um pod monopoliza […]

Kubernetes vs Docker – Entendendo de uma Vez!

Com a crescente adoção da conteinerização, os desenvolvedores ganharam uma ferramenta poderosa que simplifica o processo de deployment de aplicações e serviços. Nesse cenário, […]

↑