- Veröffentlicht am
LLM-D verteilt Inference über Kubernetes: Prefill/Decode trennen, KV-Cache nutzen, intelligent routen — niedrigere Latenz und bessere GPU-Kosten.
Gpu
Alle Beiträge
- kubernetes (84)
- security (19)
gpu (10)
- managed-kubernetes (10)
- compliance (9)
- platform-engineering (8)
- ai (7)
- aks (6)
- dsgvo (6)
- zertifizierung (6)
- devops (6)
- kosten (6)
- hardening (6)
- ai-agents (5)
- zero-trust (5)
- rbac (5)
- managed-services (5)
- multi-tenancy (4)
- mlops (4)
- eks (4)
- machine-learning (4)
- tutorial (4)
- multi-cluster (4)
- best-practices (4)
- cloud (4)
- mittelstand (4)
- bsi (4)
- audit (4)
- nis2 (4)
- networking (4)
- inference (3)
- azure (3)
- kostenoptimierung (3)
- docker (3)
- container (3)
- dra (3)
- keycloak (3)
- service-mesh (3)
- mcp (3)
- service-accounts (3)
- backup (3)
- kube-bench (3)
- trivy (3)
- gke (3)
- hochverfügbarkeit (3)
- vllm (3)
- ingress (3)
- Veröffentlicht am
Ray und Kubernetes als Distributed OS for AI: KubeRay, elastisches Training und bessere GPU-Auslastung — wann sich die Kombination wirklich lohnt.- Veröffentlicht am
AKS-Kostenrechner 2026: Berechnen Sie Ihre Azure Kubernetes Service Kosten inkl. GPU-Workloads. Interaktiver Kostenrechner mit Optimierungspotenzial-Analyse.- Veröffentlicht am
GPU Workloads auf Kubernetes: AI, ML und Deep Learning skalieren mit NVIDIA-GPUs, CUDA und Kubernetes-GPU-Scheduling. Praxis-Handbuch für Enterprise.- Veröffentlicht am
Kubernetes als AI/ML-Plattform: GPU-Cluster, MLOps-Pipelines mit Kubeflow, Model Serving mit TensorFlow & PyTorch. Praxis-Handbuch für Enterprise-Teams.