GPU Infrastructure: Kubernetes Üzerinde AI Workloads
Kubernetes'te GPU zamanlama, NVIDIA operator, MIG, autoscaling ve verimli AI iş yükü yönetimi.
Seviye
İleri
Süre
26 saat
Tahmini yayın
2028 Q1
Kategori
AI Platform, MLOps ve LLMOps
AI iş yüklerinin en pahalı kaynağı olan GPU'ları Kubernetes üzerinde verimli yönetmeyi öğreten ileri kurs. NVIDIA GPU operator kurulumundan zamanlama ve MIG bölümlemeye, autoscaling'den maliyet ve verimlilik optimizasyonuna; eğitim ve inference iş yüklerini güvenilir ve ekonomik çalıştırırsın.
Öğrenilecek teknolojiler
Ne öğreneceksin
- Kubernetes'te GPU zamanlama ve NVIDIA operator
- MIG ile GPU bölümleme ve paylaşım
- Autoscaling ve iş yükü izolasyonu
- GPU maliyeti ve verimlilik optimizasyonu
Kimler için
- GPU altyapısı yöneten platform mühendisleri
- AI iş yüklerini Kubernetes'te çalıştıran ekipler
- Maliyet/verimlilik optimize eden kurumlar
Müfredat özeti
- 01Kubernetes üzerinde GPU temelleri
- 02NVIDIA GPU operator ve kurulum
- 03Zamanlama ve MIG
- 04Autoscaling ve kuyruklama
- 05İzolasyon ve çok-kiracılık
- 06Maliyet ve verimlilik
Diğer kursları keşfet
AI Platform, MLOps ve LLMOps
LLMOps ve GenAIOps: AI Sistemlerini Production'a Alma
Prompt versioning, evaluation, CI/CD, tracing, model monitoring, token maliyetleri ve production deployment.
AI Platform, MLOps ve LLMOps
AI Platform Engineer: Kubernetes, Terraform ve CI/CD
Kubernetes, Terraform, model gateway, agent runtime, GPU workloads, secrets, observability ve multi-tenant AI platformları.
AI Platform, MLOps ve LLMOps
AI Agent Evaluation ve Observability
Agent kalitesini ölçme, tracing, LLM-as-judge, regresyon testleri, guardrails ve üretim gözlemlenebilirliği.