Kubernetes Otomatik Ölçeklendirme: HPA ve VPA

**Horizontal Pod Autoscaler (HPA)**, Kubernetes kümesindeki bir `Deployment`, `ReplicaSet` veya `StatefulSet`'teki Pod sayısını (replikalarını) otomatik olarak ayarlayan bir API objesidir. Bu ayarlama, belirtilen hedeflenen metrik değerlerine (örneğin ortalama CPU kullanımı, ortalama bellek kullanımı veya özel metrikler) göre yapılır. HPA, uygulamanızın yatay olarak ölçeklenmesinden sorumludur.

Neden ve Ne İşe Yarar?

• **Dinamik Talep Karşılama:** Uygulamanızın gelen talebi otomatik olarak karşılamasını sağlar, ani yük artışlarına veya azalışlarına hızlıca yanıt verir.
• **Performans Optimizasyonu:** Pod'lar aşırı yüklenmeden önce yeni Pod'lar ekleyerek uygulama performansını korur.
• **Maliyet Verimliliği:** Talep azaldığında Pod sayısını düşürerek gereksiz kaynak tüketimini ve bulut maliyetlerini azaltır.
• **Yüksek Erişilebilirlik:** Daha fazla Pod çalıştırarak uygulamanın hata toleransını artırır.

Nasıl Çalışır?

HPA denetleyicisi, `kube-controller-manager` içinde çalışır ve belirtilen Pod metriklerini düzenli aralıklarla (varsayılan olarak 15 saniye) kontrol eder. Bu metrikler genellikle `metrics-server` (CPU ve bellek gibi yerleşik metrikler için) veya Prometheus gibi harici izleme sistemlerinden (özel metrikler için) alınır. HPA, mevcut metrik değerlerini tanımlanan hedeflerle karşılaştırır ve `Deployment` veya `StatefulSet`'in `replicas` alanını uygun şekilde ayarlar.

Özellikleri:

• `spec.scaleTargetRef`: Ölçeklendirilecek hedef kaynağı (örneğin bir Deployment).
• `spec.minReplicas`: Uygulamanın sahip olabileceği minimum Pod sayısı.
• `spec.maxReplicas`: Uygulamanın sahip olabileceği maksimum Pod sayısı.
• `spec.metrics`: Ölçekleme kararlarının temel alınacağı metrikler.
  • `Resource` metrikleri (CPU, Memory): Hedef değer yüzde cinsinden (örneğin %50 CPU kullanımı).
  • `Pods` metrikleri: Pod'lar tarafından yayılan metrikler (örneğin istek kuyruğu boyutu).
  • `Object` metrikleri: Küme genelindeki bir objeye ait metrikler (örneğin Ingress'ten gelen saniye başına istek sayısı).
  • `External` metrikler: Küme dışından gelen metrikler (örneğin bir bulut sağlayıcısının mesaj kuyruğundaki mesaj sayısı).

Örnek YAML:

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: my-app-hpa
  namespace: default
spec:
  scaleTargetRef: # Ölçeklendirilecek hedef
    apiVersion: apps/v1
    kind: Deployment
    name: my-app-deployment
  minReplicas: 2 # Minimum 2 Pod
  maxReplicas: 10 # Maksimum 10 Pod
  metrics:
  - type: Resource # Kaynak metriği
    resource:
      name: cpu
      target:
        type: Utilization # Hedef CPU kullanımı yüzdesi
        averageUtilization: 50 # Ortalama %50 CPU kullanımında ölçeklendir
  - type: Resource
    resource:
      name: memory
      target:
        type: AverageValue # Hedef ortalama bellek değeri
        averageValue: 200Mi # Ortalama 200MiB bellek kullanımında ölçeklendir
                

**Vertical Pod Autoscaler (VPA)**, bir Pod'un konteynerleri için CPU ve bellek `request` ve `limit` değerlerini otomatik olarak ayarlayan bir Kubernetes bileşenidir. VPA, uygulamanızın geçmiş kaynak kullanım verilerini analiz eder ve en uygun kaynak konfigürasyonunu önerir veya doğrudan uygular. Amacı, kaynak israfını azaltmak ve aynı zamanda uygulamanın performans gereksinimlerini karşılamak için Pod'ların yeterli kaynağa sahip olmasını sağlamaktır.

Neden ve Ne İşe Yarar?

• **Kaynak Optimizasyonu:** Pod'lara doğru miktarda CPU ve bellek atayarak kaynak israfını önler.
• **Performans İstikrarı:** Pod'ların darboğaz yaşamasını engelleyerek uygulamanın performansını artırır.
• **Manuel Ayarlama Yükünü Azaltma:** Geliştiricilerin veya operatörlerin Pod'lar için manuel olarak kaynak `request` ve `limit` değerleri belirlemesi ihtiyacını ortadan kaldırır.
• **Daha İyi Zamanlama:** Doğru kaynak istekleri, Scheduler'ın Pod'ları düğümlere daha verimli bir şekilde yerleştirmesine yardımcı olur.

Nasıl Çalışır?

VPA, Kubernetes kümesinde birkaç bileşenden oluşur (VPA Recommender, VPA Updater, VPA Admission Plugin).

• **VPA Recommender:** Pod'ların geçmiş CPU ve bellek kullanım verilerini toplar ve analiz eder (genellikle `metrics-server`'dan). Bu verilere dayanarak, Pod'ların konteynerleri için önerilen `request` ve `limit` değerlerini hesaplar.
• **VPA Updater:** Recommender'dan gelen önerilere göre Pod'ları yeniden yapılandırır. Bu, genellikle Pod'ları tahliye edip yeni kaynak istekleriyle yeniden başlatmak anlamına gelir.
• **VPA Admission Plugin:** Yeni veya güncellenen Pod'ların kaynak isteklerini ve limitlerini VPA önerilerine göre otomatik olarak ayarlar, böylece yeni Pod'lar doğru boyutlandırılarak başlatılır.

Özellikleri:

• `spec.targetRef`: Ölçeklendirilecek hedef kaynağı (örneğin bir Deployment).
• `spec.updatePolicy.updateMode`: VPA'nın kaynakları nasıl uygulayacağını belirler:
  • `Off`: Sadece öneri yapar, otomatik değişiklik yapmaz.
  • `Initial`: Pod başlatıldığında kaynakları ayarlar.
  • `Recreate`: Kaynaklar değiştiğinde Pod'u yeniden oluşturur.
  • `Auto` (varsayılan): `Recreate` gibi Pod'u yeniden oluşturur (bazı durumlarda yerinde güncelleme de yapabilir).
• `spec.resourcePolicy`: VPA'nın hangi konteynerler için öneriler yapacağını ve min/max kaynaklarını belirler.

Örnek YAML:

apiVersion: autoscaling.k8s.io/v1
kind: VerticalPodAutoscaler
metadata:
  name: my-app-vpa
  namespace: default
spec:
  targetRef: # Ölçeklendirilecek hedef
    apiVersion: "apps/v1"
    kind:       Deployment
    name:       my-app-deployment
  updatePolicy:
    updateMode: "Auto" # Otomatik olarak kaynakları güncelle ve Pod'u yeniden başlat
  resourcePolicy:
    containerPolicies:
      - containerName: '*' # Tüm konteynerler için geçerli
        minAllowed:
          cpu: 100m
          memory: 50Mi
        maxAllowed:
          cpu: 2
          memory: 1Gi