Sayısal Temeller · Faz IV — Lineer Cebir

Modül 17 — Özdeğer, Özvektör ve PCA

temel fikir

Av = λv: bir matris v vektörüne uygulandığında v'yi yalnızca λ katsayısıyla ölçekliyor, yönünü değiştirmiyorsa — v o matrisin özvektörü, λ ise özdeğeridir. Simetrik matrisler için (kovaryans gibi) tüm özdeğerler reel ve özvektörler birbirine diktir (ortogonaldir). Bu iki özellik PCA'yı mümkün kılar: kovaryans matrisinin özvektörleri verinin "doğal eksenleri", özdeğerleri ise bu eksenlerdeki varyans miktarıdır.

Özdeğer Denklemi

Av = λv ↔ det(A − λI) = 0

Karakteristik denklem · n×n matris için n özdeğer · Simetrik A: tüm λ reel, özvektörler dik

Spektral Ayrışım (simetrik A)

A = QΛQ^T

Q: özvektör sütunları (ortonormal) · Λ: özdeğer diyagonal matrisi · tr(A) = ∑λ_i · det(A) = ∏λ_i

PCA varyansı en iyi açıklayan doğrusal yönleri bulur. Varyansı büyük yönün hedef değişken için en yararlı yön olması gerekmez. Ölçekleme, merkezleme ve dönüşüm parametreleri eğitim verisinde öğrenilmelidir.

Özdeğer & PCA Merkezi

Kovaryans matrisi özvektörleri (oklar) veri bulutunun ana eksenlerini gösterir. Ok uzunluğu = √λ (o yöndeki standart sapma).

Σ₁₁ = a (X varyansı)

a = 2.0

Σ₁₂ = b (kovaryans)

b = 1.0

Σ₂₂ = d (Y varyansı)

d = 1.0

Veri bulutu N(0,Σ)

Özvektör v₁ (λ₁)

Özvektör v₂ (λ₂)

%95 güven elipsi

PCA'nın risk analizindeki rolü

Getiri matrisinin PCA’sı ortak varyans yönlerini ortaya çıkarır; ilk bileşen çoğu hisse evreninde piyasa-benzeri olabilir, fakat ekonomik etiket veriden otomatik çıkmaz. Kaç bileşenin yeterli olduğu açıklanan varyans, out-of-sample kararlılık ve kullanım amacına göre seçilir; “3–5 bileşen %80’i açıklar” yalnızca veri setine özgü bir örnek olabilir.

LGD model validasyonunda PCA: kalıntılar (residuals) arasındaki korelasyonu incelemek için kovaryans matrisinin özdeğerleri hesaplanır. İlk özdeğer toplam varyansın çok büyük bölümünü açıklıyorsa, modelin yakalayamadığı sistemik bir faktör var demektir — bu validasyon bulgusunu BDDK'ya sunulacak raporda desteklemek için PCA scree plot'u kullanılır.

Yöntemler ve birincil referanslar: Sözlük ve kaynaklar.

← Modül 16 Modül 18 — SVD ve Boyut İndirgeme →