Sayısal Temeller · Faz VIII — Makine Öğrenmesi Temelleri

Modül 35 — Model Açıklanabilirliği (SHAP, LIME, PDP)

temel fikir

Karmaşık modellerde PDP global ortalama etkiyi, LIME yerel vekil modeli, SHAP ise seçilen değer fonksiyonuna göre Shapley katkılarını verir. Bu araçlar açıklamayı destekler; BDDK/EBA açısından tek başına zorunlu veya yeterli bir validasyon kanıtı değildir.

SHAP (Shapley Değeri)

φ_j = ∑_S⊆N\{j} w(S)·[f(S∪{j}) − f(S)]

w(S) = |S|!(n−|S|−1)!/n! · Toplanabilirlik: f(x) = f(referans) + Σφⱼ · Seçilen değer fonksiyonuna göre aksiyomatik katkı dağılımı

PDP ve LIME

PDP(x_j) = (1/n)∑_i f(x_j, x_−j⁽ⁱ⁾)

PDP: bir özelliğin marjinal etkisi (global) · ICE: kişi-bazlı eğriler · LIME: yerel ağırlıklı lineer yaklaşım

Shapley paneli dört değişkenin 16 alt kümesini hesaplar ve eksik değişkenleri sabit [0,5; 0,5; 0,5; 0,5] referansına koyar. Başlangıç değeri f(referans)’tır; genel popülasyon ortalaması E[f(X)] değildir. Katkılar bu referansa göre model açıklamasıdır, nedensel etki veya adalet kanıtı değildir.

Açıklanabilirlik Merkezi

Borç oranı (DTI) özelliğinin PD üzerindeki etkisi. İnce gri çizgiler: her borçlu için ICE eğrisi. Kalın mavi: PDP (ortalama). Olasılık ölçeğinde eğri biçimleri doğrusal olmayan bağlantıdan da etkilenir.

Etkileşim gücü (yaş × DTI)

orta

DTI'nin temel etkisi

3.0

Gösterilen ICE eğrisi

20 eğri

ICE (kişi-bazlı)

PDP (ortalama etki)

—

araçların güçlü ve zayıf yönleri

PDP korelasyonlu özelliklerde gerçekçi olmayan birleşimler üretebilir; ALE alternatif olabilir. LIME yerel ve kararsız olabilir. SHAP toplamsal katkı sağlar, ancak “adil” ya da nedensel açıklama garantisi vermez; arka plan örneklemi ve koşullu/marjinal beklenti seçimi sonucu değiştirir. TreeSHAP ve KernelSHAP hesap yaklaşımıdır, yönetişim kararı değildir.

Açıklama, performans ve kalibrasyonun yanında ayrı bir kanıt katmanıdır. SHAP katkıları ekonomik sezgiyle karşılaştırılabilir; fakat model hatasını, veri sızıntısını veya ayrımcılık riskini otomatik olarak ortadan kaldırmaz. Sonuçlar hassasiyet ve kararlılık testleriyle desteklenmelidir.

Yöntemler ve birincil referanslar: Sözlük ve kaynaklar.

← Modül 34 Faz IX — Model Validasyonu →