Model "bu müşteriye %38 PD atıyorum" diyor. Neden? Hangi özellik ne kadar katkı yapıyor? Bu soruya kullanım bağlamına uygun, sadık ve anlaşılır bir yanıt gerekir; SHAP olası araçlardan biridir, tek açıklama yöntemi değildir.
Bu bölümün sonunda
SHAP değerini tahmin farkının özelliklere atfı olarak okumak
Lokal ve global açıklamaları birbirinden ayırmak
Açıklama, nedensellik, fairness ve geçerlilik iddialarını ayırmak
SHAP: shapley değerleri ve katkı atfı
SHAP (SHapley Additive exPlanations), oyun teorisinden ödünç alınan Shapley değerlerine dayanır. Temel soru: "Her özellik, bu spesifik tahmin için portföy ortalamasından ne kadar sapma üretmektedir?" Cevap, her özellik için bir katkı değeridir (SHAP value) — pozitif ise PD'yi artırıyor, negatif ise düşürüyor.
Formülü özetle: tahmin = E[f(X)] + Σ φᵢ — portföy ortalama PD'si artı her özelliğin katkıları toplamı. Bu additif yapı seçilen model çıktısını tam olarak ayrıştırabilir; fakat atıf, açıklayıcı türüne, arka plan örneklemine, özellik bağımlılığına ve çıktı ölçeğine bağlıdır. “PD’yi 11,5 yüzde puan artırdı” yalnız açıklama gerçekten olasılık ölçeğindeyse söylenebilir.
SHAP, modelin ne düşündüğünü söyler — ama neden öyle düşündüğünü değil. Yorumlama gücü gerçektir; nedensel çıkarım iddiası ise değildir. Gecikme sayısının PD'yi artırması, gecikmenin temerrüdü "neden olduğu" anlamına gelmez.
artifact — SHAP waterfall görselleştirici
Üç farklı müşteri profili. Her biri için portföy ortalamasından (%8.5) başlayarak her özelliğin PD'ye katkısı kümülatif olarak gösteriliyor. Coral çubuklar riski artırıyor, teal çubuklar riski azaltıyor.
interactive — SHAP waterfall görselleştirici
katman IX · bölüm 26
Müşteri profili:
Portföy Ort. PD
%8.5
E[f(X)] — baz değer
Tahmin PD
—
—
En Büyük Faktör
—
—
Risk Sınıfı
—
PD eşiğine göre
Waterfall grafiği, "siyah kutu" modelinin bile bireysel tahminler için şeffaf bir özet sunmasını sağlar. GDPR Madde 22 kapsamında kredi kararları için müşteriye açıklama yükümlülüğü bu tür çıktılara dayanır. Ancak dikkat: SHAP değeri, modelin kararını açıklar — temerrüt olayını değil.
global yorumlanabilirlik araçları
SHAP, tek bir tahmin için çalışır (lokal). Tüm portföy genelinde model davranışını anlamak için ise global araçlar kullanılır.
Feature Importance (Safsızlık Bazlı)
Her değişkenin tüm ağaçlarda ortalama Gini azalmasına katkısı. Hızlı ama korelasyonlu değişkenler arasında önemi keyfi dağıtır. Validasyonda değişken seçimi için yetersiz — sadece model davranışını yansıtır.
Permutation Importance
Bir değişken rastgele karıştırılınca model performansı ne kadar düşüyor? Safsızlık bazlısından daha güvenilir. Ancak korelasyonlu değişkenler karıştırılınca diğeri "devreye girer" — etki hafife alınır.
PDP (Kısmi Bağımlılık Grafiği)
Bir değişken belirli bir değer alırken tüm diğer değişkenler sabit tutulduğunda ortalama model çıktısı nedir? DTI = %80 olduğunda ortalama PD kaçtır? Non-lineer ilişkileri gösterir. Aykırı değerlerden etkilenir.
SHAP Summary Plot
Tüm veri noktaları için SHAP değerleri bir arada gösterilir: özellik önemine göre sıralanmış, her nokta renklendirilmiş (feature değeri yüksek mi düşük mü?). Hem önem hem yön bilgisini aynı anda verir.
SHAP'ın bankacılık validasyonundaki sınırları: (1) SHAP tek başına değişken seçim kuralı değildir — korelasyonlu değişkenlerde atıf kullanılan bağımlılık varsayımına göre dağılır. (2) SHAP model davranışını açıklar, verinin gerçek nedensel yapısını değil. (3) Lojistik regresyonda katsayılar güçlü bir başlangıçtır; dönüşüm ve etkileşim varsa yerel atıf yine tamamlayıcı olabilir. SHAP, karmaşık modellerde yararlı bir atıf aracıdır; doğrudan yorumlanabilir modellerde de çıktı ölçeği ve yerel açıklama için tamamlayıcı olabilir. Geçerlilik veya nedensellik kanıtı değildir.
Açıklanabilirlik bir lüks değil, çoğu yerde yasal yükümlülüktür: kredi reddinde müşteriye gerekçe sunma (ABD'de ECOA/adverse action, AB'de tüketici ve GDPR şeffaflık ilkeleri) ve denetçiye model davranışını gösterme. SHAP/PDP bunu kara-kutu modeller için sağlar — ama EBA çerçevesinde değişken seçimi hâlâ ekonomik anlamlılığa dayanır, SHAP'a değil. Doğrudan yorumlanabilir bir logit modelde katsayılar güçlü bir başlangıçtır; etkileşimli veya dönüştürülmüş girdilerde SHAP yine tamamlayıcı olabilir; gücü kara-kutu yönetsel modelleri savunulabilir kılmaktır.
Yaygın yanılgı: "SHAP değeri yüksek = o değişken önemli = onu policy olarak kullanabiliriz." SHAP, modelin öğrendiği korelasyonu yansıtır. DTI'ın yüksek SHAP'ı, DTI azaltılırsa temerrüdün azalacağını garanti etmez — ortak bir nedenin (gelir kaybı) her ikisini de etkiliyor olabilir. Policy kararları için nedensel çerçeve gerekir, SHAP değil.
İkinci yanılgı: yorumlanabilirliği doğrulukla değiş tokuş yapmak zorunlu sanmak. Logistic regression + WoE, iyi tasarlanmış feature seti ile güçlü bir GBM'e yakın AUC üretebilir — ve tam yorumlanabilir kalır. Yorumlanabilirlik-doğruluk tradeoff'u çoğu zaman feature engineering kalitesiyle ilgilidir, algoritma seçimiyle değil.
Katman IX tamamlandı. Ağaçlar, GBM ve SHAP — nonlineer dünyanın araçlarını öğrendik. Katman X'ta bu serinin en kritik gerilimi başlıyor: doğruluk mu, yorumlanabilirlik mi?