SHAP & XAI — ML Modellerini Açıklamak
SHAP (SHapley Additive exPlanations), Shapley değerlerini model tahminlerine uygulayan güçlü bir yerel açıklama ailesidir. Kredi riskinde model incelemesine teknik kanıt sağlar; tek başına hukuki açıklama, nedensellik veya adalet garantisi vermez.
- Shapley değerini oyun teorisinden ML'e türetmek ve üç özelliğini (local accuracy, consistency, missingness) açıklamak
- SHAP dekompozisyonunu formülle yazmak: f(x) = E[f(X)] + Σⱼ φⱼ
- Waterfall, bar, beeswarm ve dependence plot'ları okumak ve yorumlamak
- TreeSHAP ile model-agnostic SHAP arasındaki farkı bilmek
- SHAP’ın GDPR kapsamındaki anlamlı açıklama sürecine nasıl katkı sağlayabileceğini ve neden tek başına yeterli olmadığını açıklamak
- SHAP değerlerinde validatörün kontrol etmesi gereken sorunları sıralamak
01 · Shapley Değeri — Oyun Teorisinden ML'e
1953'te Nobel ödüllü Lloyd Shapley kooperatif oyun teorisinde şu soruyu sordu: N oyuncunun birlikte ürettiği kazancı, her oyuncunun katkısına göre adil nasıl böleriz? Cevap, Shapley değeridir. Lundberg & Lee (2017) bu fikri ML açıklamasına uyguladı.
1. Local accuracy: Tanımlanan değer oyunu ve seçilen output ölçeğinde E[f(X)] + Σⱼφⱼ = f(x); sayısal uygulamada tolerans ayrıca kontrol edilir. 2. Missingness: Modeli etkilemeyen sabit özelliğin SHAP değeri sıfır. 3. Consistency: Modeli değiştirirsen ve özelliğin etkisi büyürse, o özelliğin SHAP değeri küçülemez. LIME farklı bir yerel yaklaşım kullanır ve aynı Shapley aksiyomlarını garanti etmez; bu, her kullanımda SHAP’ın otomatik olarak daha iyi olduğu anlamına gelmez.
02 · SHAP Waterfall — Bireysel Kredi Kararı Açıklaması
Waterfall plot, tek bir bireyin tahmininin nasıl oluştuğunu gösterir: baseline'dan başlayıp her özelliğin katkısını ekleyerek final PD'ye ulaşır.
"Krediniz şu nedenlerle reddedilmiştir: Borç/Gelir oranınız (%42) risk puanınızı +8.3 puan artırmıştır; kredi skorunuz (670) risk puanınızı −3.1 puan düşürmüştür..." Bu yapı, bireysel ve anlaşılır karar gerekçesi üretmeye yardımcı olabilir; ancak GDPR’daki anlamlı açıklama standardını tek başına karşıladığı varsayılamaz. Regülatörler waterfall plot çıktısını bireysel müşteriye iletilen red gerekçesi mektubuyla eşleştirebilmelidir.
03 · SHAP Beeswarm — Global Özellik Önemi & Yön
Beeswarm plot, tüm örnekler için SHAP değerlerini tek bir grafikte gösterir. Her nokta bir borçludur; X ekseni SHAP değeri (pozitif = PD artırır), renk özellik değeridir (kırmızı = yüksek, mavi = düşük).
04 · SHAP Dependence Plot — Özellik Etkisi & Non-Linearity
Dependence plot, tek bir özelliğin SHAP değerinin o özelliğin değeriyle nasıl değiştiğini gösterir. Monotonicity constraint'in gerçekten uygulandığını ve non-lineer etkilerin anlamlı olduğunu doğrulamak için kritik.
05 · TreeSHAP vs Model-Agnostic SHAP
| Özellik | TreeSHAP (Exact) | Kernel SHAP (Model-Agnostic) | LIME |
|---|---|---|---|
| Algoritma | Ağaç yapısından exact hesap | Ağırlıklı lineer regresyon | Pertürbasyon + lokal LR |
| Doğruluk | Exact (approximasyon yok) | Yaklaşık | Yaklaşık |
| Hız | O(TLD²) — çok hızlı | O(2^F × samples) — yavaş | Orta |
| Tutarlılık | Shapley aksiomları karşılar | Karşılar (yeterli örnekle) | Garanti etmez |
| Uygunluk | XGBoost, LightGBM, RF | Her model | Her model |
| Kredi riskinde tercih | XGBoost için birinci tercih | Nöral ağ gibi durumlarda | Hızlı prototip için |
SHAP "exact" olsa da, korelasyonlu girdilerde hangi SHAP'ı hesapladığın atıfı değiştirir. TreeSHAP’ın feature-dependence yaklaşımı kullanılan kütüphane, sürüm ve ayara bağlıdır. Tree-path-dependent yaklaşım bir özellik "yokmuş gibi" davranırken korelasyonlu diğer özellikleri kullanarak koşullu beklenti alır — bu, modelin kullanmadığı bir değişkene bile kredi/borç atfedebilir. Interventional yaklaşım background veri üzerinden özellik bağımlılıklarını farklı ele alır; nedensel do-operatörüyle eşdeğer olduğu veya yalnızca “gerçek” özelliklere atıf yaptığı varsayılmamalıdır ama "off-manifold" (gerçekte görülmeyen) noktalarda model değerlendirir. Validatör için kritik sonuçlar: (1) SHAP modeli açıklar, gerçeği/nedenselliği değil — "DTI'nizi düşürün" counterfactual'ı korelasyon varsa yanıltıcı olabilir; (2) korunan özelliklerle korelasyonlu proxy'lerin SHAP'ı observational modda şişer → ayrımcılık analizinde hangi modun kullanıldığı belgelenmeli; (3) iki farklı SHAP uygulaması aynı modele farklı atıf verebilir — yöntem sabitlenmeli.
06 · GDPR, Otomatik Karar ve Anlamlı Bilgi
GDPR Madde 22, yalnızca otomatik işleme dayanan ve hukukî veya benzer ölçüde önemli etki doğuran kararları ve ilgili güvenceleri düzenler. Madde 13–15’teki “kullanılan mantık hakkında anlamlı bilgi” yükümlülüğü ve CJEU C-203/22 birlikte okunduğunda açıklama, fiilen uygulanan prosedür ve ilkeleri kişinin anlayabileceği biçimde aktarmalıdır; ham formül veya tek bir SHAP grafiği tek başına yeterli kabul edilmemelidir.
Katman 1 — Genel: "Modelimiz 5 değişken kullanır; DTI, kredi skoru ve gelir en etkili olanlardır." (SHAP bar plot'u referans alır) Katman 2 — Bireysel: "Başvurunuz yüksek DTI oranı nedeniyle puanınızı 8.3 puan artırdı." (SHAP waterfall referans alır) Katman 3 — Eylem önerisi: "DTI'nizi %42'den %35'e düşürürseniz PD tahmininiz %12'den %7'ye gerilemiş olurdu." (counterfactual) Gerekli açıklama içeriği somut karar, yargı alanı ve veri koruma/tüketici hukuku kapsamında belirlenir; SHAP çıktısı müşteriye ham teknik grafik olarak verilmeden anlaşılır gerekçeye çevrilmelidir.
07 · Validasyon Perspektifi
Monotonicity doğrulaması: Dependence plot'ta risk artırıcı faktörlerin (DTI, borç) SHAP değerlerinin monoton arttığını, azaltıcı faktörlerin (gelir, kredi skoru) monoton azaldığını doğrula. Monotonicity constraint uygulanmışsa bile küçük ihlaller olabilir — bunların istatistiksel anlamlılığı test edilmeli.
Baseline tutarlılığı: Seçilen output ölçeğinde f(x) = E[f(X)] + Σⱼφⱼ eşitliği tolerans içinde sağlanıyor mu? Tolerans veri tipi ve sayısal hassasiyetle belirlenmeli; 0,001 evrensel hata eşiği değildir.
Feature importance değişimi: Development ve production veri arasında SHAP importance sıralaması ve dağılımı değişti mi? Anlamlılık, örneklem belirsizliği ve iş etkisiyle değerlendirilmelidir; iki sıra değişimi evrensel alarm değildir.
Açıklama tutarlılığı: Aynı profile sahip iki borçlu benzer SHAP açıklamaları alıyor mu? Küçük girdi değişiklikleri büyük SHAP farkı üretiyorsa model kararsız demektir.
İnsan doğrulaması (sanity check): Domain uzmanlarına waterfall plot göster — "Bu açıklamayı mantıklı buluyor musunuz?" Eğer uzmanlar "Bu borçlu neden yüksek DTI'ya rağmen düşük PD alıyor?" diye sorarsa, model öğrenme ya da SHAP hesaplamasında sorun var demektir.
Ayrımcılık testi: Korunan özelliklerle ilişkili proxy değişkenler incelenmelidir. SHAP grup karşılaştırması tanılayıcı kanıt sağlar; disparate impact ve hukuki fairness analizi karar sonuçları, hata oranları, veri süreci ve geçerli hukukla birlikte yapılır.
Kendini kontrol et
Local accuracy hangi ölçekte sağlanır?
SHAP’ın hesaplandığı model output ölçeğinde; log-odds SHAP değerleri doğrudan olasılık puanı değildir.
SHAP “neden” sorusunu nedensel olarak yanıtlar mı?
Hayır; modelin tahminini özelliklere dağıtır, müdahale sonucunu kanıtlamaz.
Waterfall tek başına GDPR uyumu sağlar mı?
Hayır; bireysel, anlaşılır ve fiilen uygulanan karar mantığını açıklayan daha geniş süreçte teknik kanıt olarak kullanılabilir.
Birincil kaynaklar ve güncellik
Son içerik kontrolü: 13 Temmuz 2026. Düzenleyici kapsam ve yürürlük tarihi kurumun yargı alanına göre ayrıca doğrulanmalıdır.