Model Açıklamaları ve Katkı Grafikleri

Kavram

Yerel açıklama tek bir tahmine, genel açıklama modelin veri genelindeki davranışına odaklanır. Özellik katkısı, değişkenin model çıktısına ilişkilendirilen payıdır. Bu pay kullanılan açıklama yöntemi, referans verisi ve çıktı ölçeğine bağlıdır.

Bir örnek üzerinden

Bir katkı grafiğinde başlangıç değeri ile katkıların toplamı son tahmine ulaşır. Olasılık ölçeğinde +0,03 katkı üç yüzde puandır; “riski %3 artırdı” ifadesiyle aynı değildir. Log-odds ölçeğindeki katkılar ise olasılığa doğrudan eklenemez.

Görsel üzerinden

Buradaki üç profil için katkılar öğretim amacıyla elle tanımlanmıştır; eğitilmiş bir modelden SHAP algoritmasıyla hesaplanmış değerler değildir. Şelale grafiği toplamsal açıklamanın okunuşunu gösterir. Gerçek SHAP uygulamasında açıklanan çıktı ve arka plan dağılımı ayrıca belirtilir.

Yorumlama

Katkı büyüklüğü nedensel etki veya müdahale önerisi değildir. İlişkili özelliklerin paylaştırılması yönteme duyarlı olabilir. PDP ortalama model yanıtını gösterir; ilişkili özelliklerde gerçekçi olmayan birleşimler üretme riski dikkate alınmalıdır.

Kapsam ve okuma

Bu modülün görselleri öğretim amaçlıdır. İlgili okuma: SHAP · Şelale grafiğinin yorumu. Açıklamalı kaynak dizini →