Katman VI · Model Dilinin Temeli · 17 / 17

Lojistik Regresyon & Maximum Likelihood

bu bölümün sorusu

y ∈ {0,1} olduğunda lineer regresyon dışına çıkılmaz, yeniden çerçevelenir. Sigmoid olasılığı [0,1]'e hapsetmez — onu doğrusal uzaydan olasılık uzayına taşır. Bu taşıma neden PD modelinin matematiksel omurgasıdır?

Bu bölümün sonunda

Sigmoid, logit, odds ve olasılık arasındaki dönüşümü kurmak
MLE ve log-loss bağlantısını görmek
Katsayıyı odds oranı ve marjinal etki olarak doğru yorumlamak

sigmoid: lineer girdiden olasılık çıktısı

Lineer regresyon, β₀ + β₁x tahminini üretir — bu değer teorik olarak −∞'dan +∞'a uzanır. Ama olasılık [0,1] aralığında olmalıdır. Sigmoid fonksiyonu bu köprüyü kurar: her gerçel sayıyı 0 ile 1 arasına iter, simetrik bir S-eğrisi üzerinde.

Sigmoid (Lojistik) Fonksiyon

σ(z) = 1 / (1 + e⁻𝑧) z = β₀ + β₁x

z = 0 → P = 0.5 | z → +∞ → P → 1 | z → −∞ → P → 0

Logit dönüşümü, sigmoid'in tersini alır: log(p / (1−p)) = β₀ + β₁x. Solda "log-odds" — log olasılık oranı. Bu dönüşüm sayesinde, olasılıklar log-odds uzayında lineer hareket eder ve model bir lineer denklem olarak kalır.

β₁ yorumu: x'te 1 birimlik artış, log-odds'u β₁ kadar değiştirir. Odds oranı e^β₁ olur. Örneğin β₁ = 0.5 ise: her 1 birimlik DTI artışında temerrüt odds'u ~%65 artar (e^0.5 ≈ 1.65).

Sigmoid, sonsuz büyük bir sayıyı 0 ile 1 arasına hapseden bir sihirdir. Logit ise bu hapsin tersini yapar — [0,1]'den sonsuz bir ekrana açar. İkisi birbirinin aynaları — ve PD modelinin iki yüzüdür.

artifact — lojistik eğri: sigmoid etkileşimi

Risk skoru yükseldikçe temerrüt olasılığı artıyor. β₀ eğriyi yatay kaydırır (karar sınırı). β₁ eğrinin dikliğini belirler — büyük β₁ = net ayrım. "MLE Çözümü" ile veriye en uygun sigmoid'i bulun.

interactive — lojistik eğri / sigmoid slider

katman VI · bölüm 17

Temerrüt (y=1)

İyi ödeyici (y=0)

P(temerrüt|x) — model

P=0.5 referans

β₀ (sabit) 0.0

β₁ (eğim) 0.0

β₀ ve β₁ sıfır → P = 0.5 her yerde (bilgisiz model)

β₀

0.0

intercept

β₁

0.0

slope (log-odds)

Log-Lik

—

maximize edilecek

Karar Sınırı

—

P=0.5 noktası

β₁ büyüdükçe sigmoid daha dikleşir — model daha "kararlı" ayrım yapar. β₁ = 0 ise sigmoid yatık bir çizgiye dönüşür: model hiçbir ayrım yapmıyordur. Yasal PD modellerinde monotonluk kısıtı, β₁ işaretinin kontrol edilmesini de içerir: daha yüksek risk skoru → daha yüksek P(default).

maximum likelihood: olasılıksal öğrenmenin dili

OLS, kare hataları minimize eder. MLE ise farklı bir soru sorar: "Hangi β değerleri, gözlemlediğimiz veriyi en yüksek olasılıkla üretirdi?" İkili çıktı için bu daha doğal bir çerçevedir.

Log-Likelihood (Maksimize Edilecek)

ℓ(β) = ∑ [yᵢ log(σ(z)) + (1−yᵢ) log(1−σ(z))]

Her doğru tahmin log-lik'i artırır. Yanlış tahmin düşürür. β, bu toplamı maksimize eder.

Logistic regression'ın closed-form çözümü yoktur — OLS'nin aksine. Gradient descent, IRLS (Iteratively Reweighted Least Squares) veya Newton-Raphson ile iteratif olarak bulunur. Modern istatistik yazılımları (statsmodels, SAS, R) bu optimizasyonu arka planda yapar.

Cross-entropy loss ile bağlantısı: Neural network eğitiminde kullanılan "binary cross-entropy loss" = −log-likelihood. Logistic regression ve tek katmanlı bir sigmoid sinir ağı matematiksel olarak tamamen aynıdır. Fark: isim, framework ve ölçek.

Yasal modellerde MLE ve katsayı güveni: MLE sadece β tahmini değil, aynı zamanda standart hataları ve Wald istatistiklerini üretir. Bu, her katsayının anlamlılığını test etmeye yarar. Düzenleyici dokümantasyonda "katsayı anlamlı mı?" sorusu, MLE'nin standart hata hesabından doğrudan gelir.

düzenleyici dayanak

IRB PD standardı EBA/GL/2017/16 yorumlanabilirlik

Lojistik regresyon, yorumlanabilir PD modellerinde yaygın bir temel yöntemdir — çünkü çıktısı doğrudan olasılığa eşlenir, WoE ile birlikte monotonluk sağlanabilir ve her katsayının anlamlılığı (Wald) belgelenebilir. EBA, risk sürücülerinin ekonomik gerekçesini ve istikrarını ister (EBA/GL/2017/16); bu yüzden daha karmaşık modeller IRB’de ek açıklanabilirlik, istikrar ve yönetişim kanıtı; yönetsel skorlamada ise kullanım-amacı kontrolleri gerektirir — bu gerilime Katman X'te döneceğiz.

EBA/GL/2017/16 (PD modeli, risk sürücüsü) · CRR IRB · SR 26-2 · BDDK İDD

tipik hata

Yaygın yanılgı: "Lojistik regresyon bir sınıflandırma algoritmasıdır." Teknik olarak yanlış — lojistik regresyon olasılık tahmin edicisidir. Çıktısı P(y=1|x). Sınıflandırma kararı (0 veya 1) için bir eşik değeri (cut-off) seçmeniz gerekir — bu model değil, iş kararıdır. "Model temerrüt eşiği %50 dediyse..." diye başlayan cümle çoğu zaman hatalıdır.

İkinci yanılgı: β₁'i "etki büyüklüğü" olarak okumak. β₁ log-odds değişimidir — 0.5 değeri "tahmin %50 artar" demez. Odds oranına çevrilmesi gerekir: e^0.5 ≈ 1.65. Doğru okuma: "Bu özellik 1 birim artınca temerrüt odds'u ~%65 artar." Olasılığın kaç puan değişeceği ise başlangıç seviyesine bağlıdır — doğrudan olasılık değişimi için marginal etki hesaplanmalı.

Katman VI tamamlandı. Lineer ve lojistik regresyon — model dilinin temelini koyduk. Katman VII'de bu çıktıyı karara dönüştürmek var: skor, olasılık, eşik ve confusion matrix.

Sıradaki bölüm · Katman VII · 18

Skor, Olasılık, Karar: Üç Farklı Katman

→