Fairness, Bias & Etik AI
Bu bölümün sonunda
- Demografik parite, eşit fırsat ve grup kalibrasyonunu ayırmak
- Taban oranı farkında metrik çatışmalarını görmek
- Fairness analizini hukuk, veri ve iş bağlamıyla birlikte yürütmek
fairness çatışmaları: hangi koşulda hangi metrikler birlikte sağlanamaz?
Fairness, makine öğrenmesinde matematiksel olarak birden fazla tanıma sahiptir. Farklı taban oranlarında kalibrasyon ile belirli hata-oranı eşitlikleri, kusursuz tahmin gibi özel durumlar dışında birlikte sağlanamaz. Chouldechova (2017) ve ilişkili çalışmalar bu çatışmayı belirli metrik kümeleri için gösterir.
Demografik parite gruplarda pozitif karar oranını; eşit fırsat seçilen olumlu sınıf için TPR eşitliğini; grup kalibrasyonu ise aynı tahmin düzeyinin gruplarda aynı gerçekleşme oranına karşılık gelmesini inceler. Hangi metriklerin çatıştığı etiket yönüne, skor–karar ayrımına ve taban oranı koşullarına bağlıdır.
artifact — fairness çatışma görselleştirici
İki grup farklı popülasyon temerrüt oranına sahip. Tek Eşik modunda: her iki gruba aynı skor eşiği uygulanır. Eşit Onay modunda: onay oranlarını eşitlemek için farklı eşikler kullanılır. Her iki durumda dört fairness metriği ne yapıyor?
bankacılıkta fairness: hukuki çerçeve ve pratik
Türkiye’de ayrımcılık ve kişisel veri kuralları kredi süreçleri için bağlayıcı çerçeve oluşturur; hangi korunan özelliğin hangi amaçla işlenebileceği somut hukuki dayanak ve kullanım bağlamında değerlendirilmelidir. Ama dolaylı ayrımcılık daha zordur: korelasyon üzerinden korunan özelliği öğrenen modeller yasal risk taşır.
Posta kodu, mağaza kategorisi, bazı davranışsal özellikler — gelir veya etnisite ile yüksek korelasyonlu "proxy değişkenler" olabilir. Model bu değişkenleri kullanırken farkında olmadan ayrımcılık yapıyor olabilir.
düzenleyici dayanak
Adillik bir etik tercih değil, giderek sertleşen bir yasal alandır. ABD’de ECOA/Regulation B ayrımcılığı yasaklar; disparate-impact analizi güncel hukuk ve kurum rehberiyle birlikte yürütülmelidir. AB AI Act’te doğal kişilerin kredi değerliliği veya kredi skoru için kullanılan ve istisna dışında kalan AI sistemleri Annex III kapsamında yüksek risklidir; GDPR Madde 22 ise yalnızca otomasyona dayanan ve hukuki veya benzer önemli etki doğuran kararlar için korumalar getirir. Korunan özniteliği (cinsiyet, etnik köken) modele koymamak yetmez — vekil değişkenler (proxy) üzerinden dolaylı ayrımcılık test edilmelidir.