Adalet Ölçütleri ve Grup Karşılaştırmaları
Farklı adalet ölçütleri neden aynı sonuca işaret etmeyebilir?
Kavram
Adalet değerlendirmesi kararın bağlamına ve etkilediği kişilere dayanır. Demografik parite grupların olumlu karar oranlarını, eşit fırsat ise olumlu sonuca uygun kişilerde olumlu karar oranlarını karşılaştırır. Equalized odds hem gerçek pozitif hem yanlış pozitif oranlarını içerir.
18–19. modüllerde risk skoru yükseldikçe risk artıyordu. Burada kredi değerlendirme skoru kullanılıyor: yüksek skor daha düşük risktir. Eşik yönünün açıkça belirtilmesi bu nedenle önemlidir.
Bir örnek üzerinden
Bu sentetik kredi örneğinde yüksek skor daha düşük risk anlamına gelir ve eşik üstü onaylanır. Grupların olay oranları farklıdır; skor dağılımları sınıf içinde aynı varsayılmıştır. Eşit onay oranı sağlamak için eşikleri değiştirmek diğer ölçütlerde fark oluşturabilir.
Görsel üzerinden
Onay oranı farkı, onay oranlarının küçük/büyük oranı, iyi sonuçlu kişilerde onay oranı farkı ve onaylananların olay oranı farkı ayrı ayrı gösterilir. Sonuncusu kalibrasyon değildir; çünkü aynı tahmin olasılığındaki gerçekleşmeler karşılaştırılmamaktadır.
Yorumlama
Tek oran, kararın adil veya hukuka uygun olduğunu kanıtlamaz. Gruplar arası sonuç farkları ve ölçüm hataları birlikte incelenmelidir. Sayfadaki renkler ve 0,80 referansı örnek tarama göstergeleridir; evrensel kabul veya hukuki uygunluk sınırı değildir.
Kapsam ve okuma
Bu modülün görselleri öğretim amaçlıdır. İlgili okuma: Fairlearn · Adalet ölçütleri. Açıklamalı kaynak dizini →