AI Risk & Validation Framework · 23

Banka Use-Case Atlası

Müşteri asistanı, kredi karar desteği, kod üretimi ve operasyon ajanı aynı test paketiyle değerlendirilemez. Etkilenen karar, veri ve işlem yetkileri değerlendirme kapsamını belirler.

atlas mantığı: teoriden sahaya

Yirmi iki modül boyunca araçları tek tek işledik. Bu modül onları birleştiriyor: dört gerçek banka use-case'inde, hangi risklerin öne çıktığını, tipik olarak hangi bulguların çıktığını ve ilk sorulacak challenge sorularını topluyor. Bir haritacı gibi düşün — her use-case bir bölge, her bölgenin kendine özgü arazisi var. Deneyimli validator, dosyayı açmadan önce o bölgede nereye bakacağını bilir.

Atlasın değeri iki yönlü. Pratik: yeni bir dosya geldiğinde "bu use-case tipinde tipik olarak şuraya bakılır" refleksi, hem hızlandırır hem kör nokta bırakmaz. Pedagojik: aynı use-case'te birden çok modülün nasıl birleştiğini görmek, araçların soyut değil bağlantılı olduğunu gösterir — kredi skorunda fairness (07) + IRB bağı (Capital serisi) + AI Act high-risk (19) + izleme (18) aynı anda devrededir.

Uyarı: bu bir kontrol listesi değil, bir başlangıç haritasıdır. Her gerçek dosya kendi özelliklerini taşır; atlas "tipik olarak nereye bak" der, "sadece buraya bak" demez. Şablonculuk (Modül 10'un scoping tuzağı) atlas kullanımının da riskidir — atlası düşünmeyi başlatmak için kullan, bitirmek için değil.

dört use-case: sekmelere tıkla

AI Credit Scoring
high-risk · IRB
AML Monitoring
tespit · alarm
Müşteri Chatbot'u
GenAI · RAG
Doküman İşleme
IDP · çıkarım

ortak desenler: dört use-case, tek disiplin

Atlas dört farklı arazi gösterdi ama altlarında ortak bir jeoloji var. Dört use-case'i yan yana koyunca beliren desenler, aslında serinin özetidir:

1 · Hata-zarar mesafesi tier'ı belirler. Kredi skoru ve AML doğrudan müşteri/yasal sonuç üretir (yüksek tier); chatbot ve doküman işleme çoğunlukla insan aracılıdır (orta) — ama otonomi eklendiğinde (chatbot işlem başlatırsa, doküman çıkarımı otomatik karara beslenirse) mesafe kapanır ve tier yükselir (Modül 09/17). Use-case'in adı değil, otonomisi risk belirler.

2 · "Klasik + AI" katmanı her yerde. Kredi skoru mevcut skorkart/kredi modeli standardına ve gerçekten IRB kullanımındaysa IRB gerekliliklerine; AML mevcut senaryo kurallarına; doküman işleme veri kalitesi kontrollerine bağlanır. Hiçbir AI use-case'i boşlukta değil. Modül 13'ün köprüsü her use-case'te devrededir — AI validasyonu klasiği değiştirmez, üstüne katman ekler.

3 · Regülasyon haritası use-case'e göre değişir. Gerçek kişilerin kredi değerliliğini belirleyen veya kredi skorunu oluşturan AI, dolandırıcılık tespiti istisnasıyla, AI Act Annex III kapsamında high-risk olabilir. AML izleme ise ağır sektör mevzuatına tabidir fakat yalnız "AML" adı taşıdığı için doğrudan Annex III high-risk sayılmaz. Chatbotta Art. 50 şeffaflığı, doküman işlemede ise çıktının beslendiği karar önem kazanır. Sınıflandırmayı kullanım amacı ve değer zinciri üzerinden yap.

Kullanım senaryosu, hangi risk yollarına öncelik verileceğini gösterir. Hazır bir kontrol listesi başlangıç sağlayabilir; gerçek sistemin verisi, yetkileri ve kullanım koşulları ayrıca incelenir.

Kullanım senaryosuna göre risk

Müşteri asistanı, kredi karar desteği, kod üretimi ve operasyon ajanı aynı test paketiyle değerlendirilemez. Etkilenen karar, veri ve işlem yetkileri değerlendirme kapsamını belirler.

Senaryolar arasındaki ortak yöntem; zarar yolunu tanımlamak, uygun kanıtı toplamak ve kalan belirsizliği kullanım sınırlarına yansıtmaktır. Buradaki örnekler gerçek bir kurumun değerlendirme sonuçları değildir.

anahtar çıkarımlar

use-case tipi başlangıç haritasıdır, kontrol listesi değil
Atlas "tipik olarak nereye bak" der, "sadece buraya bak" demez. Her dosya kendi sürprizini taşır; atlas düşünmeyi başlatır, bitirmez. Şablonculuk atlas kullanımının da tuzağıdır.
use-case adı değil, otonomisi risk belirler
Aynı chatbot, öneri modunda orta, işlem başlatınca yüksek tier. Hata-zarar mesafesi kapandıkça risk artar — Modül 09/17'nin ilkesi her use-case'te geçerli.
her ai use-case'i bir klasik dünyanın üstüne biner
Kredi skoru mevcut kredi modeli standardına ve varsa IRB'ye, AML senaryo kurallarına, doküman işleme veri kalitesine bağlanır. AI validasyonu klasiği değiştirmez, katman ekler (Modül 13).
tekrar eden bulgu, politikaya çevrilir
Üç dosyada çıkan bulgu tekil değil sistemik desendir; standart evidence gereksinimine dönüşür. Böylece bulgu bir kez yakalanmak yerine baştan önlenir — kurumsal kapasite böyle büyür.
Uygulama örneği · kurgusal vaka

karar masası: Portföyde hangi dosya önce?

Senaryo: Aynı ay üç talep geliyor: kredi limitini maddi etkileyen yeni ML skoru, yüksek hacimli AML alarm önceliklendirme değişikliği ve yalnız çalışanlara açık doküman özetleyici. Ekip bir tam, bir hedefli validasyon yapabilecek.
Örnek değerlendirmeyi aç
DeğerlendirmeTam validasyonu karar etkisi, düzenleyici bağ ve geri döndürülemez zarar nedeniyle kredi skoruna ayır. AML değişikliğini kaçırma/alarm kapasitesi ve değişiklik kapsamına göre hedefli incele; doküman özetleyiciyi veri hassasiyeti ve downstream kullanımıyla hafif inceleme/izlemeye al. Yeni kanıt planı değiştirebilir.
Gerekli kanıtHer use-case için etkilenen kişi/hacim; otonomi ve downstream karar; hukuki/sektörel bağ; son değişiklik; hata maliyeti; insan kontrolü; veri hassasiyeti; olay sinyali; mevcut validasyon ve kapasite tahmini.
Karar kaydıPortföy önceliklendirme notu: seçilen yaklaşım, gerekçe, yapılmayan testler, ertelenen artık risk, geçici kontroller, kaynak ihtiyacı ve planı değiştirecek tetikleyiciler.