AI Risk & Validation Framework · 10

Validasyon Yaşam Döngüsü ve Scoping

İlk değerlendirme, önemli değişiklikler, düzenli izleme ve kullanım sonlandırma aynı kayıt zincirinin parçalarıdır. Kapsam, amaç ve sürüm değiştiğinde eski görüşün geçerliliği yeniden ele alınır.

tek olay değil, döngü

Zayıf model risk fonksiyonlarının ortak deseni: validasyonu bir olay gibi yaşamak — sistem gelir, test edilir, rapor yazılır, dosya kapanır. Bu desen klasik modellerde bile sorunluydu; AI sistemlerinde ciddi bir kontrol açığıdır. Modül 01'in dersini hatırla: AI onayı yaşayan bir karardır — izleme eşikleri ve geri çekilme koşullarıyla ayakta durur. Yaşayan kararın altyapısı da yaşayan bir süreçtir: yaşam döngüsü.

Yaşam döngüsü, tarafların hangi aşamada hangi kanıtı sağlayacağını görünür kılar. Standart çıktılar, sorumlular ve izlenen süreler süreçteki belirsizliği azaltır. Bir kaydın tamamlanması ile yeterli teknik incelemeden geçmiş olması ayrı değerlendirilir.

yedi aşama: her birine tıkla

Aşağıdaki döngü, bir AI sisteminin validasyon fonksiyonuyla temas ettiği yedi aşamayı gösteriyor. Her aşamada üç şeye bak: ne üretilir, tipik hata nedir, hangi karar gerekir.

1
Intake & kayıt
Sistem envantere düşer, tier atanır, sahiplik netleşir
2
Planlama & scoping
Kapsam, yaklaşım, derinlik kararı — validasyon planı yazılır
3
Yürütme
Evidence review + bağımsız testler + challenge oturumları
4
Bulgular & rapor
Bulgular derecelendirilir, rapor yazılır, görüş oluşur
5
Review & sign-off
İlk seviye review ilgili — görüş komiteye gider
6
BAU: izleme & issues log
Eşikler izlenir, bulgular takip edilir, değişiklikler değerlendirilir
7
Revalidation / retirement
Tetikleyici veya takvimle döngü yeniden başlar — ya da sistem emekli edilir
Döngünün en çok atlanan aşaması sonuncusudur: retirement. Kullanımdan kalkan sistem envanterde "aktif" görünmeye devam eder, izleme raporları boşa üretilir — ya da tersi, sistem sessizce kapatılır ama ona bağımlı downstream süreçler fark edilmez. Emeklilik de bir onay sürecidir: bağımlılık analizi, veri arşivleme, envanter güncellemesi.

scoping matrisi: tetikleyici seç, kapsamı gör

Kapsam belirleme; tetikleyiciyi, risk kaydını ve değişikliğin etkisini birlikte ele alır. İncelenen ve kapsam dışında bırakılan alanların gerekçesi yazılır. Aşağıdaki örnekler farklı tetikleyiciler için olası inceleme kapsamlarını gösterir.

tetikleyici → kapsam önerisi
Kapsama girenler
Kapsam dışı + gerekçesi

Üç kapsam türünün mantığı: Full validation her bileşeni bağımsız testten geçirir — pahalı, Tier 1 ve ilk onaylar için. Targeted validation değişen veya riskli bileşenlere odaklanır, kalanını önceki sonuçlara ve evidence'a bağlar — döngünün iş atı. Evidence review bağımsız test içermez; dokümantasyon ve sahibin test sonuçları değerlendirilir — yalnızca düşük risk için savunulabilir. Tür seçiminin altın kuralı: önceki sonuçlara güvenebilmek için, o sonuçları geçersiz kılacak bir değişiklik olmadığını gösterebilmelisin — gösteremiyorsan targeted, targeted'ın sınırları belirsizse full.

Scoping'in dürüstlük testi: raporundaki "kapsam dışı" bölümü boşsa, scoping yapılmamış demektir. Her validasyonda bir şeyler kapsam dışıdır — dürüst rapor bunu gerekçesiyle yazar ("guardrail konfigürasyonu güvenlik ekibinin çeyreklik testine bırakıldı, sonuçları ekte"). Yazılmayan kapsam dışı, denetimde "atlanmış" olarak okunur; yazılan, "yönetilmiş" olarak.

issues log: bulgu deposu değil, yaptırım aracı

Bulgu kaydı; sorunu, önemini, sorumlusunu, hedef tarihini ve kapanış kanıtını ilişkilendirir. Aksiyonun tamamlandığı beyanı, bulgunun bağımsız doğrulanmasıyla aynı değildir. Örnek kayıtlarda inceleme ve kapanış durumları ayrı izlenebilir.

örnek issues log — rag mevzuat asistanı
IDBulguÖnemYaşDurum
V24-031Groundedness eşiği izlemede uygulanmıyoryüksek94 günAçık — 2. erteleme
V24-035Prompt değişiklikleri versiyonlanmıyororta51 günAçık — planlı
V24-036Test seti üretim trafiğini temsil etmiyororta18 günAçık — yeni
V24-029İnceleme kotası dolmuyor (override %0.2)yüksek122 günKapanış bekliyor
V24-040Kaynak gösteriminde eski doküman versiyonudüşük7 günAçık — yeni

Log'un işlediğini gösteren üç sinyal: (1) Yaşlanma disiplini — her önem derecesinin kapanma SLA'sı var ve aşımlar otomatik eskale oluyor; yüksek önemli bulgu kurulum aşamaları sonra hâlâ "açık — 2. erteleme" ise log çalışmıyor. (2) Kapanış kanıtı — "yaptık" beyanı bulgu kapatmaz; kapanış, düzeltmenin test edilmiş kanıtıyla olur ve kapatma yetkisi bulguyu yazanda (sende) kalır, sahibinde değil. (3) Sonuç bağlantısı — kritik bulgular kapanmadıkça onay koşulları devrede kalır; log, komite raporuna beslenir; ısrarlı ertelemeler kullanım kısıtına dönüşür. Yaptırımsız log, şikâyet defteridir.

Yaşam döngüsünde güvence

İlk değerlendirme, önemli değişiklikler, düzenli izleme ve kullanım sonlandırma aynı kayıt zincirinin parçalarıdır. Kapsam, amaç ve sürüm değiştiğinde eski görüşün geçerliliği yeniden ele alınır.

Bulgunun kapanması için aksiyonun tamamlanması ile kontrolün çalıştığının doğrulanması ayrılır. Tarih, sorumlu ve kapanış kanıtı izlenebilir olmalıdır.

anahtar çıkarımlar

validasyon olay değil, döngüdür
Yaşayan onay kararı, yaşayan süreç ister: intake'ten retirement'a yedi aşama, tanımlı çıktılar, izlenen süreler. Retirement da bir onay sürecidir — en çok atlanan aşama odur.
scoping, dürüstlük sanatıdır
Neyi test etmeyeceğine açıkça karar ver ve gerekçesiyle yaz. "Kapsam dışı" bölümü boş rapor, scoping yapılmamış rapordur. Önceki sonuçlara güven, ancak onları geçersiz kılan değişiklik olmadığını gösterebiliyorsan meşrudur.
tetikleyici, kapsamı belirler
Yeni Tier 1 → full; değişiklik → değişenin etki alanına targeted; sorunsuz periyodik → targeted + drift analizi; vendor güncellemesi → golden set regression; olay → kök neden odaklı. Şablon değil, karar.
issues log yaptırımla yaşar
SLA + otomatik eskalasyon, test edilmiş kanıtla kapanış, kapatma yetkisinin validasyonda kalması ve onay koşullarına bağlantı. Bu dördü yoksa log şikâyet defteridir.
Uygulama örneği · kurgusal vaka

karar masası: Kapasite beş dosyaya yetmiyor

Senaryo: Komite beş sistemi incelemeni istiyor; ekip yalnız iki tam validasyon yapabilir. Biri yeni Tier 1 kredi modeli, biri büyük güncelleme alan chatbot, üçü düşük etkili iç araç.
Örnek değerlendirmeyi aç
DeğerlendirmeHer dosyaya eşit derinlik verme. Tier 1’e tam validasyon, chatbot’a hedefli revalidation, düşük araçlara hafif inceleme/izleme seç; ertelenen riski açıkça taşı.
Gerekli kanıtTier/zarar yolu; değişiklik; son validasyon/açık bulgu; olay/drift; vendor; veri/otonomi; efor ve uzmanlık; geçici kontrol.
Karar kaydıRisk bazlı plan: yaklaşım/kapsam gerekçesi, yapılmayan testler, kapasite açığı, artık risk, geçici kontrol ve öne çekme tetikleyicisi.