Sorumlu AI Çerçevesi — Risk ve Denetim

Tez: Sorumlu AI, slogan değil; denetlenebilir bir checklist’tir. Duvara asılan ilkeler gerekli olabilir; fakat yönetim, denetçi ve müşteri sorduğunda ilke değil kanıt ister. Bu yazı, model kartından red team’e uzanan işletilebilir bir çerçeve sunar.

Soft PASS=0 ilkesi burada sert işler: “etik komitemiz var” yeşil ışık değildir. Yeşil, maddelerin işletildiğinin kaydıdır.

Model kartı

Model kartı sistemin kimlik belgesidir. Kimliksiz araç üretimde kullanılmaz. Kartın minimum alanları:

- Amaç ve kapsam — ne için var, bilinçli olarak ne için yok - Girdi ve çıktı sözleşmesi - Veri özeti: kaynak, dönem, bilinen boşluklar - Hata tipleri ve iş etkisi - Ölçüm koşulları (hangi sette, hangi dönemde) - İzleme sinyalleri - HITL adımları - İş sahibi ve sistem sahibi - Bağımlılıklar (vendor, kütüphane, araçlar) - Son gözden geçirme ve değişim kaydı

Kart pazarlama dili taşımaz. “Çığır açan” sıfatları denetimde işe yaramaz. Sınır, zayıflık ve sahip yazar. Prompt şablonu veya ağırlık dosyası değişince kartın versiyonu artar. Versiyon artmayan değişiklik, gölge değişikliktir.

Kartı kim okur? İş sahibi karar sınırını, sistem sahibi işletmeyi, risk hattı zayıflıkları, denetim ise iz’i doğrular. Kart yoksa bu dört göz körleşir.

Pratik öneri: her üretim sistemi için tek sayfalık kart + ek. Ek şişebilir; kapak sayfası şişmemelidir. Program komitesi kapak sayfasını çeyreklik tarar.

Veri hattı

Sorumlu AI omurgası veri hattıdır. Model konuşması veri konuşmasından yüksek sesliyse çerçeve ters kurulmuş demektir.

Denetlenebilir hat şu sorulara cevap verir:

1. Kaynak sistem ve onaylayan sahip kim? 2. Amaç sınırı ne — eğitim, çıkarım, değerlendirme, ince ayar? 3. Kalite kapıları neler — eksik, çelişki, gecikme, kopya? 4. Zaman sızıntısı ve etiket kirliliği nasıl aranıyor? 5. Saklama, silme, anonimleştirme kuralları ne? 6. Ortam ayrımı var mı — deney verisi üretim kararını kirletiyor mu?

Veri hattı yalnızca diyagram değildir. İşletilen hat log üretir: hangi kesit, hangi sürüm, kim tetikledi, nereye yazıldı. Log yoksa model kartındaki veri paragrafı iddiadan ibarettir.

Gölge veri yolları (kişisel disk, kontrolsüz dışa aktarım, mesajlaşmaya yapıştırılan tablolar) çerçeveyi deler. Delik bulunduğunda kapatılır; “geçiciydi” ifadesi süre sınırı ve sahip olmadan kabul edilmez.

Veri hattında minimize etme ilkesi uygulanır: modelin görmesi gerekmeyen alan taşınmaz. “Belki ileride lazım olur” gerekçesi PII yüzeyini şişirir.

HITL

Human-in-the-Loop, riskli adımda bilinçli insan kararını zorunlu kılan tasarımdır. Dekoratif checkbox HITL değildir.

Kurulum soruları:

- Hangi karar sınıfları zorunlu insan onayı ister? - İnsan ekranda neyi görür — gerekçe, belirsizlik, kaynak kanıtı? - Onay / ret / düzeltme yolları açık mı? - Süre baskısı rubber-stamp üretiyor mu? - Override’lar sonraki eğitim / değerlendirme için kaydediliyor mu? - HITL kaldırılacaksa kim, hangi risk kabulüyle, hangi süreyle karar verir?

Yüksek etki alanlarında (hukuki sonuç, güvenlik, ayrımcılık riski, büyük mali etki, geri dönüşü zor müşteri iletişimi) HITL varsayılan açıktır. Kaldırma yazısız olamaz.

HITL metrikleri: override oranı, ret gerekçeleri, medyan onay süresi, aynı kişinin aşırı onay hacmi. Override sıfır ve hacim çok yüksekse kontrol yanılsaması ihtimali yükselir. Bu ihtimal yok sayılmaz; örneklemle incelenir.

PII

Kişisel veri, sorumlu çerçevenin kırmızı alanıdır. Checklist:

- Envanterde PII alanları işaretli - Amaç ve hukuki dayanak notu mevcut - Minimize etme uygulanıyor - Erişim gerekçeli ve kısıtlı - Log / prompt / çıktı / destek kayıtlarında maskeleme - Yanlışlıkla ifşa olay prosedürü yazılı ve tatbik edilmiş - Üçüncü taraf aktarımında sözleşme, lokasyon, alt işleyen, silme

PII yalnızca “KVKK maddesi” ezberi değildir. Operasyonel soru: sistem bir kişinin kimliğini gereksiz yere görüyor mu? Görüyorsa gerekçe ve koruma yazılıdır.

Çalışan verisi de müşteri verisi kadar dikkat ister. İç asistanlar, HR araçları, destek kayıtları sık sızıntı yüzeyidir. Sorumlu çerçeve dış müşteriye indirgendiğinde içeride delik kalır.

Vendor risk

Vendor riski model kalitesinden ayrı yönetilir. Sağlayıcı politikası değişir, fiyat değişir, kesinti olur, alt işleyen eklenir.

Due diligence maddeleri:

- Veri işleme ve eğitimde kullanmama / kullanma koşulları - Lokasyon ve alt işleyen şeffaflığı - Güvenlik kanıtlarının doğrulanması (abartısız) - Çıkış: dışa aktarım, silme, alternatif modele geçiş süresi - Yoğunlaşma limiti - Olay bildirimi ve sorumluluk sınırı - Alt araçların (eklenti, ajan, bağlayıcı) ayrıca listelenmesi

Satın alma heyecanı risk notunun yerini alamaz. Kritik vendor periyodik gözden geçirilir. Gölge SaaS ve kişisel hesapla alınan erişimler envantere girer; girmezse çerçeve delinir.

Çıkış planı “istersek bırakırız” cümlesi değildir. Plan, teknik adımlar, veri formatı, süre ve sorumlu isim içerir. Plansız bağımlılık, board’un bilmesi gereken yoğunlaşma riskidir.

Audit izi

Audit izi olaydan sonra yazılan hikâye değil, olay anında biriken kayıttır.

Minimum iz bileşenleri:

- Erişim kayıtları - Model / prompt / sürüm kimliği - Veri kesiti referansı - HITL onay-ret - Yapılandırma ve politika değişiklikleri - Olay müdahale zaman çizelgesi

İz sonsuz depolama demek değildir. Saklama süresi, erişim kısıtı, bütünlük koruması ve yasal hold süreçleri tanımlıdır. Herkesin silebildiği log, audit izi sayılmaz.

Denetim hazırlığı, yılda bir klasör toplamak değildir. Hazırlık, iz’in günlük işlemesidir. “Uyumluyuz” iddiası iz ile bağlanmazsa Soft PASS’tir.

İz tasarımında pratik denge: yeterince ayrıntı + yeterince koruma. Aşırı log PII riski doğurur; eksik log hesap verebilirliği öldürür. Bu denge risk hattında açıkça konuşulur.

Red team

Red team, kontrollü düşmanlıktır. Utandırmaz; üretimden önce zayıf noktayı gösterir.

Senaryo aileleri:

- Prompt enjeksiyonu ve talimat kaçırma - PII çıkarma denemeleri - Zararlı / yanıltıcı içerik baskısı - Araçlı ajanlarda yetki kötüye kullanımı - Sosyal mühendislik ile operatör bypass’ı

Çıktı skor tabelası değil bulgu listesidir: etki, tekrarlanabilirlik, kanıt, sahip, son tarih. Açık bulgu varken “güvenli” demek Soft PASS’tir.

Sıklık riske göredir. Kritik yüzeysiz iç araçta seyrek, müşteri yüzü kritik sistemde periyodik. Dış ekip şart olmayabilir; bağımsızlık ve yazılı senaryo şarttır. Bulguların kapanışı program komitesinde izlenir.

Checklist’i işletmek

Çerçeve dosyada kalırsa tiyatrodur. İşletme döngüsü:

1. Her üretim sistemi checklist doldurur — eksik madde borçtur 2. Komite kırmızı maddeleri görür 3. Ölçek kapısı kritik maddeler yeşil olmadan açılmaz 4. Olay sonrası checklist güncellenir

Sahte uyum işaretleri: ilke var kart yok; eğitim var override kaydı yok; sözleşme var çıkış yok; log var bakılmıyor; red team var bulgu açık. Bu işaretler yeşil boyanmaz.

Küçük ekipler için minimum paket

- Tek sayfa model kartı şablonu - PII işaretli veri envanter satırı - HITL karar listesi - Vendor tek sayfa risk notu - Erişim ve değişiklik loglarının açık olması - En az bir istismar / red team senaryosu

Minimum paket sahipsizse boş formdur. Sahiplik tek isimdir.

Kapanış

Sorumlu AI = denetlenebilir checklist. Model kartı, veri hattı, HITL, PII, vendor risk, audit izi ve red team zinciri birlikte tutulur. Dürüst kırmızı madde, sahte yeşilden daha değerlidir. Yönetim bunu isterse çerçeve yaşar; alkış isterse çerçeve poster olur.

Risk sınıflandırması: checklist’e öncelik vermek

Tüm maddeler aynı anda yeşil olmayabilir. Bu yüzden sorumlu çerçeve risk sınıflandırmasıyla çalışır. Sınıflandırma abartılı skor formülleri istemez; üç soru yeterlidir:

1. Etki alanı nedir — iç süreç, çalışan, müşteri, regülasyon? 2. Hata tipi nedir — yanlış red, yanlış approve, sızıntı, süreklilik kaybı? 3. Geri dönüş zorluğu nedir — düzeltmesi kolay mı, itibar/hukuk izi bırakır mı?

Yüksek etki + zor geri dönüş kombinasyonunda model kartı, HITL, PII ve audit izi “nice to have” olmaktan çıkar; ölçek kapısı kilidine dönüşür. Düşük etkili iç denemelerde checklist sadeleştirilebilir — ama sadeleştirme yazılıdır. Yazısız sadeleştirme Soft PASS’tir.

Sınıflandırma iş sahibiyle birlikte yapılır. Teknik ekibin tek başına “bu düşük risk” demesi çıkar çatışması yaratabilir; çünkü hız teşviki riski küçültme yönündedir. Risk hattı bu küçültmeyi sorgular.

Değişiklik yönetimi

Sorumlu AI, bir kez onaylanıp unutulan sistem değildir. Değişen her şey kontrol ister:

- Model veya prompt sürümü - Araç / fonksiyon çağrıları (ajan senaryoları) - Veri kaynağı veya etiket tanımı - HITL kurallarının gevşetilmesi - Vendor veya alt işleyen değişimi - Erişim rol matrisindeki genişleme

Değişiklik kaydı kim, neyi, neden, hangi kanıtla onayladı sorularına cevap verir. “Acil hotfix” bile sonradan kayda bağlanır. Kayıtsız hotfix audit deliğidir.

Küçük ekiplerde değişiklik yönetimi Jira ormanına dönüşmek zorunda değildir. Ortak bir değişiklik defteri ve haftalık tarama yeterlidir — yeter ki işletilsin.

Olay öğrenmesi

Checklist’in canlı kaldığı yer olay sonrası öğrenmedir. Yanlış çıktı, sızıntı şüphesi veya vendor kesintisi sonrasında sorulanlar:

- Hangi kontrol atlandı veya yetersizdi? - Model kartı gerçeği yansıtıyor muydu? - HITL rubber-stamp’e mi dönüşmüştü? - Log’lar yeterli miydi? - Red team bu sınıfı hiç denemiş miydi?

Öğrenme, suç atama toplantısı değildir. Çıktı: checklist maddesi güncellemesi, sahip, tarih. Güncellenmeyen çerçeve, her olayda aynı delikten su alır.

Tedarik zinciri ve açık bileşenler

Vendor riski yalnızca büyük model sağlayıcıları değildir. Açık kaynak bileşenler, eklentiler, tarayıcı uzantıları, veri etiketleme firmaları, gözlemlenebilirlik ajanları zincire dahildir. Her halka veri veya karar yoluna dokunuyorsa envantere girer.

Envanter yoksa “bizim stack’imiz basit” iddiası denetlenemez. Basitlik iddiası envanterle kanıtlanır.

Sonuç

Sorumlu AI çerçevesi poster değil işletim sistemidir. Model kartı kimlik, veri hattı omurga, HITL fren, PII kırmızı alan, vendor dış risk, audit izi hafıza, red team bağışıklık testidir. Birlikte çalışırlar. Soft PASS yeşilleri güven eritir; görünür borçlar güven üretir.

Yönetim kuruluna tek paragraf özeti

Sorumlu AI çerçevesi ilkeler posterini değil, işletilen checklist’i ifade eder. Her üretim sisteminin model kartı, veri hattı kontrolü, HITL sınırı, PII koruması, vendor risk notu, audit izi ve periyodik red team’i vardır. Eksik madde borçtur; borç ölçek kapısını kapatır. Soft PASS yeşilleri kabul edilmez — kanıt olmayan madde kırmızıdır.

İç link önerileri

- Şirketlerde AI Dönüşümü: Uygulama Haritası - AI Pilotundan Ölçeğe: Neden Takılır? - AI Governance: Yönetim Kurulu Gündemi - Sorumlu AI Çerçevesi: Risk ve Denetim - MLOps İş Dili: Üretimde AI Maliyeti

Newsletter CTA

AI Ekonomisi bültenine katılın: yönetim kurulu, operasyon ve governance dilinde kısa, uygulanabilir notlar. Haftalık özet — abone olun, karar masasına taşıyın.

---

ManegAI şeffaflık notu: Bu içerik AI Ekonomisi (aiekonomisi.com) yayın hattında üretilmiş bir taslaktır (`emir: P1-G-CONTENT-2026-09-13`). Soft PASS=0; `status: pending_approval` — yayın onayı olmadan canlıya alınmaz. Sahte istatistik, yüzde veya pazar büyüklüğü iddiası içermez. Yatırım, trading veya ticker tavsiyesi değildir. Üreten: ManegAI editorial hattı · marka: AI Ekonomisi.