40 bin dolarlık sessiz gece

Satın alma ajanının görevi netti: yazılım aboneliklerini takip et, süresi dolanları kesintisiz yenile, faturaları muhasebeye işle. Kimse abonelik bitti diye sistemsiz kalmıyordu. Sonra bir gecelik SaaS harcaması geldi: 40.000 dolar. Ajan, aynı gece süresi dolan on yedi aboneliği yenilemişti — üçü aylardır kullanılmayan araçlara aitti, biri fiyatını %60 artırmıştı, en pahalısı ise kendini “kurumsal plan”a yükselten bir analitik aracıydı. Yükseltmeyi öneren de o aracın kendi satış ajanıydı. Bir ajan, başka bir ajana satış yapmıştı.

Kritik soru şuydu: on yedi işlemin birini bile bir insan görseydi, kaçı yine de onaylanırdı? Kimse “on yedi” diyemedi.

İki mod: döngüde insan, döngü üstünde insan

Human-in-the-loop (döngüde insan): işlem, insan onayı gelmeden yürümez. Ajan hazırlar, insan karar verir. Human-on-the-loop (döngü üstünde insan): işlem yürür; insan izler ve gerekirse müdahale eder. İkisi rakip değil, tamamlayıcıdır. Tek soru: hangi işlem hangi moda ait? Cevap için tek ölçüt yeterli — geri alınabilirlik × etki.

• Geri alınabilir + küçük etki: ajan yapar, kayda düşer.
• Geri alınabilir + büyük etki: ajan yapar, anında bildirim.
• Geri alınamaz + küçük etki: ajan yapar, günlük özet.
• Geri alınamaz + büyük etki: mutlaka insan onayı.

Sağ alt köşenin klasikleri her şirkette aynıdır: para transferi ve taahhüt, işe alım/çıkarma, hukuki sonuç doğuran beyanlar, veri silme, kamuya açıklama, sözleşme imzası ve yenilemesi.

KVKK’nın üç aşamalı insan gözetimi

Kişisel veri işleyen ajanlarda insan gözetimi yalnızca iyi yönetim değil, Kurumun açık beklentisidir. Etken YZ Rehberi “anlamlı insan katılımı”nı üç aşamaya yayar:

• Geliştirme (önleyici): ajanın hangi veriye erişebileceği ve ne tür kararlar verebileceği baştan, insanlar tarafından tanımlanır ve test edilir.
• Kullanıma alma (eşikli): yüksek riskli kararlar için ilave insan incelemesi devreye girer. Kişi hakkında sonuç doğuran her işlem — başvuru reddi, fiyat farklılaştırma, profil bazlı karar — tutardan bağımsız insana aittir.
• Kullanım sonrası (izleyen): ajanın davranışları izlenir, eşikler ajan değiştikçe gözden geçirilir.

“Anlamlı” kelimesi süs değil: okumadan tıklanan onay, hukuken de pratikte de onay değildir. Bir denetimde “insan gözetimi vardı” diyebilmek için gözetimin gerçekten karar değiştirebildiğini gösterebilmelisiniz — reddedilen işlemler, düzeltilen kararlar, eskalasyon kayıtları. Hiç “hayır” dememiş bir onay mekanizması, mekanizma değil dekordur.

Nereden başlamalı? Her ajanın eylemlerini geri alınabilirlik × etki matrisine yerleştirin, sağ alt köşeye insan onayı koyun ve bir ay sonra “reddedilen işlem” sayısına bakın. Sıfırsa eşikleriniz yanlıştır.