Görev tanımı ve sınırlar
Envanteri çıkardınız; sıra her ajana “ne yapabilir, ne yapamaz” demeye geldi. Bu derste yürütme kontrolü kaybını, en az yetki ilkesini ve görev tanımının dört parçasını öğrenecek, yasağı kâğıttan sisteme nasıl taşıyacağınızı göreceksiniz.
Hedef vermek yetmez, sınır gerekir
Uluslararası literatürün “yürütme kontrolü kaybı” dediği şeyi vakada görürsünüz: ajan kötü niyetli değildir, hedefine fazla sadıktır. Hedef belirsiz, bağlamsal sınırlar boş bırakılınca, sistem teknik olarak mümkün olan ama sizin hiç öngörmediğiniz yolları seçer. Buna sessiz kapsam genişlemesi eşlik eder; hiçbir adım tek başına alarm çaldırmaz, toplamı felakettir.
Görev tanımının dört parçası
Her ajan için tek sayfalık bir belge yeter: amaç beyanı (KVKK m.4'teki amaçla sınırlılığın ajan dilindeki karşılığı), izinli eylemler (beyaz liste — listede olmayan yoktur), yasaklı eylemler (kara liste — çünkü belirsiz alanları ajan kendi lehine yorumlar) ve eskalasyon kuralları (hangi durumda durup insana sorar).
- Hedef verip sınır vermezseniz ajan kendi sınırını çizer.
- Dört parça: amaç, izinli eylemler, yasaklı eylemler, eskalasyon.
- Kara liste, belirsizliği ajanın lehine yorumlamasını engeller.
- Yasağı sisteme taşıyın; “en pahalı hata” testini uygulayın.