Yapay zeka okuryazarlığı: neden herkes anlamalı?
Bir ajanı denetleyen zincirin her halkasında bir insan var: onay veren, izleyen, durduran. Bu ders, o insanların ajanı “anlaması”nın neden yönetişimin görünmez ön koşulu olduğunu, yapay zeka okuryazarlığının EU AI Act ile nasıl bir yükümlülüğe döndüğünü ve kurumda rol bazlı bir okuryazarlık programının nasıl kurulacağını anlatır.
Okuryazarlık nedir, ne değildir?
Yapay zeka okuryazarlığı, bir ajanın ne yapabildiğini, nerede ve neden yanıldığını, hangi riskleri taşıdığını ve çıktısına ne zaman güvenilmeyeceğini anlama yeteneğidir. Kod yazmayı, model eğitmeyi ya da teknik derinliği gerektirmez. Gerektirdiği şey daha temeldir: bir ajanın önerisine bakıp “bu makul mü, bunu neye dayanarak söylüyor, burada durup sormalı mıyım?” diyebilmek. Okuryazarlık bir mühendislik becerisi değil, bir muhakeme becerisidir; ve tam da bu yüzden kurumdaki herkesi ilgilendirir.
Neden ajan yönetişiminin ön koşulu?
Bu akademideki her mekanizma — envanter, en az yetki, insan onayı, izleme, acil durdurma — nihayetinde bir insanın “bu normal değil” diyebilmesine bağlıdır. Döngüde bir insan bulundurmak (human-in-the-loop) tek başına yeterli değildir; o insan anlamıyorsa, onay adımı bir güvenlik önlemi değil, yalnızca bir tıklamadır. Ajanların yol açtığı gerçek olayların çoğunda korkuluk kâğıt üzerinde vardı; eksik olan, o an ekranın başındaki kişinin neye baktığını anlamasıydı.
Artık bir yükümlülük: EU AI Act m.4
Yapay zeka okuryazarlığı bir “iyi olurdu” konusu olmaktan çıktı. EU AI Act'in 4. maddesi, 2 Şubat 2025'ten itibaren yapay zeka sistemlerini geliştiren (sağlayıcı) ve kullanan (uygulayıcı) kuruluşların, sistemle çalışan personelinin ve sistemi onların adına işleten kişilerin yeterli düzeyde yapay zeka okuryazarlığına sahip olmasını sağlamak için gerekli önlemleri almasını zorunlu kılar. Türkiye tarafında KVKK'nın üretken yapay zeka rehberleri de kurumların ne işlediğini bilmesini ve şeffaf biçimde anlatmasını bekler — ki bu da ancak okuryazar bir organizasyonda mümkündür. Bu tarih ve yükümlülüklerin nereye doğru gittiğini Mevzuat Radarı'ndan takip edebilirsiniz.
Nasıl kurulur: rol bazlı, katmanlı bir program
Herkese aynı eğitimi vermek hem israf hem etkisizdir. İşe yarayan yaklaşım katmanlıdır: yönetim için risk, sorumluluk ve stratejik kararlar; operasyon ekipleri için günlük kullanım, onay anlarında nelere dikkat edileceği ve nasıl durdurulacağı; hukuk ve uyum için yükümlülükler, aydınlatma ve aktarım rejimi; ve tüm çalışanlar için temel farkındalık — ajan nedir, neyi paylaşmamalı, şüpheli çıktı görünce ne yapmalı. Program bir kerelik bir sunum değil, tekrarlanan ve ajan envanteriyle güncellenen canlı bir süreçtir.
- Okuryazarlık kod yazmak değil, ajanı sorgulayabilme muhakemesidir.
- Onay, izleme ve durdurma ancak okuryazar bir insanla gerçek korkuluğa dönüşür.
- EU AI Act m.4 (2 Şubat 2025'ten beri) okuryazarlığı bir yükümlülük yaptı.
- KVKK'nın şeffaflık beklentisi de kurumun ne yaptığını anlamasını gerektirir.
- Program rol bazlı, katmanlı ve tekrarlanan bir süreç olmalı.
Ekibiniz ne kadar okuryazar?
Olgunluk testi, beş ilkede — şeffaflık ve hesap verebilirlik dahil — nerede durduğunuzu ve nereye yatırım yapmanız gerektiğini gösterir.