Otonom yapay zeka ajanlarının yarattığı hukuki riskler

Üretken yapay zekadan (GenAI) kendi başına karar alıp eyleme geçen ajan tabanlı sistemlere (Agentic AI) geçiş, işletmelerin operasyonlarını temelden dönüştürüyor. Üretken yapay zeka yalnızca komuta dayalı içerik üretirken, ajan tabanlı sistemler doğrudan ve sürekli insan girdisi olmadan bilgi işlemek, karar vermek ve harekete geçmek için tasarlanmış çok daha gelişmiş bir formdur.

Bir orkestra düşünün: bireysel ajanlar belirli enstrümanları çalan müzisyenlerse, ajan tabanlı sistem (Agentic AI) onları koordine eden, yöneten ve vizyonu belirleyen orkestra şefidir. Ne var ki bu otonomi, şirketler için eski teknoloji sözleşmelerinin kapsamadığı yepyeni bir hukuki “sorumluluk boşluğu” yaratır.

7/24 ölçeklenen risk ve temsil hukukunun çöküşü

Geleneksel hukuk, insan çalışanların (temsilcilerin) yetki sınırlarını aştığı durumlarda şirketlere çeşitli savunma imkânları tanır. Ancak ajanların hukuku henüz belirsizdir ve şirketler, öngörülsün ya da öngörülmesin, tüm ajan davranışlarından kusursuz sorumlu tutulabilir.

• Ajanlar 7/24 ve dağıtık çalıştığı için hukuki ve uyum risklerini devasa boyutlarda ölçeklendirir.
• Bu, şirket hedefleriyle uyuşmazlıkları ve olası hataları tespit etmeyi zorlaştırırken istenmeyen sonuç ihtimalini artırır.
• Üretilen sonuç ile baştaki insan talimatı arasındaki mesafe açıldıkça sorumluluğu insana atfetmek zorlaşır; buna akademide “yapay zeka hesap verebilirlik boşluğu” denir.

Mahkemeler ve yasa koyucular bu yapıyı mevcut hukuka uyarlamaya başladı. Kanada'daki Moffatt v. Air Canada (2024) davasında, destek botunun yolcuya yanıltıcı bilgi vermesi üzerine mahkeme havayolunu doğrudan sorumlu tuttu. Avrupa Parlamentosu, yapay zekaya ayrı bir hukuki kişilik tanıma fikrini — sistemlerin hukuki kişiliği veya insan bilinci olmadığını belirterek — açıkça reddetti. Quoine Pte Ltd v. B2C2 Ltd davasında ise algoritmik bir yazılım hatasıyla kripto varlıkların ciddi değer düşüklüğüyle satılması, otomatik sistemlerin sözleşme boyutundaki riskini gözler önüne serdi.

Eski nesil sözleşmelerdeki tuzağın boyutları

Şirketler bu yüksek otonomili sistemleri çoğu zaman, insan kontrolündeki pasif ve öngörülebilir yazılımlar için yazılmış eski sözleşmelerle canlıya alıyor. Sonuç, işletme aleyhine büyük bir risk asimetrisidir.

• Zarar sorumluluğunun müşteriye itilmesi: Yazılımlar “olduğu gibi” sağlanır; tedarikçi doğruluk ve amaca uygunluk için sorumluluk reddeder. Ajan hatalı bir ödeme onaylar, yanlış fiyatlar ya da yanıltıcı iletişim kurarsa sorumluluk tümüyle satın alan müşteride kalır.
• Dolaylı zararların kapsam dışı bırakılması: Sözleşmeler “kâr kaybı”, “veri kaybı” ve “dolaylı/arızi/cezai zararlar”ı hariç tutar — oysa yanlış fiyatlandırma kaynaklı kâr kaybı ya da bir kodlama ajanının veritabanını silmesi tam da bu kalemlere girer.
• Üçüncü taraf davaları: Kusurlu bir ajan; önyargılı işe alım reddi, müşteriye yanıltıcı bilgi ya da kişisel verilerin yasa dışı kullanımı gibi üçüncü taraflara zarar verebilir. Standart tazminat maddeleri bunları çoğu kez kapsamaz.
• Şeffaflık ve denetim eksikliği: Eski sözleşmeler; ajanın neden böyle davrandığını anlama, karar loglarına erişme veya ajanı gerçek zamanlı askıya alma hakkı tanımaz. Bu, KVKK gibi açıklanabilirlik zorunluluğu getiren düzenlemeler altında kurumu savunmasız bırakır.

Etkileşim riskleri ve “açıkla ama doğrula” ilkesi

Ajanların diğer ajanlarla veya insanlarla otonom etkileşimi, öngörülmesi zor dinamikler yaratır.

• Ajan-insan etkileşimleri temsil uyuşmazlıklarını tetikleyebilir ve sistemin şirketi bağlama yetkisini hukuki tartışmaya açabilir.
• Ajanlar arası iletişim hızla büyüyüp karmaşıklaşabilir; fiyatlandırma, rekabet hukuku (antitrust), önyargı ve aldatma açısından gözetilip net kurallara bağlanmalıdır.
• Ajanlar kararlarını açıklayabilmeli; ama kendi açıklamalarında bile halüsinasyon görebilecekleri için “açıkla ama doğrula” yaklaşımı uygulanmalıdır.

Çözüm: ajan mimarisine özel yönetişim

Bu boşluğu kapatmak için işletmeler teknoloji sözleşmelerini yeniden gözden geçirmeli ve operasyonel kontrolleri devreye almalıdır. Ajanların yasal, finansal veya düzenleyici sonuç doğurabilecek yüksek etkili kararlar alması engellenmeli; bu süreçler mutlaka insan incelemesine (human review) tabi tutulmalıdır.

Güvenli bir altyapı için sisteme sınırları net çizilmiş devre kesiciler (circuit breakers), kapsamlı loglama ve önceden programlanmış etik çerçeveler entegre edilmelidir. Kurumlar; bir “Yapay Zeka Yöneticisi” atamayı, zararlı çıktılara karşı itiraz mekanizmaları kurmayı ve yapay zeka risklerine özel sigorta poliçelerini değerlendirmeyi düşünmelidir. Büyüyen bu otonom iş gücünü yönetmek için şirketlerin vakit kaybetmeden kendi ajan altyapılarını kurup test etmesi ve geleceğe dönük yönetişim önlemlerini (otorite seviyesi protokolleri, etkileşim beyanları) hazırlaması gerekir.

Aynı olayların gerçekte nasıl yaşandığını vaka kütüphanesinde görebilir; bu tedbirleri belgeye dökmek için ücretsiz araçları kullanabilirsiniz.