Bounded Agent Nedir? Regüle Kurumda AI'ın Tek Kabul Edilebilir Hali

Bir bankanın uyum müdürüne 'size her şeyi yapabilen bir AI kuracağız' dediğinizde duyduğu şey şudur: 'denetleyemeyeceğiniz bir risk kuracağız.' Haklıdır da. Genel amaçlı, sınırsız erişimli bir model, regüle bir ortamda cevaplanamayan tek bir soru bırakır: bu sistem dün gece neye erişti?

Bounded agent yaklaşımı bu soruyu sorulmadan cevaplar. Her ajan üç şeyle tanımlanır: görevi (ne yapar), yetki çerçevesi (neye erişebilir) ve onay kapıları (hangi eylemler insana sorulur). Bu üçlü, ajan koduna sonradan eklenen bir filtre değil; mimarinin kendisidir.

Pratikte bu şu demektir: MASAK izleme ajanımız işlem akışını okuyabilir ama tek bir hesaba dokunamaz. Rapor ajanımız denetim izini okuyabilir ama ham müşteri verisi istediğinde maskeli görünüm alır — denemesi de kayda geçer.

İşin ilginç tarafı, sınırların ajanı zayıflatmamasıdır. Tam tersine: dar görev tanımı, ajanın kendi alanında derinleşmesini sağlar. Her tebliği okuyan bir ajan, her şeyi bilen bir modelden daha isabetlidir.

Kurumunuz AI ajanlarını değerlendirirken sorulacak ilk soru 'ne kadar zeki' değil, 'sınırı nerede ve sınırı kim zorluyor' olmalı. İkincisinin cevabı yoksa, birincisinin önemi yok.