Kurumsal Yapay Zekâ Ajanları: Otonom İş Akışları Nerede Mantıklı, Nerede Değil
„Ajan“ kurumsal yapay zekânın en çok abartılan kelimesidir. Doğru soru „otonom davranabilir mi“ değil, „yanlış davrandığında hasar ne kadar büyük“.
„Yapay zekâ ajanı" şu anda kurumsal yapay zekânın en çok abartılan kelimesidir. Satılan otonomidir. Çoğu durumda gereken çok daha mütevazı bir şeydir — ve iyi haber tam da budur.
Belirleyici soru „sistem otonom davranabilir mi" değil, „otonom ve yanlış davrandığında hasar ne kadar büyük"tür.
Asistan, otomasyon, ajan — üç farklı şey
Bir asistan önerir, insan davranır. Bir otomasyon sabit, öngörülebilir bir akış yürütür. Bir ajan bir hedefe ulaşmak için adımlara, sıraya ve araçlara kendi karar verir.
Çoğu kurumsal problem bir asistan veya bir otomasyon ister. Gerçek ajanlar nadiren doğru cevaptır — ve neredeyse hiçbir zaman doğru ilk adım değildir.
Önemli olan tek soru: blast radius (hasar yarıçapı)
Modellerden konuşmadan önce şunu netleştirin: en kötü durumda ajan yanlış bir karar verirse — ve kimse hemen fark etmezse — ne olur?
- Küçük, geri alınabilir, görünür → bir ajan mantıklı olabilir.
- Büyük, geri alınamaz, görünmez → ajan yok. Model ne kadar iyi olursa olsun, burada döngüye bir insan girer.
Otonomi bir yetenek değil, bir risk konusudur.
Ajanlar nerede mantıklıdır
1. Sınırlı, geri alınabilir görevler
Araştırma derlemek, taslak hazırlamak, veri zenginleştirmek: yanlış bir adım ucuza düzeltilebiliyorsa otonomi gerçek değer taşır.
2. İyi enstrümante edilmiş akışlar
Günlüğü olmayan bir ajan klavyeli bir kara kutudur. Ancak her adım, her araç ve her karar izlenebilir biçimde günlüklendiğinde anlamlı olur.
3. Dar verilmiş yetkiler
Bir ajan yalnızca tam da bu görev için ihtiyaç duyduğunu yapabilmeli. OWASP LLM Uygulamaları Top 10 „aşırı eylem serbestliğini" merkezi bir risk olarak listeler — fazla yetki en yaygın ajan zayıflığıdır.
Ajanlar nereye ait değildir
Geri alınamaz eylemler (ödemeler, silmeler, bağlayıcı müşteri iletişimi), kötü sınırlanmış hedefler ve yabancı, güvenilmeyen girdinin kontrol olarak kullanılması. Bir ajanı serbest metin girdisine bağlayan, onun manipüle edilebilirliğini de otomatikleştirir (bkz. Prompt injection'ı anlamak).
Thoughtworks uyarısı: refleksle benimsemeyin
Thoughtworks Technology Radar yıllardır, yeni desenleri yalnızca mevcut diye refleksle benimsemeye karşı uyarıyor. Ajan tabanlı iş akışları az sayıda, iyi sınırlanmış vaka için güçlü bir araçtır — her problem için varsayılan bir yapı taşı değil. NIST AI Risk Management Framework aynı disiplini tanımlar: önce kontrol ve gözetim, otonomi yalnızca sorumlu olunabilen yerde.
Ajandan önce kontrol listesi
- Gerçekten bir ajana mı ihtiyacımız var — yoksa asistan/otomasyon yeter mi?
- Hata durumunda blast radius küçük ve geri alınabilir mi?
- Her adım günlüklenmiş ve izlenebilir mi?
- Ajanın yalnızca minimal, göreve özgü yetkileri mi var?
- Geri alınamaz eylemler bir insan onayıyla korunuyor mu?
- Yabancı girdi ajanın doğrudan kontrolü değil, değil mi?
- Net bir durdurma ve eskalasyon yolu var mı?
Sık sorulan sorular
Ajanlar sadece hype mı? Hayır ama fazla satılıyor. Dar sınırlı, geri alınabilir, iyi enstrümante edilmiş görevler için güçlüdürler. Her şey için evrensel çözüm olarak pahalı bir vaattir.
Neden ajana tüm yetkileri vermeyelim? Çünkü yetki, hata durumunda hasara eşittir. Minimal yetki bir kısıt değil, asıl güvenlik tasarımıdır.
En yaygın hata nedir? Geri alınabilir bir süreç için asistan/otomasyon yerine, önemli ve geri alınamaz bir süreç için otonom bir ajanla başlamak.
Ajan çalışanların yerini alır mı? Nadiren mantıklı. Daha değerlisi, geri alınabilir ön çalışmayı üstlenen ve kararı insana bırakan ajandır.
Sonuç
Yapay zekâ ajanları bir statü sembolü değil, az sayıda iyi sınırlanmış vaka için bir araçtır. Önce blast radius'u netleştiren, yetkileri minimize eden, her şeyi günlükleyen ve geri alınamaz eylemleri koruyan, otonomiyi taşıdığı yerde kullanır — pahalıya patladığı yerde kullanmaz.
İlgili okuma
- Müşteri Hizmetlerinde Yapay Zekâ: Kontrolü Kaybetmeden Daha Hızlı — müşterinin önünde değil, ekibin arkasında otonomi.
- Prompt Injection'ı Anlamak: Yapay Zekâ Neden Kendi Güvenlik Kontrollerine İhtiyaç Duyar — yabancı girdi neden bir kontrol kanalı değildir.
Sonraki adım
Bir yapay zekâ ajanı kullanmayı mı düşünüyorsunuz? Kısa bir ihtiyaç değerlendirmesiyle başlayın. Blast radius ve yetkileri netleştiririz — ve doğru kaldıracın bir ajan mı yoksa bir otomasyon mu olduğunu.
Kaynaklar
- Thoughtworks, Technology Radar — Techniques — thoughtworks.com
- OWASP, Top 10 for Large Language Model Applications — owasp.org
- NIST, AI Risk Management Framework — nist.gov