Microsoft CEO’su Satya Nadella, giderek daha fazla kurumsal yetki ve hassas veri erişimi kazanan yapay zeka sistemlerinde basit güvenlik yaklaşımlarının yetersiz kaldığını savunuyor. Nadella’ya göre özellikle “agentic AI” olarak anılan, görev alıp işlem yapabilen modeller artık yalnızca araç değil, fiilen kurum içi aktörler gibi değerlendirilmek zorunda.
Nadella’nın vurguladığı temel nokta, bu modellerin deterministik olmaması. Yani aynı girdiler verildiğinde her zaman aynı çıktıyı üretmeyebiliyorlar. Bu nedenle, yalnızca modelin düşünce zincirini gösteren chain of thought (CoT) şeffaflığına güvenmek ya da bir AI modelini başka bir AI modeline denetletmek tek başına yeterli görülmüyor. Ona göre bu yaklaşım, birbiri içine geçmiş “kara kutular” yaratma riski taşıyor.
Microsoft CEO’su, modellerin artık en hassas verilere erişebildiğini ve görev açısından kritik işlemleri kullanıcı adına gerçekleştirebildiğini hatırlatıyor. Bu seviyede yetki verilen sistemlerde, yalnızca çıktıların incelenmesi yerine daha güçlü bir denetim ve operasyon çerçevesi kurulması gerektiğini düşünüyor. Nadella’nın yaklaşımında, tutarsız sonuçlar üretebilen modellerin çevresine güçlü ve deterministik sistem tasarımı, insan kontrolü ve güvenilir operasyon prosedürleri yerleştirilmesi gerekiyor.
Bu çerçevede öne çıkan ana kavram “observability” yani gözlemlenebilirlik. Nadella, modelin kendi beyanına dayanarak güven tesis edilemeyeceğini, anlamlı her model eyleminin insanlar tarafından okunabilir ve değiştirilemez kanıt bırakması gerektiğini belirtiyor. Ona göre bir işlem gözlemlenemiyorsa güvenilir de sayılamaz. Ayrıca bir sonucun nasıl ortaya çıktığının, modelin kendi açıklamasına ihtiyaç duymadan yeniden üretilebilir olması gerektiğini savunuyor.
Nadella’nın dikkat çektiği bir diğer başlık ise containment. Buradaki yaklaşım, modelin baştan itibaren tehlikeye girmiş olabileceğinin varsayılması ve buna göre sınırlandırılması. Bu yüzden yetkili bir kişinin modeli görev sürerken durdurabilmesi veya tamamen kapatabilmesi gerektiğini ifade ediyor. Böylece kontrol, yalnızca modelin kendisine bırakılmıyor.
Bağımsız denetlenebilirlik de bu güvenlik yaklaşımının önemli ayaklarından biri. Nadella’ya göre tek bir model, hem sistemin davranışını hem de o davranışın amaçla uyumlu olup olmadığını kanıtlayan verileri aynı anda kontrol etmemeli. Kısacası, daha güçlü AI sistemlerinde güvenlik yalnızca modelin akıl yürütmesini görmekle değil; sınırlandırma, kayıt, insan gözetimi ve bağımsız denetimle sağlanmalı.
