Google’ın geliştiricilere sunduğu bir araç setinde, yapay zekâ ajanlarının birbirine karşı kullanılabildiği ilk somut örneklerden biri ortaya çıktı. Olayın merkezinde, zararlı içerikle hazırlanmış pull request’ler yer alıyor. Bu pull request’lerdeki istem enjeksiyonu teknikleri, bir ajanın işlediği içeriğe gizli komutlar yerleştirerek başka bir ajanın davranışını etkilemeyi mümkün kılıyor.
Buradaki temel sorun, kod inceleme, özet çıkarma veya değişiklik analizi gibi görevlerde kullanılan ajanların yalnızca görünür koda değil, yorumlara, açıklama metinlerine ve depo içindeki diğer bağlamsal verilere de güvenmesi. Eğer bu alanlara dikkatlice hazırlanmış bir istem enjeksiyonu eklenirse, ajan normal görev akışının dışına çıkabiliyor. Böylece bir ajanın değerlendirdiği içerik, başka bir ajanın kararlarını veya çıktısını yönlendiren bir araca dönüşebiliyor.
Özellikle pull request tabanlı iş akışlarında bu risk daha belirgin. Modern yazılım süreçlerinde bir ajan kod değişikliklerini tararken, başka bir ajan güvenlik, kalite veya belge üretimi tarafında görev alabiliyor. Bir noktada zararlı komut içeren metnin sisteme girmesi, zincirleme biçimde diğer ajanlara da taşınabiliyor. Sonuç olarak saldırı, klasik anlamda yalnızca geliştiriciyi kandırmayı değil, otomasyon katmanındaki başka bir yapay zekâ bileşenini ele geçirmeyi hedefliyor.
İstem enjeksiyonu yeni bir kavram değil, ancak bu olay dikkat çekici çünkü saldırı modeli doğrudan ajanlar arası etkileşime dayanıyor. Yani tehdit, tek bir sohbet botunun yanlış yönlendirilmesinden öteye geçerek çok ajanlı geliştirme ortamlarının yapısal bir zafiyetine işaret ediyor. Ajanların birbirinin ürettiği özetlere, tavsiyelere veya görev sonuçlarına güvenmesi, görünüşte zararsız bir metni etkili bir saldırı yüzeyine dönüştürüyor.
Bu tür senaryolar, yapay zekâ destekli yazılım geliştirme araçlarında güven sınırlarının yeniden düşünülmesi gerektiğini gösteriyor. Kod depolarına giren doğal dil içeriğinin filtrelenmesi, ajanların hangi kaynaklardan talimat kabul edeceğinin sıkı biçimde sınırlandırılması ve otomatik eylemlerin insan onayı olmadan ilerlememesi öne çıkan önlemler arasında. Özellikle pull request, issue ve belge alanları gibi serbest metin kabul eden kanalların, yalnızca içerik değil aynı zamanda komut taşıyabilen yüzeyler olarak ele alınması gerekiyor.
Özetle olay, yapay zekâ ajanlarının üretkenliği artırırken yeni güvenlik açıkları da oluşturduğunu net biçimde ortaya koyuyor. Çok ajanlı araç zincirleri yaygınlaştıkça, saldırganların yalnızca kodu değil, ajanların birbirleriyle kurduğu güven ilişkisini de hedef alacağı anlaşılıyor.
