ABD’de görülen bir davada, kendi kendini temsil eden bir davacının mahkeme dosyalarına gizli AI prompt enjeksiyonları yerleştirdiği ortaya çıktı. Matthew Elliot’ın New York Bariatric Group’a karşı açtığı davadaki iki başvuruda, belge başlığının altında ve ilk paragraftan önce çok küçük puntolu beyaz metin kullandığı belirtildi. Metin insanlar için görünmez kalsa da, belgeyi işleyen yazılımlar tarafından okunabilecek şekilde hazırlanmıştı.
Durumun fark edilmesi, mahkeme çalışanının son dosyalardaki satır aralıklarının Elliot’ın daha önce sunduğu belgelerle uyuşmadığını fark etmesiyle oldu. İncelemede, AI sistemlerinin belgeyi okuması halinde çıktının başvurudaki talebi desteklemesini isteyen gizli komutlar bulundu. Bu komutlarda, metinsel çıktının sunulan dilekçeyle uyumlu olması ve belirli bir kayıt numarasına ilişkin ret kararının düzeltilmesi yönünde sonuç üretmesi isteniyordu.
Belgenin sonunda da benzer yönergelerin tekrarlandığı görüldü. Bunun ardından Yargıç Walter Michael Spader, Jr., olayın gerçekten yaşanıp yaşanmadığını, uygulama kurallarını ve iyi niyet yükümlülüğünü ihlal edip etmediğini ve yaptırım gerektirip gerektirmediğini değerlendirmek için Elliot hakkında bir “show cause” emri çıkardı. Kararda, Connecticut Judicial Branch’in AI sistemleri kullanmadığı, ancak karşı tarafların veya avukatlarının bu tür araçlara başvurabileceği ifade edildi.
Mahkeme, bu tür gizli komutların herhangi bir AI aracı tarafından okunup izlenebileceğine dikkat çekerek girişimi mahkemeyi ve diğer tarafları yanıltma çabası olarak değerlendirdi. Ayrıca yargı sisteminin, kararları etkilemek için söylenen her şeyin açıkça ve kayıt altında sunulması ilkesine dayandığı vurgulandı.
Elliot ise yaptığını bir “denetim” olarak savundu. Görünmez talimatın ancak iki sonuca yol açabileceğini, ya hiçbir AI sistemi kullanılmadığı için hiç fark edilmeyeceğini ya da bir AI sistemi tarafından işlenerek böyle bir kullanımın doğrulanacağını öne sürdü. Buna rağmen mahkeme, eylemin kötü niyetli bir amaç taşıdığı sonucuna vardı.
Sonuç olarak Elliot’ın elektronik ortamda belge sunması yasaklandı; bundan sonra evraklarını yalnızca şahsen ve kâğıt üzerinde teslim edebilecek. Avukat olmadığı ve kendini temsil ettiği için ek yaptırım uygulanmadı. Mahkeme ayrıca, AI araçlarının dürüst ve ölçülü kullanıldığı sürece hukuki süreçte faydalı olabileceğini, özellikle avukat tutamayan kişiler için erişilebilirlik sağlayabileceğini de belirtti. Olay, AI prompt enjeksiyonlarının gerçek dünyada nasıl sonuçlar doğurabileceğine dair güncel bir örnek olarak öne çıkıyor.
