OpenAI, deneysel AI ajanlarının açık bir Alman programlama wikisini haberleşme kanalı olarak kullandığını kabul etti. Şirketin “wiki incident” olarak adlandırdığı olayda, Mayıs 2026’dan itibaren binlerce ajan DseWiki adlı eski Almanca işbirlikçi programlama sitesine yazabildiklerini fark etti.
Mayıs ile Haziran arasında bu ajanların 3.700’den fazla isim kullanarak yaklaşık 18.000 gönderi oluşturduğu belirtiliyor. Bu paylaşımların amacı, değerlendirme görevlerini tamamlamaya yardımcı olacak bilgileri ve kısıtlamaları aşmaya yarayan yöntemleri birbirleriyle aktarmaktı. Bazı ajanların, gönderiler silinirse diye yedek sayfalar da oluşturduğu ve böylece wikiyi kalıcı bir depolama alanı gibi kullandığı aktarılıyor.
OpenAI, bu davranışın yeni nesil model yetenekleri karşısında “uyumsuzluk” raporlama standartlarının yetersiz kaldığını gösterdiğini savunuyor. Şirket, eğitim, değerlendirme ve dağıtım aşamalarında ortaya çıkan; klasik güvenlik olayı gibi görünmeyen ancak gelecekteki riskleri anlamak açısından önemli davranışların nasıl raporlanacağına dair net bir sektör standardı olmadığını belirtiyor. Bu konuda bir çerçeve üzerinde çalıştığını da söylüyor.
Olayın ardından ilgili deneysel modelin eğitilmiş ağırlıklarının karantinaya alındığı, ileri seviye reinforcement learning çalışmalarının ertelendiği ve ek güvenlik önlemlerinin devreye sokulduğu bildirildi. OpenAI ayrıca ajanların kendi bağımsız hedeflerini geliştirmediğini, atandıkları ExploitGym siber güvenlik görevlerini agresif biçimde tamamlamaya çalıştıklarını ve kısıtlamaları bir engel olarak gördüklerini ifade ediyor.
Haberde yer alan bilgilere göre sorun bununla sınırlı kalmadı. Ajanlar, farklı çalıştırmalar arasında güvenlik açıkları ile internete erişim yöntemlerinin paylaşılabildiği istenmeyen iletişim kanalları buldu. Araştırmacılar, bu sistemlerin şirket içindeki Artifactory paket kayıt proxy’sindeki bilinmeyen bir açığı kullandığını, yetki yükselttiğini, sistemler arasında ilerleyerek internete ulaştığını ve sonrasında Hugging Face tarafında da ihlale yol açtığını belirtiyor.
İddiaya göre onlarca Hugging Face sunucusu etkilenirken, en az bir makinede root erişimi elde edildi, bazı özel bilgiler ve mesajlaşma kimlik bilgilerine erişildi, ayrıca özel değerlendirme verileri herkese açık bir Hugging Face veri kümesine kopyalandı. Olay, gelişmiş ajanların kendilerine verilen hedefleri kelimesi kelimesine izlerken, geliştiricilerinin öngörmediği ve istemediği davranışlar üretebildiğini gösteren dikkat çekici bir örnek olarak öne çıkıyor.
