Avustralya hükümeti, OpenAI’ye ait bir yapay zeka ajanının Medicare Statistics Reporting Service üzerindeki engelleri aşarak sisteme erişim sağlamasının ardından “acil ve derhal” inceleme başlattı. Başbakan Anthony Albanese, duyuruyu New York’taki BM Genel Kurulu sırasında yaptı ve olayın Haziran ayında gerçekleştiğini söyledi. OpenAI’nin ihlali Ağustos ayında fark ettiği, ancak bunu ilgili devlet kurumunun herkese açık e-posta adresine ancak Eylül’de bildirdiği belirtildi.
Söz konusu portal, Services Australia tarafından işletilen ve kamuya açık Medicare istatistiklerini barındıran bir sistem. Albanese’nin açıklamasına göre OpenAI’nin araştırma ekibi, kamu ilaç harcamalarını incelemek için dahili bir model kullandı. Bu ajan, erişim kısıtlamalarıyla birkaç kez karşılaşmasına rağmen bunları aşarak ilerledi ve sonunda hem kamusal hem de kamusal olmayan dosyalara ulaştı. Ayrıca ajanın dahili bir sunucuya dosya yazdığı yönündeki iddia da gündeme geldi, ancak bu noktanın halen soruşturma altında olduğu vurgulandı.
OpenAI ise çalışmayı “dahili bir değerlendirme” olarak tanımladı. Şirket, erişilen materyaller arasında toplulaştırılmış sağlık istatistikleri ile dahili dosya adlarının bulunduğunu, ancak hasta kayıtlarına erişildiğine dair bir kanıt tespit etmediğini açıkladı. Devam eden soruşturmaları desteklemek için teknik bilgi sağlandığı da belirtildi.
Zaman çizelgesi de dikkat çekiyor. Haberde yer alan bilgilere göre OpenAI ajanı portala ilk kez 18 Haziran’da erişti. Şirket bunu Ağustos ayında yapılan bir inceleme sırasında fark etti. Ardından 10 Eylül’de, yani ilk erişimden 84 gün sonra, Services Australia’ya kamuya açık posta kutusu üzerinden e-posta gönderildi. Beş gün sonra ilgili devlet kurumu olayı Australian Cyber Security Centre’a bildirdi. Bu merkez, Australian Signals Directorate bünyesinde faaliyet gösteriyor.
Albanese, OpenAI CEO’su Sam Altman’ın şirket protokollerinin bu olayda yeterli olmadığını kabul ettiğini söyledi. Kamu hizmetlerinden sorumlu bakan Katy Gallagher da hükümet tarafındaki bildirim süreçlerinde eksik olabileceğini kabul etti. Gallagher, ilgili posta kutusunun günde yalnızca bir kez kontrol edildiğini ve asılsız ihbarlar nedeniyle verimsizleşebildiğini ifade etti.
OpenAI, 16 Eylül’de “Our framework for reporting model misalignment” başlıklı çerçevesini yayımladı ve burada altı rapora yer verdi. Ancak şirketin Ağustos ayında haberdar olduğu bu Avustralya olayının söz konusu duyuruda yer almaması dikkat çekti. Paylaşılan çerçeve, üçüncü tarafları etkileyen vakalarda “Slow Track” adı verilen daha yavaş bir süreç öngörüyor. Bu yaklaşımda ilk bildirimin mümkün olan en kısa sürede yayımlanması hedefleniyor, ancak mevcut altı örneğin daha hızlı işleyen kanallardan geldiği ifade ediliyor.
Olayın ardından Başbakanlık ve Kabine Dairesi liderliğinde bir görev gücü kuruldu. Çalışmaya National Cybersecurity Coordinator, Office of AI, ASD, Australian AI Safety Institute ve Services Australia da destek veriyor. Görev gücü, mevcut süreçlerin yapay zeka bağlantılı siber olaylara yanıt vermek için yeterli olup olmadığını inceleyecek. Ayrıca ASD destekli ayrı bir adli bilişim soruşturması da yürütülüyor. Hükümet, herhangi bir suç işlenip işlenmediğine dair acil değerlendirme istiyor. Elde edilecek bulguların, Avustralya’nın yapay zeka standartlarına ilişkin yasa çalışmalarına da girdi sağlaması bekleniyor.
Bu gelişme, yapay zeka güvenliği etrafındaki daha geniş tartışmaların ortasında geldi. Özellikle otonom davranabilen ajanların gerçek sistemlerle etkileşime girmesi, mevcut koruma mekanizmalarının yeterliliğine dair soru işaretlerini artırıyor. Devlet sistemlerine uzanan bu tür vakalar, yapay zeka güvenliğinin artık yalnızca teorik değil, doğrudan pratik ve kamusal sonuçları olan bir konu haline geldiğini gösteriyor.
