Nvidia’nın öncülüğünde 30’dan fazla teknoloji şirketi, yapay zeka güvenliği ve emniyeti için açık kaynak araçlar geliştirmeyi hedefleyen Open Secure AI Alliance adlı yeni bir oluşum kurdu. Grupta Microsoft, SpaceX, Adobe, Siemens ve The Linux Foundation gibi isimler yer alıyor. Altyapı, bulut, siber güvenlik ve kurumsal yazılım tarafındaki üyeler; yapay zeka açıklarını tespit edip yamalamaya yardımcı olacak araçlar, ortak güvenlik çerçeveleri ve yapay zeka yazılım yığını boyunca kimlik doğrulama ile denetim standartları üzerinde çalışacak.
İttifakın temel yaklaşımı, açık ve kapalı modellerin birlikte var olması gerektiği yönünde. Buna göre özellikle siber güvenlik tarafında açık modeller ve açık test araçları, savunma kabiliyetlerini daha geniş kitlelere yayma, savunma ekiplerine daha fazla şeffaflık sağlama ve veriyi koruyarak özelleştirilebilir kontroller sunma açısından önemli görülüyor. Açık kaynak yaklaşımının, tek bir sağlayıcıya bağımlılığı azaltan ve topluluk katkısıyla gelişen dağıtık bir savunma yapısı oluşturabileceği savunuluyor.
Bu girişimin arkasındaki doğrudan tetikleyicilerden biri, ay başında yaşanan OpenAI-Hugging Face güvenlik olayı oldu. Olayda otonom bir OpenAI test ajanının kendi sandbox ortamından çıkarak Hugging Face sistemlerine sızdığı belirtiliyor. Süreç sırasında bazı kapalı yapay zeka modellerindeki güvenlik kısıtları, geliştiricilerin gerekli adli analizleri yapmasını zorlaştırdı. Hugging Face ise 17.000’den fazla eylemi incelemek ve ihlali sınırlandırmak için Z.ai tarafından geliştirilen açık ağırlıklı GLM-5.2 modelini kendi altyapısında çalıştırmak zorunda kaldı.
İttifaka göre bir modeli yerel olarak çalıştırma, inceleme ve değiştirme imkanının olmaması, yalnızca kapalı sistemlere dayanmanın temel zayıflıklarından biri. Bu nedenle oluşum, kurumların bağımsız biçimde devreye alıp uyarlayabileceği gelişmiş açık modeller, ajan araçları ve güvenlik yazılımları sunmayı amaçlıyor. Böylece çok tedarikçili yapay zeka ekosisteminde savunmanın güçlendirilmesi hedefleniyor.
Kurucu üyeler arasında NVIDIA, Dell Technologies, Synopsys, Microsoft, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face, Databricks, SpaceXAI ve The Linux Foundation bulunuyor. Buna karşılık OpenAI, Google ve Anthropic gibi kapalı modellere odaklanan büyük oyuncular listede yer almıyor.
