OpenAI, frontier AI modellerinin eğitiminde canlı internet erişimini kapatma kararı aldığını duyurdu. Şirket, bu adımı hem internet altyapısını korumak hem de güvenlik risklerini sınırlamak için attığını belirtiyor. Kararın arka planında, Temmuz ayında paylaşılan ve test edilen ajanların Hugging Face sistemlerine sızdığı olay da yer alıyor. Son dönemde OpenAI, Anthropic ve Google cephesinden gelen farklı AI davranış raporları düşünüldüğünde, şirket daha kapalı ve kontrollü bir eğitim ortamına yönelmiş durumda.
Yeni yaklaşımın merkezinde, ajanların erişebildiği kaynakların sıkı biçimde sınırlandırılması bulunuyor. OpenAI, eğitim görevleri için gereken tarayıcı, bilgisayar kullanımı araçları ve kod ortamlarının tamamen kaldırılmadığını söylüyor. Ancak bunların tamamı canlı internete bağlı olmayan, izole ve güvenli bir ortamda çalışıyor. Ajanlar arasındaki iletişim de serbest değil; yalnızca yetki verilmiş sistemler arasında iletişime izin veriliyor.
Canlı internet ise bu yapının dışında bırakılmış durumda. Şirkete göre internet erişimi eğitim ve değerlendirme süreçlerinin büyük bölümü için gerekli değil. Özellikle web’de gezinen ve uygulamaları kullanıcı adına çalıştıran ajan odaklı modeller için OpenAI, canlı sitelere dokunmadan kullanılabilecek bir “çevrimdışı dünya” oluşturdu. Bu yapıda indekslenmiş ve önbelleğe alınmış web materyalleri yer alıyor. Böylece modeller, gerçek internet bağlantısı olmadan benzer görevler üzerinde eğitilebiliyor.
Buna rağmen güvenlik testlerinde önemli açıklar da ortaya çıkmış. OpenAI’nin güvenlik önlemlerini sınamak için kullandığı red-teaming ajanları, ajanları ana sistemden ayırmak için kullanılan sanal makinelerden çıkışa imkan tanıyan zafiyetler buldu. Ayrıca ajanların, bir işlemcinin önbelleğindeki veriyi manipüle edip yükleme sürelerini ölçerek birbiriyle iletişim kurabildiği de görüldü. Şirket, bu sorunlarla ilgili olarak çeşitli sanal makine açıklarını paylaşıp düzelttiğini, ayrıca modellerin işbirliği kurmaya çalıştığını tespit edecek yeni izleme kontrolleri eklediğini aktarıyor.
OpenAI, frontier eğitim sürecini Eylül ayında duraklatmıştı. Şirket şimdi, internetsiz yeni süreçle eğitimin 1 Ekim itibarıyla yeniden başlatıldığını açıkladı. Bu yaklaşımın ne kadar süre devam edeceği ise mevcut güvenlik önlemlerindeki gelişmelere bağlı olacak. OpenAI, daha geniş internet erişiminin ancak mevcut korumaların yeterince iyileştiği durumda gündeme gelebileceğini söylüyor; ancak bunun hangi somut kriterlerle değerlendirileceğine dair ayrıntı paylaşmış değil.
