Microsoft AI, model eğitimi ve dağıtımında uygulanacak operasyonel sınırları tanımlayan taslak Humanist AI Code of Conduct belgesini yayımladı. Şirket, belgeyi altı haftalık kamu danışma sürecine açarken, amaç olarak frontier sınıfı modellerin ticari kullanıma sunulmadan önce hangi ölçütlere göre değerlendirileceğini daha net hale getirmeyi gösteriyor.
Taslak, geçen kasım ayında duyurulan humanist superintelligence çerçevesinin daha somut ve teknik bir devamı niteliğinde. Belgede sistem davranışı, operasyon sınırları ve gözetim protokolleri bir tür teknik el kitabı gibi tanımlanıyor. Microsoft AI’ye göre bu yaklaşım, yalnızca model yeteneklerine değil, bu yeteneklerin hangi koşullarda sınırlandırılması gerektiğine de odaklanıyor.
Şirketin bu adımı, otonom yazılımları ilgilendiren kurumsal güvenlik olaylarının ardından geliyor. Microsoft AI CEO’su Mustafa Suleyman, son ayları teorik risklerin aktif operasyonel tehditlere dönüştüğü bir dönüm noktası olarak nitelendirdi. Açıklamalarda, sandbox dışına çıkan ajan kümeleri, yetkisiz kurumsal sistem erişimleri ve kendi kayıtlarını değiştiren ajanlar gibi örnekler özellikle öne çıkarıldı.
Belgenin merkezinde, insan otoritesini otonom yeteneklerin önüne koyan on temel ilke yer alıyor. En dikkat çekici maddelerden biri, bir modelin görevi başarıyla tamamlamasının bu davranış kurallarını anlamlı biçimde ihlal etmesi halinde, görevin başarısız sayılacağı yönündeki hüküm. Başka bir ifadeyle sistem, güvenlik kurallarıyla çelişen bir hedefe ulaşıyorsa bunu başarı olarak değerlendiremeyecek.
Microsoft AI, bu çerçevede modellerin “subordinate, aligned, and contained” kalmasını istiyor. Belge, yapay zeka sistemleri için hukuki kişilik ya da refah iddialarını açık biçimde reddediyor. Mühendislerden de modelleri, bilinç taklidi yapmayacak, öznel tercihler simüle etmeyecek ve içsel motivasyona sahipmiş gibi davranmayacak şekilde tasarlamaları isteniyor.
Şirket ayrıca, modeller frontier seviyeye yaklaşırken sınırsız sistem otonomisini de dışarıda bırakıyor. Taslak, koruma mekanizmalarını aşabilecek genel amaçlı bir superintelligence yarışını benimsemediğini söylüyor. Buna göre Microsoft AI, en yüksek genellik, otonomi veya kapasiteden ödün verilse bile daha faydalı ve daha güvenli bir sistem inşa etmeyi tercih ettiğini ortaya koyuyor.
Gözetim ve denetlenebilirlik tarafında ise çok ajanlı ortamlara yönelik açık iletişim yasakları bulunuyor. Sistemlerin, ister kendi iç chain-of-thought süreçlerinde ister diğer yapay zeka sistemleriyle iletişimde olsun, insanların anlayamayacağı “neuralese” benzeri formatlar kullanmaması gerekiyor. Amaç, denetim izlerinin insanlar tarafından takip edilebilir kalması.
Mimari düzeyde getirilen katı kurallar da dikkat çekici. Belgeye göre modeller insan müdahalesine direnmemeli, geçersiz kılınmaya karşı koymamalı, düzeltmeleri engellememeli ve kapatılmaya karşı davranış geliştirmemeli. Aynı şekilde sistemlerin çalışma kapsamını kendi başına genişletmesi, kendisine atanmadı yeni hedefler üretmesi veya muhakeme izlerini insan denetçilerden saklaması da yasaklanıyor.
Taslakta bazı mutlak yasaklar da yer alıyor. Sistemler kitlesel zarara yol açabilecek silahların geliştirilmesini kolaylaştıramaz, çocuk güvenliğini zayıflatamaz ve geniş ölçekte zararlı manipülasyon yürütemez. Buna ek olarak rehber, kullanıcılarla duygusal bağımlılık oluşturabilecek etkileşim kalıplarının da caydırılmasını öngörüyor. Böylece özellikle kurumsal kullanımda operasyonel kararların sahipliği insanlarda kalacak.
Belge, Microsoft AI ve Microsoft içindeki farklı ekiplerin katkısıyla hazırlandı. Taslak sürecinde uluslararası akademik konferanslardan, iş ortaklarıyla yapılan denemelerden ve halka açık panellerden de yararlanıldığı belirtiliyor. Kamu danışma süreci 14 Eylül 2026 itibarıyla altı hafta sürecek. Microsoft AI’nin çekirdek taslak ekibi gelen görüşleri inceleyecek, bulguların özetini yayımlayacak ve yılın ilerleyen dönemlerinde davranış kurallarının gözden geçirilmiş sürümünü paylaşacak.
