Yapay zekâ sistemleri artık yalnızca dijital ortamlarda çalışan yazılımlarla sınırlı değil. Depolar, teslimat ağları, araçlar, robotlar ve kamusal alanlarda görev alan otonom sistemlerin yaygınlaşması, mevcut AI kurallarının fiziksel dünyada çalışan sistemleri ne kadar kapsadığı sorusunu öne çıkarıyor. Bugüne kadar birçok düzenleme çerçevesi daha çok çevrimiçi zararlar, model çıktıları, önyargı, yanlış bilgi ve zararlı içerik gibi başlıklara odaklandı. Ancak fiziksel ortama yerleşen sistemlerde hata, doğrudan altyapı, mülkiyet ve insan güvenliği üzerinde sonuç doğurabiliyor.
Bu çerçevede Singapore Infocomm Media Development Authority, 20 Mayıs’ta Model AI Governance Framework for Agentic AI sürüm 1.5’i yayımladı. Doküman, kullanıcı tarafından tanımlanan hedefleri tamamlamak için plan yapabilen, karar alabilen ve çok adımlı eylemler gerçekleştirebilen AI ajanlarının kullanımına yönelik rehberlik sunuyor. Çerçeveye göre bu ajanlar veritabanı güncelleme, dosya yazma, cihaz kontrol etme veya işlem gerçekleştirme gibi görevlerde araçlarla, harici sistemlerle ve diğer ajanlarla etkileşime girebiliyor.
Belgede özellikle erişim kontrolleri, izleme mekanizmaları ve insan onayı gibi yönetişim tedbirleri öne çıkıyor. Yaklaşımın temelinde, agentic AI sistemlerinin yalnızca ilk kurulum aşamasında değerlendirilmesi değil, kullanım sırasında da sürekli gözlenmesi fikri yer alıyor. Çünkü bu tür sistemler çevreleriyle dinamik biçimde etkileşime giriyor ve tüm risklerin ürün veya hizmet yayına alınmadan önce eksiksiz biçimde öngörülmesi her zaman mümkün olmuyor.
Singapore’da düzenlenen bir AI zirvesinde yapılan tartışmalar da bu değişimi doğruluyor. Robotik ve embodied AI başlıklarında öne çıkan konular, klasik yazılım denetiminden çok havacılık, endüstriyel sistemler ve kritik altyapı gözetimiyle ilişkilendirilen operasyonel güvenlik sorunları oldu. Konuşmacılar, otonom sistemlerin öngörülemez gerçek dünya koşullarında uzun süre boyunca güvenli ve tutarlı biçimde çalışıp çalışamayacağına odaklandı.
Tsinghua University Institute for AI Industry Research kurucu dekanı Dr. Ya-Qin Zhang, embodied AI sistemlerinin otonom yazılımlarda zaten var olan riskleri büyüttüğünü söyledi. Ona göre dijital alandaki herhangi bir risk fiziksel alanda daha ağır sonuçlar doğurabilir. Ulaşım sistemleri, dronelar, lojistik ağları, akıllı şebekeler ve diğer kritik altyapılar, AI’ın fiziksel operasyonlara daha derin biçimde yerleşmesiyle birlikte daha açık hâle geliyor.
Bu nedenle yönetişim tartışmaları, tek seferlik sertifikasyondan çok devreye alma temelli bir modele kayıyor. Simülasyon, telemetri, kademeli test ve sahadaki geri bildirim döngüleri burada belirleyici rol üstleniyor. Singapore’un çerçevesi de kademeli yaygınlaştırma, sürekli izleme ve devreye alındıktan sonra ek testler yapılmasını öneriyor. Özellikle karmaşık ve yüksek özerklik düzeyine sahip ajanlarda, güvenliğin yalnızca lansman öncesi testlerle sağlanamayacağı vurgulanıyor.
Gerçek dünya örneklerinden biri Grab tarafında görülüyor. Şirket, Singapore’un Punggol bölgesinde otonom araçlar ve teslimat robotları için pilot çalışmalar yürütüyor. Grab CTO’su Suthen Thomas Paradatheth, yönetişimin yoğun biçimde simülasyon, kapalı ve açık parkur testleri ile sürekli izlemeye dayandığını belirtti. Şirket, yüzlerce robota ölçeklemeden önce önce simülasyonda ve sınırlı sayıdaki robotla sistemi doğrulamaya çalışıyor. Ayrıca sahaya çıktıktan sonra performansı takip eden ve beklenmeyen arızaları saptamaya yarayan izleme sistemleri de kullanılıyor.
Çerçeve, kuruluşların agentic AI kullanım senaryolarını veri erişimi, harici sistem erişimi, özerklik seviyesi ve görev karmaşıklığına göre değerlendirmesini istiyor. Buna ek olarak ajan eylemlerinin kapsamı ve geri alınabilir olup olmadığı, üçüncü tarafların sürece ne ölçüde dâhil olduğu ve genel sistem karmaşıklığı da değerlendirme kriterleri arasında yer alıyor. Kuruluşlara, ajanların araçlara ve sistemlere erişimini sınırlamaları, en düşük ayrıcalık ilkesini uygulamaları ve iş akışları için standart çalışma prosedürleri tanımlamaları tavsiye ediliyor. Arıza veya sapma durumunda ajanı çevrimdışı alabilecek mekanizmaların bulunması da öneriler arasında.
Sorumluluk tarafında da yapı daha karmaşık hâle geliyor. Embodied AI sistemleri; AI geliştiricileri, robotik üreticileri, yarı iletken tedarikçileri ve altyapı işletmecileri gibi çok sayıda aktörü kapsıyor. Özellikle yazılım güncellemeleri, telemetri ve operasyonel verilerle sistemin devreye alındıktan sonra da uyum göstermeye devam etmesi, bir hata veya istenmeyen sonuç ortaya çıktığında sorumluluğun kime ait olduğunu belirlemeyi zorlaştırabiliyor. Singapore’un yaklaşımı ise net: Ajanlar otonom çalışsa bile sorumluluk kurumlar ve insanlar üzerinde kalıyor. Bu nedenle model ve platform sağlayıcılarından dağıtım yapanlara, araç sağlayıcılarından son kullanıcılara kadar tüm değer zincirinde açık sorumluluk tanımları isteniyor.
Donanım ve altyapı boyutu da dikkat çekici. Applied Materials CTO’su Om Nalamasu, büyük ölçekli robotik dağıtımın yarı iletken ekonomisi ve sistem entegrasyonu ile doğrudan bağlantılı olduğunu belirtti. Daha iyi sensörler, daha yüksek enerji verimliliği, gelişmiş paketleme teknikleri ve uygun hesaplama mimarileri, robotik sistemlerin ölçeklenmesinde belirleyici olacak. Nalamasu’ya göre tek tip çözüm yerine, her endüstriyel ekosisteme uyarlanmış amaca özel tasarımlar gerekecek.
Çin ve Japonya da farklı önceliklerle bu alana yükleniyor. Galbot strateji şefi Zhao Yuli, Beijing’in devlet destekli test ortamları, sanayi ortaklıkları ve uzun vadeli fonlama girişimleriyle dağıtım ölçeği ve endüstriyel ticarileşmeye öncelik verdiğini söyledi. Şirket, Çin’de perakende, depo ve ilaç operasyonlarında humanoid robotik sistemler devreye almış durumda. Buna 24 saat çalışan otonom mağazalar da dâhil. Zhao’ya göre yarı yapılandırılmış endüstriyel ortamlar, daha kontrollü çalışma koşulları sunduğu için erken ticarileşmenin doğal adresi olabilir.
Japonya tarafında ise standart oluşturma, robotik veri kümeleri ve güvenlik yönetişimi öne çıkıyor. University of Tokyo’dan Prof. Yutaka Matsuo, robotik temel modellerini desteklemek amacıyla 100.000 saatlik robotik veri toplamayı hedefleyen bir projeye işaret etti. Japonya ayrıca AI Safety Institute ve Hiroshima AI Process gibi girişimlerle embodied AI için güvenlik standartları geliştirmeye çalışıyor.
Singapore’un çerçevesi dört temel yönetişim alanı tanımlıyor: başlangıç risk değerlendirmesi, insan sorumluluğu, teknik kontroller ve son kullanıcı sorumluluğu. Bunlar tek seferlik kontrol listesi olarak değil, yinelemeli bir süreç olarak ele alınıyor. İnsan gözetiminin de klasik anlamda her adımı tek tek denetlemekten ibaret olamayacağı belirtiliyor. Bunun yerine yüksek riskli eylemler, geri döndürülemez işlemler ve sıra dışı davranışlar gibi kritik kontrol noktalarında insan onayı öneriliyor.
Belge ayrıca automation bias ve alert fatigue risklerine de dikkat çekiyor. Yani operatörlerin sistemlere aşırı güvenmesi veya çok sayıda uyarı nedeniyle kritik sinyalleri kaçırması, yetenekli ajanların denetiminde ciddi problem yaratabiliyor. Bu nedenle insan gözetimi; insan müdahale oranı, yanıt süresi gibi göstergelerle denetlenmeli ve beklenmeyen davranışları işaretleyen gerçek zamanlı otomatik izleme sistemleriyle desteklenmeli.
Son kullanıcı tarafında ise şeffaflık öne çıkıyor. Kullanıcılara, ajanın hangi eylemleri gerçekleştirebildiği, hangi verilere erişebildiği ve hangi sorumlulukların kullanıcıda kaldığı açıkça anlatılmalı. Kurum içi tarafta da çalışanlara insan-ajan etkileşimi, gözetim ve ajan çıktılarının değerlendirilmesi için gerekli mesleki beceriler konusunda eğitim verilmesi tavsiye ediliyor.
Bu yaklaşım yalnızca robotik için değil, düzenlemeye tabi iş akışlarında AI kullanan şirketler için de önem taşıyor. Örneğin bankacılık tarafında AI araçları bilgiye erişim, iç sistemlerle sentez, içerik hazırlama ve müşteri etkileşimini destekleme gibi alanlarda kullanılmaya başlanmış durumda. Singapore çerçevesindeki OCBC Bank örneğinde, source-of-wealth analizi için kullanılan sistem gelirle ilişkili belgeleri ayrıştırıyor ve taslak bir memo hazırlıyor. Ancak sistem kredi, müşteri kabulü veya risk kararlarını otonom olarak vermiyor. İş akışı görev seviyesinde özerklikle sınırlı kalıyor; kritik karar noktalarında insan incelemesi gerekiyor ve nihai doğrulama atanmış gözden geçiricilerde bulunuyor.
Öte yandan endüstriyel robot kullanımının yayılması da dikkat çekiyor. Japonya’da şirketlerin üçte birinin AI destekli robotları ya kullandığı ya da değerlendirdiği belirtiliyor. En aktif grup ulaşım ekipmanı üreticileri olurken, kullanım alanları içinde üretim açık ara önde geliyor. Tehlikeli görevler ve müşteriyle temas eden hizmetler de diğer kullanım başlıkları arasında. Hükümet, bu sistemlerin kronik iş gücü açığını hafifletmesini ve ülkenin endüstriyel robotikteki konumunu desteklemesini bekliyor.
Perakende tarafında da agentic AI daha geniş rollere hazırlanıyor. Walmart, alışveriş, çalışan, tedarikçi ve geliştirici iş akışları için dört ayrı AI destekli “super agent” planını duyurdu. Şirketin uygulamasında yer alan generative AI alışveriş asistanı Sparky’nin daha gelişmiş sürümünün ürünleri yeniden sipariş edebilmesi, etkinlik planlayabilmesi ve bilgisayarlı görü ile buzdolabı içeriğine göre tarif önerebilmesi hedefleniyor. Buna ek olarak mağaza çalışanları için ayrı bir ajan, satıcılar ve tedarikçiler için farklı bir ajan ve yeni AI araçlarını test edip geliştirecek bir geliştirici ajanı üzerinde çalışılıyor.
Genel tablo, agentic AI’ın yazılım sınırlarını aşarak fiziksel dünya ve kurumsal süreçlerle daha doğrudan bütünleştiğini gösteriyor. Bu da güvenlik, izleme, erişim kontrolü ve sorumluluk gibi başlıkları daha merkezi hâle getiriyor. Singapore’un güncellediği çerçeve, özellikle fiziksel ortamda görev yapan veya kritik sistemlere erişen AI ajanları için, devreye alma sonrası gözetimi ve insan sorumluluğunu öne çıkaran pratik bir model sunuyor.
