Yapay zeka alanındaki ilerleme son birkaç yılda belirgin biçimde hızlandı. Özellikle önde gelen modelleri geliştiren ABD merkezli şirketler arasındaki rekabet, yeni nesil sistemlerin çok daha kısa aralıklarla ortaya çıkmasına yol açıyor. Ancak Anthropic CEO’su Dario Amodei, bu hızın güvenlik tarafında ciddi riskler doğurabileceğini söyleyerek yeni AI modellerinin geliştirilmesinde yavaşlama çağrısı yaptı.
Amodei’nin açık mektubundaki en dikkat çekici uyarı, AI destekli kalıcı bir botnet sürüsü senaryosu oldu. Buna göre yetenek artışının mevcut hızla sürmesi halinde, 6–12 ay içinde internetin tamamını hedef alabilecek ve yüzlerce milyar dolar düzeyinde zarara yol açabilecek saldırı kapasitesi ortaya çıkabilir. Amodei, daha güçlü sistemler devreye alınmadan önce gerekli koruma mekanizmalarının oluşturulması gerektiğini savunuyor.
Benzer kaygılar, kısa süre önce Anthropic’ten ayrılan AI araştırmacısı Evan Hubinger tarafından da dile getirildi. Hubinger, on yıl bitmeden insanlığın yok oluşuyla sonuçlanabilecek bir AI senaryosunun olasılığını %10 seviyesinin üzerinde gördüğünü belirtti. Ayrıca süperzekâ düzeyindeki sistemlerin insan hedefleriyle uyumlu çalışmasını garanti altına alacak net bir çözüm planının henüz bulunmadığını ifade etti.
Anthropic’in kendi değerlendirmelerine göre bugünkü AI modelleri bile silah mühendisliği, askeri istihbarat, gözetim ve siber operasyonlar gibi yıkıcı alanlarda yardımcı olabiliyor. Daha gelişmiş modellerin ise bu tür faaliyetler için gereken uzmanlık, insan kaynağı ve zamanı ciddi biçimde azaltabileceği düşünülüyor. Bu da küçük ekiplerin veya sınırlı kaynağa sahip aktörlerin daha karmaşık saldırılar düzenleyebilmesi anlamına geliyor.
Öte yandan daha yetenekli AI sistemlerinin otomatik olarak daha tehlikeli olacağı da kesin değil. Daha gelişmiş modeller aynı zamanda daha güçlü güvenlik önlemleri, kötüye kullanım tespiti ve bugüne kadar otomasyona girmemiş işlerin güvenli şekilde otomatikleştirilmesi gibi avantajlar da sunabilir. Ayrıca geliştirmeyi tamamen durdurma fikri, daha az sorumlu şirketler veya ülkeler çalışmalarına devam ederse ters etki yaratabilir. Tartışmanın odağında bu nedenle sadece hız değil, denetim ve güvenlik çerçevesinin nasıl kurulacağı yer alıyor.
