Google DeepMind ve Isomorphic Labs, biyolojide yapay zekâ kaynaklı kötüye kullanım risklerini azaltmaya odaklanan ortak “bioresilience” programlarının kapsamını paylaştı. Son 12 ayda devlet kurumları, biyogüvenlik kuruluşları ve araştırma gruplarıyla 15’ten fazla iş birliği kurulduğu belirtiliyor. Programın temel hedefi, gelişmiş modellerin bilimsel araştırmayı hızlandırma potansiyelini korurken aynı araçların zararlı amaçlarla kullanılmasını zorlaştırmak.
İki şirket bu çerçeveyi üç başlık altında topluyor: kötüye kullanımı önleme, salgınları daha hızlı tespit etme ve bir salgın ya da biyolojik saldırı başladığında müdahaleyi destekleme. Paylaşılan güncellemede Lawrence Livermore National Laboratory, UK AI Security Institute, CEPI ve Francis Crick Institute gibi bazı ortakların adı geçse de, iş birliklerinin tamamına dair ayrıntı verilmiyor. Önümüzdeki 6 ila 12 ayda tehdit istihbaratı, AI agent değerlendirme yöntemleri ve jailbreak önlemleri tarafında ağın genişletilmesi planlanıyor.
Önleme ayağında odak noktası, Gemini gibi frontier modellerin biyoloji bilgisinin kötüye kullanım senaryolarında ne ölçüde işe yarayabileceğini ölçmek. DeepMind, bunun için uzman red-team testleri ve randomize kontrollü deneyler kullandığını söylüyor. Amaç, modelin zararlı sorguları reddetmesini sağlarken meşru bilimsel soruları gereksiz yere engellememek. Buna ek olarak gerçek zamanlı sınıflandırıcılar, çeşitli denetim araçları ve hedefli log analizi ile riskli kullanım kalıpları izleniyor. Şirket, bu güvenlik katmanlarının tamamlanmış bir çözüm değil, sürekli güncellenen bir süreç olduğunu özellikle vurguluyor.
Daha somut risk alanlarından biri DNA sentezi tarafı. Bugün birçok şirket, sipariş edilen dizileri bilinen tehlikeli patojen ve toksin listelerine karşı tarıyor. Ancak DeepMind’a göre AI, mevcut veritabanlarındaki dizilere yeterince benzemeyen ama benzer işleve sahip yeni DNA dizileri tasarlamayı kolaylaştırabilir. Şirket bu nedenle, hâlihazırda görsel ve metinlerde kullanılan SynthID işaretleme yaklaşımının biyolojik dizilere uyarlanmasını araştırıyor. Bunun yanında, yeni bir DNA dizisinin veritabanında eşleşme aramadan işlevine göre toksik veya patojenik olup olmadığını tahmin edebilen tarama yöntemleri de uzun vadeli teknik hedefler arasında yer alıyor.
Tespit katmanında ise metagenomik dizileme öne çıkıyor. Bu yöntem, geleneksel testlerdeki gibi yalnızca sınırlı sayıdaki bilinen patojeni aramak yerine, örnekteki tüm mikroorganizmaları karakterize etmeyi hedefliyor. Asıl sınırlayıcı unsur maliyet. DeepMind, Google ile Pacific Biosciences iş birliğinde AlphaEvolve coding agent kullanılarak dizileme doğruluğunun iyileştirilmesini bu alandaki örneklerden biri olarak gösteriyor. Şirket ayrıca veri işleme algoritmalarının optimizasyonu, donanım tasarımına katkı ve AlphaGenome ile patojen karakterizasyonu gibi konuları da araştırıyor. Ancak bunların henüz sahada yaygın kullanılan sistemler değil, araştırma aşamasındaki çalışmalar olduğu belirtiliyor.
Müdahale tarafında AlphaFold öne çıkıyor. DeepMind, son beş yılda bulaşıcı hastalıklarla ilgili 10.000’den fazla yayının AlphaFold’a atıf yaptığını ve bunun tüberküloz, sıtma, Mpox ve Nipah gibi başlıklarda hedef belirleme çalışmalarına katkı sunduğunu aktarıyor. Lawrence Livermore’un bioresilience programıyla yapılan yeni ortaklıkta AlphaFold 3’ün geniş spektrumlu antikor tasarımında, özellikle pan-filovirus antikor çalışmalarında kullanılması planlanıyor. Isomorphic Labs ise yeni salgınlarda ilaç tasarım motorunu hızlı devreye almak için özel bir birim kurduğunu, ayrıca Asya’daki bulaşıcı hastalık araştırmaları için Health for Human Potential programına $7 milyon taahhüt ettiğini duyurdu.
