OpenAI, Google DeepMind ve Anthropic gibi önde gelen AI şirketlerinin mevcut ve eski çalışanlarından oluşan bir grup, AI ile ilgili potansiyel endişeler hakkında konuşanların korunması ve daha fazla şeffaflık talep eden bir açık mektup imzaladı. “Bu şirketler üzerinde etkili bir hükümet denetimi olmadığı sürece, mevcut ve eski çalışanlar, kamuoyu önünde hesap vermelerini sağlayabilecek birkaç kişiden biri,” denilen mektupta, geniş kapsamlı gizlilik anlaşmalarının endişelerini dile getirmelerini engellediği belirtiliyor.
Mektup, Vox’un OpenAI’nin, ayrılan çalışanları agresif bir kötülememe anlaşması imzalamaya zorladığını ortaya çıkaran soruşturmasının ardından geldi. OpenAI CEO’su Sam Altman, bu maddeyi “gerçekten utanç verici” olarak nitelendirerek, son çıkış belgelerinden çıkarıldığını, ancak bazı çalışanlar için halen geçerli olup olmadığının belirsiz olduğunu söyledi.
Endişeler ve Talepler
Mektubu imzalayanlar arasında eski OpenAI çalışanları Jacob Hinton, William Saunders ve Daniel Kokotajlo bulunuyor. Kokotajlo, yapay genel zeka (AGI) geliştirme sorumluluğunun kaybedildiğine inanarak şirketten istifa ettiğini belirtti. Mektup, AI sistemlerinin kontrolsüz gelişiminin yanlış bilgi yayılması, eşitsizliğin artması ve insan kontrolünün kaybı gibi ciddi risklere yol açabileceğini vurguluyor.
Mektup, AI şirketlerini şu dört ana prensibe uymaya çağırıyor:
- Güvenlik endişelerini dile getiren çalışanlara karşı misillemeden kaçınmak.
- Kamuoyunu ve düzenleyicileri riskler konusunda uyaran bir anonim ihbar sistemi desteklemek.
- Açık eleştiri kültürünü teşvik etmek.
- Çalışanların konuşmasını engelleyen kötülememe veya gizlilik anlaşmalarından kaçınmak.
Açıklamalar ve Tepkiler
OpenAI, Google ve Anthropic gibi şirketlerin açıklamaları mektuba gelen tepkiler arasında. OpenAI, en yetenekli ve güvenli AI sistemlerini sağlama konusundaki siciliyle gurur duyduğunu ve bilimsel yaklaşımına inandığını belirterek, bu teknolojinin önemini göz önünde bulundurarak sıkı tartışmaların gerekli olduğunu kabul ettiğini söyledi.
Mektup, AI teknolojisinin hızla geliştiği bir dönemde çalışanların sesini duyurmasının önemini vurguluyor ve bu teknolojinin gelişiminde şeffaflık ve güvence sağlanması gerektiğini belirtiyor.
