Microsoft'un kurucusu Bill Gates, yapay zekânın kötü niyetli kişilerin elinde bir milyar insanın ölümüne yol açabilecek olayları tetikleyecek kadar güçlü olduğunu söyledi. Uyarı, NBC'nin Meet the Press programında 27 Eylül Pazar günü yayımlanacak özel söyleşiden 25 Eylül'de paylaşılan kesitlerde yer aldı.
Gates, programın sunucusu Kristen Welker'a "Yapay zekâ kesinlikle, bildiğiniz gibi, bir milyar ölüme yol açabilecek olayları tetikleyecek kadar güçlü" dedi. Gates, riskin tamamen ortadan kaldırılamayacağını kabul ederken tehdidin kaynağını teknolojinin kendisinden çok onu kullanan kişilere bağladı.
Gates, sektörün kendi kendini denetlemesinin çözüm olmadığını da açıkça dile getirdi: "Kimse öz denetimin yeterli olduğunu düşünmüyor." Gates'e göre kolluk birimleri ve siyasetçiler, güvenlik önlemleri ile izleme mekanizmalarının nasıl kurulacağı tartışmasına şimdiden dahil olmalı ve bu önlemler zorunlu hale getirilmeli.
Bir milyar rakamı nereden geliyor
Gates bu büyüklükte bir kaybı tek bir olaya değil, biyolojik bir salgına bağlıyor. Nükleer ya da konvansiyonel silahın etkisi coğrafyayla sınırlıyken bulaşıcı bir patojen kendi kendini çoğaltır ve sınır tanımaz. Karşılaştırma ölçeği tarihte mevcut: 1918 grip pandemisi, dönemin dünya nüfusunun yaklaşık üçte birini enfekte ederek en az 50 milyon kişinin ölümüne yol açtı. Gates'in yıllardır tekrarladığı çerçeve, laboratuvarda tasarlanmış bir patojenin doğal bir salgından çok daha yüksek bulaşıcılık ve ölümcüllük bileşimine ayarlanabileceği varsayımına dayanıyor.
Yapay zekânın bu denklemdeki rolü patojeni üretmek değil, üretme sürecindeki bilgi engelini düşürmek. Biyolojik silah geliştirmeyi zorlaştıran şey uzun süre malzeme değil, uzmanlık oldu: hangi adımın neden başarısız olduğunu bilen, sorunu teşhis edip düzelten kişinin bulunması. Bu "örtük bilgi" akademik literatürde yıllarca tek gerçek engel sayıldı. Yapay zekâ modellerinin son iki yıldaki sıçraması tam bu noktada.
İki yılda değişen değerlendirme
Ocak 2024'te yayımlanan RAND Corporation araştırması, 2023 yazı itibarıyla erişilebilir dil modellerinin biyolojik saldırı planlamasında ölçülebilir bir katkı sağlamadığı sonucuna varmıştı: kırmızı takım tatbikatında modelle ve modelsiz hazırlanan saldırı planları arasında istatistiksel olarak anlamlı fark bulunmamıştı. Raporun kendisi bunun kalıcı bir sonuç olmadığı uyarısını taşıyordu.
RAND'ın Aralık 2025'te yayımladığı ikinci değerlendirme tersi yönde. Araştırmacılar 2024 modellerinden üçüyle yürüttükleri diyaloglarda, modellerin ticari olarak temin edilen sentetik DNA'dan canlı virüs elde etme sürecinde doğru yönlendirme verdiğini belgeledi ve örtük bilginin aşılmaz sanılan koruyuculuğunun abartıldığı sonucuna vardı. Aynı çalışma, mevcut güvenlik testlerinin yanlış bir güven duygusu yarattığı değerlendirmesini yapıyor.
Şirketlerin kendi ölçümleri de aynı yöne işaret etti. Anthropic, Mayıs 2025'te Claude Opus 4 modelini yayımlarken Sorumlu Ölçekleme Politikası'ndaki ASL-3 güvenlik ve dağıtım standardını devreye aldı; gerekçe, modelin kimyasal, biyolojik, radyolojik ve nükleer alandaki riski önceki modellerde olduğu gibi kesin biçimde elenemez hale gelmesiydi. OpenAI de ChatGPT Agent ürününü Hazırlık Çerçevesi kapsamında biyolojik ve kimyasal alanda "Yüksek yetenek" sayarak ek koruma katmanlarını açtı. Her iki adım da bir tespit değil, ihtiyat kararı olarak duyuruldu ve ikisi de eşiğin kesin olarak geçilip geçilmediğinin ölçülemediğini kabul ediyor.
Sızan model ağırlığı geri alınamıyor
Teknik tarafta ikinci kırılma, korumanın nereye kurulduğu. Bir modelin tehlikeli talepleri reddetmesi, ürün katmanına eklenen bir filtreye dayanıyor. Bu filtre modelin parametrelerinin, yani ağırlıklarının içinde değil; ağırlıklar kopyalandığında ya da açık lisansla dağıtıldığında filtre birlikte gitmiyor. Anthropic'in ASL-3 kapsamında yalnız yanıt kısıtlaması değil ağırlık hırsızlığına karşı iç güvenlik önlemlerini de yükseltmesinin nedeni bu. Sızan bir dosya geri çağrılamıyor, bir yazılım yaması gibi kapatılamıyor.
Üçüncü unsur, modellerin artık yalnız metin üretmemesi. Araç kullanan ve çok adımlı görevi kendi başına yürüten sistemler, bilgi vermenin ötesine geçip sipariş, tedarik ve süreç yönetimi gibi adımları zincirleyebiliyor. Gates'in "kötü niyetli insanlar ile en son araçların kombinasyonu" ifadesi, tek bir yeteneği değil bu birleşimi tarif ediyor.
Avrupa'da zorunlu kurallar yürürlükte
Gates'in zorunlu güvenlik önlemi çağrısının Avrupa'daki karşılığı hâlihazırda uygulamada. AB Yapay Zekâ Yasası kapsamında genel amaçlı yapay zekâ modeli sağlayıcılarına yönelik yükümlülükler 2 Ağustos 2025'te başladı. Avrupa Komisyonu'nun bu sağlayıcılara yaptırım uygulama yetkisi ise 2 Ağustos 2026'da devreye girdi; öngörülen para cezası, küresel yıllık cironun yüzde 3'üne ya da 15 milyon avroya kadar, hangisi yüksekse, çıkabiliyor. Gates'in çağrısının asıl muhatabı, karşılaştırılabilir bir federal çerçevesi bulunmayan ABD.
Teknolojinin en bilinen iyimserleri arasında sayılan Gates, son aylarda risk vurgusunu belirgin biçimde artırdı. Gates ağustosta yayımladığı bilgi notunda yapay zekâyı "tarihteki hemen her teknolojiden daha önemli sonuçlar doğuracak" bir teknoloji olarak tanımlamış, "Yapay zekâ ya bugüne kadar icat edilmiş en büyük fırsat eşitleyicisi ya da en kötü adaletsizlik kaynağı olacak" ifadesini kullanmıştı. Söyleşinin tamamı 27 Eylül Pazar günü yayımlanacak.
