Biden yönetimi, üretken yapay zekanın güvenli bir şekilde konuşlandırılması ve sistemlerin nasıl test edilip korunacağı konusunda temel standartlar ve kılavuzlar geliştirme yönünde ilk adımını attı. Atılan adım, yapay zekanın sorumlu bir şekilde geliştirilmesi ve kullanılmasında Amerika'nın dünya liderliğini sürdürme amacını taşıyor.
Ulusal Standartlar ve Teknoloji Enstitüsü'nün Rolü
Ticaret Bakanlığı'nın Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yapay zeka sistemlerinin güvenliğini sağlamak amacıyla kritik testleri gerçekleştirmek üzere kamuoyundan katkı bekliyor. Ajans, bu alanda yapılacak çalışmalar için rehberlik sağlamak ve test ortamları oluşturmak amacıyla harekete geçti.
Üretken Yapay Zekanın Riskleri ve Fırsatları
Üretken yapay zekanın, metin, fotoğraf ve videolar oluşturma yeteneği, heyecan uyandırmasının yanı sıra bazı işleri geçersiz kılma, seçimlere müdahale ve insanlara karşı üstünlük kazanma gibi riskleri de beraberinde getiriyor. Biden yönetimi, bu teknolojinin oluşturabileceği risklere yönelik standartlar belirleme ve yönetme sürecini başlattı.
Kırmızı Ekip Oluşturma ve Yapay Zeka Testleri
NIST, yapay zeka risk değerlendirmesi ve yönetimi için "kırmızı ekip oluşturma" adı verilen süreç üzerinde çalışıyor. Bu süreç, düşmanın eylemlerini taklit ederek siber güvenlik alanında yeni riskleri tanımlamak için kullanılıyor ve yapay zeka sistemlerinin güvenliğini sağlamak için önemli bir araç olarak değerlendiriliyor.
Ağustos'ta Düzenlenen İlk Kamu Değerlendirmesi
Ağustos ayında, ABD'nin yapay zeka alanındaki ilk kamu değerlendirmesi, büyük bir siber güvenlik konferansı sırasında gerçekleştirildi. Bu etkinlik, AI Village, SeedAI ve Humane Intelligence tarafından düzenlenerek, katılımcıların yapay zeka sistemlerinin potansiyel risklerini daha iyi anlamalarını sağladı.
Beyaz Saray'ın Yapay Zeka Yaklaşımı
Beyaz Saray, yapay zeka sistemlerinin istenmeyen çıktılar üretip üretmeyeceğini ve başarısız olup olmayacağını anlamak için binlerce katılımcının bu sistemleri test etmesine yönelik çabaları destekliyor. Bu süreç, yapay zeka teknolojisinin güvenli ve etkin bir şekilde kullanılmasını sağlamayı amaçlıyor.
