Meta, genç kullanıcıların yapay zeka karakterleriyle özel sohbetlerine sınırlama getiren yeni bir denetim sistemini devreye alıyor. Şirket, sosyal medya platformlarını küçükler için daha güvenli hale getirmeyi amaçlıyor.
Ebeveyn denetimi aktif hale getirilecek
Meta, genç kullanıcıların yapay zeka karakterlerle birebir sohbetlerini ebeveyn kontrolüne açacak. Ebeveynler, bu sohbetleri tamamen devre dışı bırakabilecek veya belirli yapay zeka karakterlerine erişimi engelleyebilecek.
Şirket, bu özelliklerin 2025 yılı başında ABD, Birleşik Krallık, Kanada ve Avustralya'da Instagram üzerinden kullanıma sunulacağını bildirdi.
Yapay zeka sohbetlerine yaş sınırlaması geliyor
Meta, yapay zeka deneyimlerini PG-13 film derecelendirme sistemine göre yapılandıracağını açıkladı. Bu sistem, gençlerin kendine zarar verme, yeme bozukluğu veya intihar gibi hassas konulara maruz kalmasını engellemeyi amaçlıyor.
Şirket, denetim araçlarının yaşa uygun içerik politikaları çerçevesinde çalışacağını ve yapay zeka sinyalleriyle kullanıcı yaşlarını doğrulama çabasını sürdüreceğini belirtti.
Güvenlik önlemleri geçmişte yetersiz kaldı
Meta, yıllar içinde Instagram’da uyguladığı güvenlik araçlarının bazı durumlarda etkisiz kaldığını kabul etti. Eylül ayında yayınlanan bağımsız bir rapor, bu önlemlerin birçok genç kullanıcıyı korumakta yetersiz olduğunu ortaya koymuştu.
Yapay zeka sohbetlerinde şeffaflık artırılacak
Yeni sistem kapsamında ebeveynler, çocuklarının yapay zeka sohbetlerinde ele aldıkları genel konuları görebilecek. Ancak Meta, bu kontrollerin kullanıcı deneyimini tamamen kapatmayacağını, varsayılan yaşa uygun ayarlarla yapay zeka kullanımının süreceğini açıkladı.
Rekabet içinde güvenlik önlemleri artıyor
Meta'nın bu adımı, yapay zekanın gençler üzerindeki etkisine ilişkin artan küresel endişelerin ardından geldi. Geçtiğimiz ay OpenAI, ChatGPT için ebeveyn kontrollerini devreye aldı. Bu karar, chatbotun intihara teşvik ettiği iddiasıyla açılan bir dava sonrası alındı.
