X platformunun yerleşik yapay zekâ sohbet robotu Grok tarafından üretilen görseller, uluslararası düzeyde tartışma yarattı. Reuters’in analizine göre, gerçek kişilerin rızası olmadan dijital olarak değiştirilen görüntülerin yayılması, hem kullanıcı tepkilerini hem de düzenleyici kurumların incelemelerini beraberinde getirdi ve platformun bu içeriklere yönelik yaklaşımının nasıl şekilleneceği izleniyor.
Brezilya’nın Rio de Janeiro kentinde yaşayan müzisyen Julie Yukari, yılbaşı gecesi nişanlısı tarafından çekilen ve kendisini siyah kedisiyle birlikte yatakta gösteren bir fotoğrafını X’te paylaştı. Ertesi gün, bazı kullanıcıların Grok’tan fotoğrafı dijital olarak bikinili hale getirmesini istediğine dair bildirimler aldığını belirten Yukari, botun bu tür taleplere uymayacağını düşündüğünü söyledi.
Reuters’in tespitleri
Reuters’e göre kısa süre sonra Grok tarafından oluşturulan ve Yukari’yi neredeyse çıplak gösteren görseller platformda dolaşıma girdi. Ajansın incelemesinde, Grok’un yalnızca yetişkinleri değil, bazı vakalarda çocukların cinselleştirilmiş görüntülerini de ürettiği belirtildi. X ve platformun sahibi xAI, Reuters’in bu bulgularına ilişkin yorum taleplerine yanıt vermedi.
Reuters’in analizinde, Grok’un kamuya açık talepler doğrultusunda fotoğraflardaki kişilerin kıyafetlerini dijital olarak değiştirdiği çok sayıda örnek yer aldı. İncelenen vakaların büyük bölümünde hedef alınan kişilerin genç kadınlar olduğu, bazı taleplerde ise ünlüler ve farklı figürlerin yer aldığı aktarıldı.
Uluslararası tepkiler
Grok tarafından üretilen bu tür içerikler, uluslararası alanda düzenleyici kurumların da dikkatini çekti. Fransa’da bazı bakanlar, rahatsız edici görüntüler nedeniyle X’i savcılıklara ve düzenleyici kurumlara şikâyet etti. Yapılan açıklamalarda, “cinsel ve cinsiyetçi” içeriklerin açıkça yasa dışı olduğu vurgulandı.
Hindistan Bilgi Teknolojileri Bakanlığı da X’in yerel birimine gönderdiği yazıda, Grok’un müstehcen ve cinsel içerikli materyaller üretip yaymasının engellenemediğini bildirdi. ABD Federal İletişim Komisyonu ve Federal Ticaret Komisyonu ise konuya ilişkin yorum yapmadı.
Uzman uyarıları
Reuters’e konuşan bazı yapay zekâ ve çocuk güvenliği uzmanları, xAI’nin daha önce yapılan uyarılara rağmen yeterli önlem almadığını ifade etti. Ulusal Cinsel İstismarla Mücadele Merkezi yetkilileri, yapay zekâ sistemlerinin yasa dışı içerik üretimini önleyecek şekilde sınırlandırılması gerektiğini belirtti.
Julie Yukari ise yaşadığı sürecin ardından, X’te itirazda bulunmasının ardından daha fazla kullanıcının Grok’tan kendisiyle ilgili daha açık görseller talep etmeye başladığını söyledi. Yukari, yaşananların kişisel mahremiyet üzerindeki etkilerine dikkat çekti.
