X platformu, yapay zekâ modeli Grok’un gerçek kişilerin fotoğrafları üzerinde cinsel içerikli görseller üretmesine yönelik özelliği kaldırdı. Kararın, özellikle deepfake ve yapay zekâ destekli cinsel içerikli sahte görsellere ilişkin artan endişeler sonrası alındığı belirtildi.
Platformdan yapılan açıklamada, Grok’un gerçek kişilerin görüntülerini bikini gibi açık kıyafetlerle veya cinsel içerik çağrışımı oluşturacak biçimde göstermesini engellemek için yeni teknolojik önlemlerin devreye alındığı bildirildi. Açıklamada, kısıtlamanın ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu vurgulandı.
ABD’nin Kaliforniya eyaletinde Başsavcı Rob Bonta, 14 Ocak’ta X hakkında Grok nedeniyle soruşturma başlatmıştı. Bonta, soruşturmanın özellikle çocuklar da dahil olmak üzere kişilerin yapay zekâ kullanılarak cinsel içerikli deepfake görsellerinin üretilmesine odaklandığını açıklamıştı.
Bonta, “Kadınları ve çocukları çıplak ya da cinsel içerikli biçimde tasvir eden bu materyaller, internet üzerinden taciz amacıyla kullanıldı” ifadelerini kullanmıştı.
X’in sahibi Elon Musk, daha önce Grok’a yönelik eleştirilere sert tepki göstermişti. Musk, platformun sansürle karşı karşıya olduğunu savunarak, eleştirileri “ifade özgürlüğünü baskı altına alma girişimi” olarak nitelendirmişti.
Musk ayrıca İngiltere Başbakanı Keir Starmer’a ait yapay zekâ ile oluşturulmuş bikinili görselleri paylaşarak tartışmaları daha da büyütmüştü.
Grok’un görsel üretim özelliği, uluslararası düzeyde de tepki çekti. Malezya ve Endonezya, kullanıcıların fotoğraflarının izinsiz şekilde müstehcen görsellere dönüştürüldüğü gerekçesiyle Grok’a erişim engeli getirdi.
İngiltere’de medya düzenleyici kurum Ofcom, X’in cinsel içerikli yapay zekâ görselleri konusunda yasal yükümlülüklere uyup uymadığını incelemek üzere soruşturma başlattı. Tartışmaların ardından bazı İngiliz milletvekilleri de X hesaplarını kapattı.
