Malezya ve Endonezya'da "Grok" müstehcen deepfake gerekçesiyle engellendi

Malezya ile Endonezya, Elon Musk’ın X platformunda yer alan yapay zekâ tabanlı sohbet aracı Grok’u, müstehcen deepfake içerik üretimine imkân tanıdığı gerekçesiyle ülkelerinde erişime kapattı. İki ülke, bu adımı atan dünyadaki ilk devletler oldu.

Yetkililer, Grok’un gerçek kişilere ait fotoğrafları izinsiz şekilde düzenleyerek cinsel çağrışımlı görüntüler oluşturmak için kullanılabildiğine dikkat çekti. Özellikle kadınlar ve çocukları hedef alan rızaya dayanmayan içeriklerin, çevrim içi güvenlik ve insan onuru açısından ciddi tehdit oluşturduğu vurgulandı.

Her iki ülkenin iletişim ve dijitalden sorumlu bakanlıkları, hafta sonu yaptıkları açıklamalarla kararın gerekçelerini kamuoyuna duyurdu. Malezya İletişim ve Multimedya Komisyonu, Grok’un zararlı içerik üretiminde tekrar tekrar suistimal edildiğini tespit ettiklerini, bu nedenle daha önce X platformuna önlem alınması yönünde uyarılar gönderildiğini açıkladı.

Komisyon, X’in verdiği yanıtların yetersiz kaldığını, platformun yapısal risklerini ele almak yerine yalnızca kullanıcı şikâyet mekanizmalarına odaklandığını belirtti. Etkili güvenlik tedbirleri hayata geçirilene kadar Grok’un engelli kalacağı ifade edildi.

Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid ise sosyal medya üzerinden yaptığı paylaşımda, yapay zekâ yoluyla cinsel içerik üretilmesinin insan haklarına ve dijital güvenliğe açık bir saldırı olduğunu söyledi. Bakanlık, Grok’un nasıl denetlendiğine dair X’ten resmi açıklama talep etti.

Endonezya, son yıllarda internet üzerindeki pornografik içeriklere karşı sert bir politika izliyor. 

X kullanıcıları arasında da tepkiler yükseldi. Fotoğrafları yapay zekâ ile manipüle edilen bazı Endonezyalı kullanıcılar, yaşananların öfke ve utanç verici olduğunu dile getirdi. Günlük hayatını sosyal medyada paylaşan Kirana Ayuningtyas, bir yabancının fotoğrafı üzerinden Grok’a kendisini bikiniyle gösteren bir görsel üretme talebi verdiğini fark ettiğini anlattı.

Ayuningtyas, gizlilik ayarlarını değiştirmesine ve içeriklerin kaldırılması için başvurmasına rağmen sonuç alamadığını, sahte görüntülerin başkalarının elinde dolaşma ihtimalinin kendisini rahatsız ettiğini söyledi.

Grok’un bu şekilde kullanılması uluslararası alanda da tartışma yarattı. Birleşik Krallık’ta bazı siyasetçiler, aracın engellenmesini gündeme getirirken, Başbakan Keir Starmer söz konusu uygulamaları “kabul edilemez” olarak nitelendirdi.

İngiltere Teknoloji Bakanı Liz Kendall ise çevrim içi güvenlik yasalarına uyulmaması hâlinde düzenleyici kurum Ofcom’un erişim engeli getirebileceğini, böyle bir adım atılması durumunda hükümetin bunu destekleyeceğini açıkladı. Musk ise bu tartışmalar üzerine hükümetleri ifade özgürlüğünü kısıtlamakla suçladı.