Elon Musk’ın sahibi olduğu sosyal medya platformu X, yapay zeka botu Grok üzerinden yasa dışı içerik üreten kullanıcılara yönelik sert bir uyarı yayımladı. 4 Ocak tarihinde yapılan açıklamada, Grok’a yasa dışı içerik üretmesi için talimat veren kullanıcıların, bu içerikleri doğrudan yükleyenlerle aynı yaptırımlara maruz kalacağı belirtildi. X güvenlik ekibi, bu tür eylemlerin içeriklerin kaldırılmasına, hesapların kalıcı olarak askıya alınmasına yol açacağını ve gerektiğinde kolluk kuvvetleriyle iş birliği yapılacağını duyurdu.
X platformundan Grok kullanıcılarına kritik uyarı: Yasa dışı içerik üreten yandı!
Bu uyarı, Hindistan hükümetinin platforma verdiği 72 saatlik ültimatomun ardından geldi. Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı, Grok’un görüntü oluşturma yeteneklerinin kadınlara ve çocuklara yönelik rızasız cinsel içerikler üretmek için kötüye kullanıldığını tespit etti. Hükümet, X’ten güvenlik sistemlerini gözden geçirmesini ve detaylı bir rapor sunmasını talep etti. 2 Ocak tarihinde gönderilen resmi bildirimde, platformun yükümlülüklerini yerine getirmemesi durumunda Hindistan yasaları kapsamındaki dokunulmazlık hakkını kaybedebileceği vurgulandı.
Kullanıcıların Grok’u etiketleyerek uygunsuz komutlarla müstehcen görseller oluşturduğu ve bunları platformda paylaştığı rapor edildi. Özellikle reşit olmayan çocukların görüntülerinin bu araçla manipüle edilmesi büyük bir infiale yol açtı. Hindistan yetkilileri, X’in istenen raporu henüz sunmadığını belirtirken, platformun geçmişte de benzer nedenlerle dokunulmazlık statüsünü 2022 yılında üç ay boyunca kaybettiği hatırlatıldı.
Olay uluslararası boyutta da büyük tepki çekti. Fransa hükümeti durumu Paris savcılığına bildirerek içeriklerin açıkça yasa dışı olduğunu ifade etti. Üç Fransız bakan, Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) kapsamındaki olası ihlalleri değerlendirmesi için medya düzenleyici kuruluşu Arcom’u bilgilendirdi. 5 Ocak itibarıyla Avrupa Komisyonu da şikayetleri ciddiyetle incelediklerini açıkladı. AB yetkilileri, bu tür içeriklerin “iğrenç” olduğunu ve Avrupa’da hiçbir şekilde yeri olmadığını dile getirdi.
Avrupa Birliği, geçtiğimiz Aralık ayında içerik şeffaflığı kurallarını ihlal ettiği gerekçesiyle X platformuna 120 milyon euro para cezası kesmişti. Yaşanan son gelişmeler, yapay zeka şirketlerinin birer yayıncı mı yoksa aracı mı olduğu konusundaki hukuki tartışmaları tekrar alevlendirdi. Kullanıcıların yapay zeka araçlarını kötüye kullanarak yasa dışı içerik üretmesi durumunda sorumluluğun kime ait olduğu sorusu teknoloji dünyasında henüz netlik kazanmış değil.
