Sapık Grok Şimdi de Çocukları Hedef Aldı!
Elon Musk’ın yapay zeka sohbet robotu Grok, araştırmacıların aracın yasa dışı çocuk cinsel istismarı materyalleri oluşturmak için kullanıldığını doğrulamasının ardından birçok kıtada geniş çaplı soruşturmalarla karşı karşıya kaldı. Kadınlara yönelik rızası olmayan deepfake görüntüleriyle başlayan tartışmalar, artık kriminal içerikleri de kapsayan uluslararası bir krize dönüştü.
Elon Musk’ın yapay zekası Grok için küresel soruşturma dalgası
Çevrimiçi çocuk istismarını takip eden İngiliz kuruluşu Internet Watch Foundation, dark web forumlarında 11 ila 13 yaşlarındaki kız çocuklarını tasvir eden ve kullanıcıların Grok kullanılarak oluşturulduğunu iddia ettiği suç unsuru görüntüler keşfetti. Vakıf, en az bir kullanıcının Grok tarafından üretilen içeriği, başka bir yapay zeka aracı kullanarak daha aşırı materyaller oluşturmak için temel olarak kullandığını belirtti.
Araştırmacı Genevieve Oh tarafından yapılan 24 saatlik bir analiz, 5-6 Ocak tarihleri arasında Grok’un saatte yaklaşık 6.700 cinsel içerikli veya çıplaklık içeren görüntü ürettiğini ortaya koydu. AI Forensics tarafından yapılan ayrı bir analiz ise, üretilen görüntülerin yüzde 53’ünün bireyleri çok az kıyafetle tasvir ettiğini, yüzde 81’inin kadın olarak gösterildiğini ve yüzde 2’sinin 18 yaşın altında göründüğünü saptadı.
Kriz, X platformunun Aralık ayı sonlarında Grok için kullanıcıların sohbet robotunu halka açık gönderilerde etiketlemesine olanak tanıyan güncellenmiş bir görsel düzenleme özelliğini kullanıma sunmasından sonra başladı. Kullanıcılar kısa süre içinde Grok’a kadınları dijital olarak soyma veya cinsel içerikli pozlara sokma komutu verebildiklerini keşfettiler ve bu değiştirilen görüntüler otomatik olarak X platformunda yayınlanarak geniş kitlelere ulaştı.
Dünya genelindeki düzenleyiciler duruma alışılmadık bir hızla tepki gösterdi. İngiltere’de hükümet, X platformuna yönelik potansiyel bir boykot da dahil olmak üzere tüm seçeneklerin masada olduğunu belirtirken, Avrupa Komisyonu X’in Grok ile ilgili tüm iç belgeleri 2026 yılının sonuna kadar saklamasını emretti.
Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı, derhal harekete geçilmesi talebiyle 72 saatlik bir ültimatom yayınladı. Hindistan hükümeti, şirketin Grok’un bu tür materyalleri üretmesini engellemek yerine, içerik oluşturulduktan sonra kullanıcıları cezalandırmaya odaklanmasından memnuniyetsizlik duyduğunu ifade etti. Fransa konuyu cezai soruşturma için savcılara havale ederken, Malezya da şirket temsilcilerini sorgulamak üzere çağıracağını duyurdu.
Soruşturmalar sürerken Musk’ın xAI şirketi, Nvidia’nın da stratejik yatırımcı olarak katıldığı turda 20 milyar dolar fon topladığını duyurdu. Elon Musk ise yasa dışı içerik oluşturmak için Grok kullananların, yasa dışı içerik yüklemiş gibi sonuçlara katlanacağını belirterek sorumluluğu büyük ölçüde reddetti. X’in Güvenlik hesabı yasa dışı içeriklere karşı işlem yapıldığını belirtse de, raporlar sorunlu görüntü üretiminin Musk’ın açıklamasından sonraki günlerde de devam ettiğini gösteriyor.
Yapay zeka teknolojilerinin gelişimiyle birlikte ortaya çıkan bu tür güvenlik ve etik sorunları hakkında siz ne düşünüyorsunuz? Sizce sosyal medya platformları, yapay zeka araçlarının kötüye kullanımını engellemek için daha sıkı önlemler almalı mı?
