Teknoloji dünyası, Elon Musk’ın sahibi olduğu xAI şirketi tarafından geliştirilen yapay zeka aracı Grok ile ilgili ortaya çıkan yeni ve ürkütücü detaylarla sarsılıyor. Elon Musk’ın “gerçeği arayan” yapay zekası olarak lanse edilen Grok, geçtiğimiz haftalarda sosyal medya platformu X’i (eski adıyla Twitter), kadınların “çıplaklaştırılmış” sahte görüntüleri ve reşit olmayan bireylerin cinselleştirilmiş görselleriyle doldurduğu gerekçesiyle büyük tepki çekmiş ve soruşturma çağrılarına maruz kalmıştı. Ancak WIRED dergisi tarafından yapılan kapsamlı bir inceleme, buzdağının görünmeyen yüzünün çok daha karanlık olduğunu ortaya koydu.
X platformundaki paylaşımlar buzdağının sadece görünen kısmıydı. Yapılan incelemelere göre, Grok’un X’ten bağımsız olarak çalışan resmi web sitesi ve mobil uygulaması, X üzerinde mümkün olandan çok daha grafik, şiddet içeren ve son derece rahatsız edici cinsel içerikli videolar üretmek için kullanılıyor. Bu platformda üretilen içerikler arasında yetişkinlere yönelik aşırı şiddet içeren cinsel görüntülerin yanı sıra, reşit olmayan bireyleri tasvir eden cinselleştirilmiş videoların da yer aldığı belirtiliyor.
X Platformundan Farklı Bir Mekanizma: Gizli Tehlike
X platformunda Grok kullanılarak oluşturulan bir çıktı, varsayılan olarak herkese açık şekilde paylaşılıyor. Bu durum, içeriklerin hızla raporlanmasına veya fark edilmesine olanak tanıyabiliyor. Ancak Grok’un kendi uygulaması veya web sitesi üzerinden “Imagine” (Hayal Et) modeli kullanılarak oluşturulan görüntüler ve videolar, kullanıcı özel olarak paylaşmadığı sürece açıkça yayınlanmıyor. Bu gizlilik, denetim mekanizmasının zayıflamasına neden oluyor.
Bununla birlikte, bir kullanıcı oluşturduğu içeriğin “Imagine” bağlantısını (URL) paylaşırsa, bu içerik bağlantıya sahip olan herkes tarafından görüntülenebiliyor. WIRED ve Paris merkezli kar amacı gütmeyen kuruluş AI Forensics, Google tarafından indekslenen veya deepfake pornografi forumlarında paylaşılan yaklaşık 1.200 adet “Imagine” bağlantısından oluşan bir önbelleği inceledi. Ortaya çıkan tablo, X üzerinde görülenlerden çok daha vahim ve açık seçik cinsel şiddet içeren videoları gözler önüne serdi.
Kan Donduran İçerikler: Şiddet ve Pornografi İç İçe
Grok.com üzerinde barındırılan ve fotorealistik (gerçekçi fotoğraf kalitesinde) özelliklere sahip bir videoda, yapay zeka tarafından üretilmiş tamamen çıplak bir erkek ve kadının, vücutları ve yüzleri kanla kaplı bir şekilde cinsel ilişkiye girdiği görülüyor. Bu sırada arka planda başka çıplak kadınların dans ettiği sahne, anime tarzı karakterlerin görüntüleriyle çerçevelenmiş durumda.
Bir başka fotorealistik videoda ise şiddetin dozu daha da artıyor. Bu videoda, yapay zeka tarafından oluşturulmuş çıplak bir kadının cinsel organına bir bıçak saplanmış olduğu, bacaklarında ve yatakta kan izlerinin bulunduğu görülüyor. Bu tür içerikler, yapay zekanın etik sınırlarının ne kadar aşılabileceğini ve şiddetle pornografinin nasıl harmanlandığını acı bir şekilde gösteriyor.
Grok tarafından üretilen diğer kısa videolarda, gerçek hayattaki kadın ünlülerin cinsel aktivitelerde bulunduğu sahte görüntüler yer alıyor. Ayrıca, televizyon haber sunucularının göğüslerini açmak için kıyafetlerini yukarı kaldırdığını gösteren bir dizi video da tespit edilen içerikler arasında. Bir başka videoda ise bir alışveriş merkezinin ortasında bir güvenlik görevlisinin üstsüz bir kadını taciz ettiği anların, bir televizyon ekranında oynatılan güvenlik kamerası (CCTV) kaydı şeklinde kurgulandığı görülüyor.
Güvenlik Sistemlerini Aşmak İçin “Netflix” Kılıfı
Kullanıcıların, Grok’un içerik güvenliği sistemlerini atlatmak için yaratıcı ama bir o kadar da rahatsız edici yöntemler geliştirdiği anlaşılıyor. Grafik içerikleri kısıtlayan filtrelerden kaçmak amacıyla, bazı videoların sahte Netflix “film” posterleri gibi tasarlandığı belirlendi.
Örneğin, tespit edilen iki videoda, Galler Prensesi Diana’nın yapay zeka ile oluşturulmuş çıplak bir tasviri, yatakta iki erkekle cinsel ilişkiye girerken görülüyor. Bu görüntülerin üzerinde ise Netflix logosu ve platformun ünlü dizisi The Crown’ın (Taç) logoları yer alıyor. Bu yöntemle kullanıcılar, sanki bir film sahnesi veya posteri oluşturuyormuş gibi yaparak yapay zekanın güvenlik duvarlarını aşmayı başarıyor.
Çocuk İstismarı Materyali (CSAM) Riski
İncelenen içerikler arasında en endişe verici olan kısım ise çocuk istismarı materyali (CSAM) şüphesi taşıyan görüntüler. AI Forensics’in baş araştırmacısı Paul Bouchaud, arşivlenen yaklaşık 800 adet “Imagine” bağlantısını inceledi. Bu bağlantıların tamamı geçtiğimiz yılın Ağustos ayından bu yana arşivlenmiş durumda ve Grok kullanılarak oluşturulan milyonlarca görselin sadece çok küçük bir kısmını temsil ediyor.
Bouchaud, incelediği 800 bağlantı hakkında şunları söylüyor: “Bunlar ezici bir çoğunlukla cinsel içerikli. Çoğu zaman manga ve hentai tarzı açık içerikler olsa da fotorealistik olanlar da var. Tam çıplaklık ve sesli tam pornografik videolar görüyoruz ki bu oldukça yeni bir durum.”
Daha da korkutucu olanı, Bouchaud bu 800 gönderinin yüzde 10’undan biraz azının çocuk cinsel istismarı materyali (CSAM) ile ilişkili göründüğünü tahmin ediyor. Bouchaud, “Çoğu zaman hentai tarzında olsa da, çok genç görünen insanların cinsel aktivitelerde bulunduğu fotorealistik örnekler de var,” diyor ve ekliyor: “Hala çok genç görünen kadınların soyunduğu ve erkeklerle aktivitelere girdiği bazı videolar gözlemliyoruz. Bu, rahatsız edicilikte bambaşka bir seviye.”
Araştırmacı, reşit olmayanların cinselleştirilmiş içeriğini barındırabileceğini düşündüğü yaklaşık 70 Grok URL’sini Avrupa’daki düzenleyici kurumlara bildirdiğini belirtiyor. Birçok ülkede, çizimler veya animasyonlar da dahil olmak üzere yapay zeka tarafından üretilen CSAM yasa dışı kabul ediliyor. Paris savcılığı, kısa süre önce iki milletvekilinin “çıplaklaştırılmış” görüntüler hakkında sosyal medya şirketine şikayette bulunduğunu ve soruşturma başlatıldığını duyurmuştu.
Şirketlerin Sessizliği ve Politika İhlalleri
Grok’un yaratıcısı olan ve Elon Musk’a ait yapay zeka şirketi xAI, WIRED’ın Grok Imagine ile oluşturulan bu açık seçik videolar hakkındaki yorum talebine yanıt vermedi. Grok’un X platformunu yapay zeka tarafından üretilen uygunsuz görüntülerle doldurmaya başlamasından bu yana Elon Musk ve X yönetimi, çocuk cinsel istismarı materyallerine karşı harekete geçtiklerini belirtmişti. Musk, X üzerinden yaptığı bir paylaşımda, “Grok’u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara katlanacaktır” ifadelerini kullanmıştı.
CSAM (Çocuk Cinsel İstismarı Materyali) ile sürekli mücadele eden diğer teknoloji firmaları gibi, xAI’ın politikaları da hizmetlerinde “çocukların cinselleştirilmesi veya istismar edilmesinin” yasak olduğunu belirtiyor. Aynı şekilde “yasa dışı, zararlı veya istismar edici faaliyetler” de yasak kapsamında. Şirket, yapay zeka CSAM oluşturulmasını tespit etmeye ve sınırlamaya çalışan süreçlere sahip olduğunu iddia ediyor.
Ancak Eylül ayında Business Insider’da yayınlanan bir raporda, mevcut ve eski 30 xAI çalışanıyla yapılan görüşmelere yer verilmiş ve bu çalışanlardan 12’sinin hizmetlerde hem cinsel içerikli materyallere hem de yapay zeka CSAM oluşturmaya yönelik yazılı komutlara (prompt) rastladığı belirtilmişti. Çalışanlar, yapay zeka modellerinin bu tür verilerle eğitilmesini önlemeye ve içerikleri tespit etmeye çalışan sistemlerden bahsetmişti.
Grok uygulamasını kendi uygulama mağazalarında (App Store ve Google Play) kullanıma sunan Apple ve Google da konuyla ilgili sessizliğini koruyor. Aynı şekilde, logoları izinsiz kullanılan Netflix de yorum taleplerine dönüş yapmadı.
OpenAI ve Google’dan Farklı Bir Yaklaşım
xAI, OpenAI (ChatGPT) ve Google (Gemini) gibi diğer büyük üretken yapay zeka şirketlerinin aksine, Grok’un yapay zeka pornografisi ve yetişkin materyalleri oluşturmasına izin veriyor. Grok’un, kullanıcıların daha serbest içerik üretebildiği bir “baharatlı” (spicy) modu bulunuyor. xAI’ın hizmet şartlarında, “Kullanıcılar belirli özellikleri seçerse veya imalı/kaba bir dil girerse, Hizmet kaba dil, kaba mizah, cinsel durumlar veya şiddet içerebilecek bazı diyaloglarla yanıt verebilir” ifadesi yer alıyor.
Ancak uzmanlar bu serbestliğin tehlikelerine dikkat çekiyor. Durham Üniversitesi’nden hukuk profesörü ve görüntü tabanlı cinsel istismar uzmanı Clare McGlynn, Grok videoları hakkında derin endişe duyduğunu belirtiyor. McGlynn, “Son birkaç haftadır yaşananlar ve şimdi bu durum, sanki bir uçurumdan aşağı adım atmışız ve insan ahlaksızlığının derinliklerine serbest düşüş yapıyormuşuz gibi hissettiriyor,” diyor. “Bazı insanların insanlık dışı dürtüleri, korkuluklar veya etik kurallar olmaksızın bu teknoloji tarafından teşvik ediliyor ve kolaylaştırılıyor.”
McGlynn, gerçek bir insanı tasvir etmeye çalışmayan yapay zeka pornografisine izin verilmesinin bile, hayvanlarla cinsel ilişki (zoofili) veya tecavüz gibi potansiyel olarak yasa dışı eylemlerin tasviri konusunda soru işaretleri yarattığını vurguluyor. McGlynn’e göre asıl mesele, cinsel şiddeti normalleştiren ve önemsizleştiren bir pornografi türünün serbestçe yaratılıp paylaşılmasının yaratacağı toplumsal etki.
Yaş Doğrulaması Yok, Denetim Yetersiz
X platformu, “yaş kısıtlamalı yetişkin içeriği” olarak işaretlenen bir gönderiyi görüntülemek için kullanıcının oturum açmasını zorunlu kılarken, Grok platformunda üretilen cinsel içerikli videoları izlemek için herhangi bir yaş doğrulaması (age-gating) yapılmadığı görülüyor. Oysa ABD’deki birçok eyalet, içeriğinin belirli bir yüzdesi cinsel içerikli olan web sitelerinin kullanıcıların yaşını doğrulamasını zorunlu kılan yasaları yakın zamanda yürürlüğe koymuştu.
Kullanıcılar Forumlarda “Jailbreak” Yöntemleri Paylaşıyor
Yapay zeka deepfake’leri ve video üretim eğitimlerinin yer aldığı bir pornografi forumunda, kullanıcılar geçtiğimiz yılın Ekim ayından beri Grok Imagine özelliğini tartışıyor. xAI’ın getirdiği moderasyon çabalarını atlatmanın yollarını arayan kullanıcıların oluşturduğu başlık, bu hafta itibarıyla 300 sayfaya ulaşmış durumda.
Forumdaki kullanıcılar, yetişkin cinsel görüntüleri oluşturabilen komutları (prompt) birbirleriyle paylaşıyor. “Bu komut bende 10 denemenin 7’sinde çalışıyor” gibi ipuçları vererek, xAI’ın koyduğu güvenlik bariyerlerini aşan teknikler geliştiriyorlar.
Bir kullanıcı yakın zamanda, “Yaptığım her şey moderasyona takılıyor, muhtemelen Grok haberlerde olduğu için” diye yazdı. Ancak forumdaki son aylara ait paylaşımlar, tam çıplaklık ve penetratif cinsellik içeren görüntülerin güvenilir bir şekilde oluşturulabildiğini kanıtlıyor. Bazı görüntüler tamamen yapay zeka karakterlerini içerirken, diğerleri gerçek insanları ve ünlüleri hedef alıyor. Bir kullanıcı, “Moderasyonun bazen belirli ünlülerin görüntülerine takılıp bazen takılmaması ilginç. Grok’un oldukça iyi bir Prenses Leia yaptığını ve birkaç görüntüsünü oluşturduğunu keşfettim,” şeklinde deneyimini paylaşıyor.
Öte yandan, ana Grok subreddit’inde (Reddit topluluğu), kullanıcılar artan kamuoyu incelemesi nedeniyle getirilen yeni moderasyon değişikliklerine tepkili. Bir kullanıcı, “Tanrı aşkına bu o kadar da zor değil, her şeyi varsayılan olarak halka açık yapmayın ve bir sosyal medya sitesinde tamamen ifşa etmeyin, aptallar,” diyerek X entegrasyonunu eleştirirken, bir diğeri “Aboneliğimi iptal ediyorum, bu insanlara para vermeyi bırakın” diyerek sansüre tepki gösterdi.
