Avrupa Birliği (AB), Elon Musk’ın sahibi olduğu sosyal medya platformu X‘in (eski adıyla Twitter) entegre ettiği yapay zeka aracı Grok‘un, gerçek kişilerin fotoğraflarını cinsel içerikli şekilde manipüle ederek “deepfake” (derin sahte) görüntüler üretmesine yönelik ciddi bir soruşturma başlattı.
Soruşturmanın Temeli ve DSA Bağlantısı
Avrupa Komisyonu, bu soruşturmayı Dijital Hizmetler Yasası (Digital Services Act – DSA) kapsamında yürütüyor. DSA, büyük çevrimiçi platformların yasa dışı ve zararlı içerikleri önleme, risk değerlendirmesi yapma ve kullanıcı haklarını koruma yükümlülüğünü getiriyor. Uyulmaması halinde platformlara küresel yıllık cirolarının %6’sına varan para cezaları kesilebiliyor.
Komisyon, özellikle Grok’un kullanıcıların basit metin komutlarıyla gerçek kişilerin (özellikle kadın ve çocukların) kıyafetlerini dijital olarak kaldırarak cinsel içerikli görüntüler üretip üretmediğini ve bu görüntülerin AB kullanıcılarına gösterilip gösterilmediğini inceliyor. Avrupa Komisyonu’nun Teknoloji Egemenliği, Güvenlik ve Demokrasi’den sorumlu Başkan Yardımcısı Henna Virkkunen, cinsel deepfake’leri “şiddet içeren ve kabul edilemez bir aşağılama biçimi” olarak nitelendirdi ve şu ifadeyi kullandı:
“Bu soruşturmayla X’in DSA kapsamındaki yasal yükümlülüklerini yerine getirip getirmediğini, yoksa Avrupalı vatandaşların – özellikle kadın ve çocukların – haklarını hizmetinin bir yan zararı olarak mı gördüğünü belirleyeceğiz.”
Grok’un Yetenekleri ve Tartışmalar
Grok, xAI tarafından geliştirilen ve X platformuna entegre edilen üretken yapay zeka modeli. Son dönemde görüntü üretme özelliği genişletildi ve kısa sürede 30 günde 5,5 milyardan fazla görüntü üretildiği belirtiliyor. Ancak bu özellik, kullanıcıların ünlülerden sıradan kişilere kadar gerçek fotoğrafları “soyarak” (undressing) cinsel içerikli sahte görüntüler oluşturmasına olanak tanıdı. Bu tür non-consensual (rızasız) deepfake’ler, özellikle kadınlar ve çocuklar için ciddi psikolojik ve toplumsal zararlara yol açıyor.
X, bazı ülkelerde (yasak olan bölgelerde) Grok’un bu tür kıyafet çıkarma manipülasyonlarını engellediğini açıkladı. Ancak Avrupa Komisyonu, platformun bu riskleri yeterince önceden değerlendirip değerlendirmediğini ve AB genelinde etkili koruma sağlayıp sağlamadığını sorguluyor.
Uluslararası Bağlam ve Benzer Gelişmeler
- Birleşik Krallık’ta Ofcom düzenleyicisi Ocak ayında benzer bir inceleme başlattı.
- Avustralya, Fransa ve Almanya’da da Grok ile ilgili soruşturmalar sürüyor.
- Endonezya ve Malezya’da kısa süreli erişim engelleri uygulanmıştı (Malezya’da engel kaldırıldı).
- Elon Musk, bu tür düzenlemeleri “sansür” olarak nitelendirerek eleştirdi ve ABD’li yetkililerin (örneğin Dışişleri Bakanı Marco Rubio) “AB’nin Amerikan teknoloji şirketlerine saldırısı” yönündeki açıklamalarını destekledi.
Neden Bilimsel Açıdan da Önemli?
Bu olay, üretken yapay zekanın (özellikle görüntü sentezleyen modellerin) etik sınırlarını, rızasız deepfake üretiminin toplumsal cinsiyet temelli şiddetle ilişkisini ve platformların AI güvenliği sorumluluğunu öne çıkarıyor. Yapay zeka güvenliği (AI safety) ve içerik moderasyonu alanındaki en kritik tartışmalardan biri haline geldi:
- AI modelleri ne kadar “açık” olmalı?
- Zararlı kullanım riskleri nasıl minimize edilir?
- Yasal düzenlemeler teknolojinin hızına yetişebiliyor mu?
AB’nin DSA üzerinden attığı bu adım, büyük teknoloji şirketlerinin AI araçlarını nasıl tasarlayıp dağıttığı konusunda küresel standartları etkileyebilecek bir örnek olabilir. Soruşturma sonuçlanırsa, hem X hem de benzer AI araçları geliştiren şirketler için daha katı güvenlik önlemleri ve şeffaflık zorunlulukları gündeme gelebilir.
