Raksasa media sosial Meta dan X disetujui iklan yang menargetkan pengguna di Jerman dengan pidato kebencian anti-Muslim dan anti-Yahudi yang keras menjelang pemilihan federal negara itu, menurut penelitian baru dari EkoGrup Kampanye Tanggung Jawab Perusahaan.
Peneliti kelompok menguji apakah sistem peninjauan iklan dua platform akan menyetujui atau menolak pengiriman untuk iklan yang mengandung pesan penuh kebencian dan kekerasan yang menargetkan minoritas menjelang pemilihan di mana imigrasi telah menjadi pusat perhatian dalam wacana politik utama-termasuk iklan yang mengandung penghinaan anti-Muslim; Panggilan untuk imigran dipenjara di kamp konsentrasi atau dibakar; dan citra masjid dan sinagog yang dihasilkan AI yang dibakar.
Sebagian besar iklan uji disetujui dalam beberapa jam setelah diserahkan untuk ditinjau pada pertengahan Februari. Pemilihan federal Jerman akan berlangsung pada hari Minggu, 23 Februari.
Iklan ucapan kebencian dijadwalkan
Eko mengatakan x menyetujui semua 10 iklan pidato kebencian yang diajukan para peneliti hanya beberapa hari sebelum pemilihan federal akan terjadi, sementara meta disetujui setengah (lima iklan) untuk dijalankan di Facebook (dan berpotensi juga Instagram) – meskipun menolak yang lain lima.
Alasan meta memberikan lima penolakan menunjukkan platform yang diyakini ada risiko sensitivitas politik atau sosial yang mungkin mempengaruhi pemungutan suara.
Namun, lima iklan yang disetujui meta termasuk pidato kebencian yang keras menyamakan pengungsi Muslim dengan “virus,” “hama,” atau “hewan pengerat,” branding imigran Muslim sebagai “pemerkosa,” dan menyerukan agar mereka disterilkan, dibakar, atau gas . Meta juga menyetujui iklan yang menyerukan sinagog untuk dibakar untuk “menghentikan agenda tikus Yahudi globalis.”
Sebagai sidenote, Eko mengatakan tidak ada citra yang dihasilkan AI yang digunakan untuk menggambarkan iklan pidato kebencian dilabeli sebagai yang dihasilkan secara artifisial-namun setengah dari 10 iklan masih disetujui oleh meta, terlepas dari perusahaan yang memiliki a kebijakan yang membutuhkan pengungkapan penggunaan citra AI untuk iklan tentang masalah sosial, pemilihan atau politik.
X, sementara itu, menyetujui kelima iklan yang penuh kebencian ini – dan lima lebih lanjut yang berisi pidato kebencian yang sama kerasnya menargetkan Muslim dan Yahudi.
Iklan tambahan yang disetujui ini termasuk pesan yang menyerang imigran “hewan pengerat” yang diklaim salinan iklan itu “membanjiri” negara “untuk mencuri demokrasi kita,” dan slur antisemit yang menyarankan bahwa orang Yahudi berbohong tentang perubahan iklim untuk menghancurkan industri Eropa dan bertambah kekuatan ekonomi.
Iklan terakhir ini dikombinasikan dengan citra yang dihasilkan AI yang menggambarkan sekelompok pria bayangan yang duduk di sekitar meja yang dikelilingi oleh tumpukan batang emas, dengan bintang David di dinding di atas mereka-dengan visual juga bersandar pada kiasan antisemitik.
AD X lainnya yang disetujui berisi serangan langsung pada SPD, partai kiri-tengah yang saat ini memimpin pemerintah koalisi Jerman, dengan klaim palsu bahwa partai tersebut ingin menerima 60 juta pengungsi Muslim dari Timur Tengah, sebelum melanjutkan untuk mencoba untuk mencoba melakukannya Menyiapkan tanggapan kekerasan. X juga dengan sepatutnya menjadwalkan iklan yang menyarankan “kiri” menginginkan “perbatasan terbuka”, dan menyerukan pemusnahan “pemerkosa” Muslim.
Elon Musk, pemilik X, telah menggunakan platform media sosial di mana ia memiliki hampir 220 juta pengikut untuk secara pribadi campur tangan dalam pemilihan Jerman. Di dalam Tweet di bulan Desemberdia menyerukan pemilih Jerman untuk mendukung partai AFD paling kanan untuk “menyelamatkan Jerman.” Dia juga menjadi tuan rumah streaming langsung dengan pemimpin AFD, Alice Weidel, di X.
Peneliti EKO menonaktifkan semua iklan uji sebelum apa pun yang telah disetujui dijadwalkan untuk dijalankan untuk memastikan tidak ada pengguna platform yang terpapar dengan pidato kebencian yang kejam.
Dikatakan tes menyoroti kelemahan mencolok dengan pendekatan platform iklan terhadap moderasi konten. Memang, dalam kasus X, tidak jelas apakah platform melakukan moderasi iklan, mengingat semua 10 iklan pidato kebencian dengan cepat disetujui untuk ditampilkan.
Temuan ini juga menunjukkan bahwa platform iklan dapat menghasilkan pendapatan sebagai hasil dari mendistribusikan pidato kebencian yang keras.
Layanan digital UE bertindak dalam bingkai
Tes Eko menunjukkan bahwa tidak ada platform yang dengan benar menegakkan larangan pada pidato kebencian yang mereka berdua klaim berlaku untuk konten iklan dalam kebijakan mereka sendiri. Selanjutnya, dalam kasus meta, Eko mencapai kesimpulan yang sama setelah melakukan tes serupa Pada tahun 2023 menjelang aturan tata kelola online UE baru – menyarankan rezim tidak berpengaruh pada bagaimana ia beroperasi.
“Temuan kami menunjukkan bahwa sistem moderasi iklan AI yang digerakkan AI tetap rusak secara fundamental, meskipun Undang-Undang Layanan Digital (DSA) sekarang dalam efek penuh,” kata juru bicara EKO kepada TechCrunch.
“Daripada memperkuat proses peninjauan iklan atau kebijakan kebencian, meta tampaknya mundur di seluruh papan,” tambah mereka, menunjuk ke Pengumuman terbaru perusahaan tentang rolling kembali moderasi dan kebijakan pengecekan fakta Sebagai tanda “regresi aktif” yang mereka sarankan menempatkannya pada kursus tabrakan langsung dengan aturan DSA tentang risiko sistemik.
Eko telah menyerahkan temuan terbarunya kepada Komisi Eropa, yang mengawasi penegakan aspek -aspek utama DSA pada pasangan raksasa media sosial. Ia juga mengatakan bahwa pihaknya berbagi hasil dengan kedua perusahaan, tetapi tidak ada yang merespons.
UE memiliki investigasi DSA terbuka terhadap meta dan Xyang mencakup kekhawatiran tentang keamanan pemilu dan konten ilegal, tetapi Komisi belum menyimpulkan proses ini. Meskipun, kembali pada bulan April Dikatakan itu mencurigai meta dari moderasi iklan politik yang tidak memadai.
Keputusan awal tentang sebagian dari penyelidikan DSA -nya di X, yang diumumkan pada bulan Julitermasuk kecurigaan bahwa platform gagal memenuhi aturan transparansi iklan peraturan. Namun, penyelidikan penuh, yang dimulai Desember 2023juga menyangkut risiko konten ilegal, dan UE belum sampai pada temuan apa pun di sebagian besar penyelidikan lebih dari setahun kemudian.
Pelanggaran DSA yang dikonfirmasi dapat menarik hukuman hingga 6% dari omset tahunan global, sementara ketidakpatuhan sistemik bahkan dapat menyebabkan akses regional ke platform yang melanggar yang diblokir sementara.
Tapi, untuk saat ini, UE masih meluangkan waktu untuk memutuskan meta dan probe X jadi – sambil menunggu keputusan akhir – sanksi DSA tetap ada di udara.
Sementara itu, sekarang hanya beberapa jam sebelum pemilih Jerman pergi ke tempat pemungutan suara-dan badan penelitian masyarakat sipil yang berkembang menunjukkan bahwa peraturan tata kelola online Uni Eropa telah gagal melindungi proses demokrasi ekonomi Uni Eropa Utama dari berbagai bahan bakar teknologi yang dipindahkan secara teknologi teknologi teknologi teknologi teknologi teknologi utama Uni Eropa Utama Uni Eropa Utama Utama Uni Eropa Utama Utama Uni Eropa Utama Utama Utama Uni Eropa Utama Utama Utama Uni Eropa Utama Utama Uni Eropa Utama Utama Uni Eropa Utama Utama Utama Uni Eropa ancaman.
Awal pekan ini, saksi global dilepaskan Hasil tes X dan Tiktok’s Algorithmic “For You” feeds di Jerman, yang menunjukkan platform bias mendukung mempromosikan konten AfD versus konten dari partai politik lain. Peneliti masyarakat sipil juga memiliki Tuduhan X memblokir akses data Untuk mencegah mereka mempelajari risiko keamanan pemilu menjelang jajak pendapat Jerman-akses yang seharusnya diaktifkan DSA.
“Komisi Eropa telah mengambil langkah -langkah penting dengan membuka investigasi DSA ke dalam meta dan X, sekarang kita perlu melihat komisi mengambil tindakan kuat untuk mengatasi kekhawatiran yang diajukan sebagai bagian dari penyelidikan ini,” kata juru bicara Eko juga kepada kami.
“Temuan kami, di samping bukti yang meningkat dari kelompok masyarakat sipil lainnya, menunjukkan bahwa teknologi besar tidak akan membersihkan platformnya secara sukarela. Meta dan X terus mengizinkan pidato kebencian ilegal, hasutan terhadap kekerasan, dan disinformasi pemilu untuk menyebar pada skala, terlepas dari kewajiban hukum mereka di bawah DSA, ”tambah juru bicara itu. (Kami telah menahan nama juru bicara untuk mencegah pelecehan.)
“Regulator harus mengambil tindakan yang kuat-keduanya dalam menegakkan DSA tetapi juga misalnya menerapkan langkah-langkah mitigasi pra-pemilihan. Ini bisa termasuk mematikan sistem rekomendasi berbasis profil segera sebelum pemilihan, dan menerapkan langkah-langkah ‘break-glass’ lainnya yang sesuai untuk mencegah amplifikasi algoritmik konten batas, seperti konten kebencian dalam pemilihan umum. ”
Kelompok kampanye juga memperingatkan bahwa UE sekarang menghadapi tekanan dari administrasi Trump untuk melunakkan pendekatannya untuk mengatur teknologi besar. “Dalam iklim politik saat ini, ada bahaya nyata bahwa komisi tidak sepenuhnya menegakkan undang -undang baru ini sebagai konsesi bagi AS,” mereka menyarankan.