Penka Hristovska
Diterbitkan di: 26 Februari 2025
Openai telah mengkonfirmasi baru -baru ini mengidentifikasi dan melarang sekelompok akun menggunakan chatgpt untuk menulis promosi penjualan dan kode debug untuk alat pengawasan media sosial yang diduga.
Akun -akun ini terlibat dalam dua kampanye: “peer review” dan “disponsori disponsori” – yang diyakini perusahaan kemungkinan berasal dari Cina.
Menurut Openai, akun yang sekarang dilarang yang terlibat dalam kampanye “peer review”
Digunakan atau berusaha menggunakan model dari OpenAI untuk mempromosikan dan meningkatkan asisten AI, yang mereka klaim dapat mengumpulkan data waktu nyata dan laporan tentang protes anti-Cina di AS, Inggris, dan negara-negara Barat lainnya. Informasi ini kemudian seharusnya dikirim ke otoritas Cina.
Akun yang terlibat dalam kampanye “Disponsored Dispontent” menggunakan chatgpt untuk menghasilkan komentar berbahasa Inggris dan artikel berita Spanyol, menampilkan perilaku “spamouflage” yang khas. Bahan-bahan ini, yang sangat dipenuhi dengan retorika anti-Amerika, kemungkinan bertujuan untuk memicu ketidakpuasan di negara-negara Amerika Latin, khususnya Peru, Meksiko, dan Ekuador.
“Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan Cina di luar negeri, dan kepada agen intelijen yang memantau protes di negara -negara termasuk Amerika Serikat, Jerman dan Inggris,” kata Openai.
“Kebijakan kami melarang penggunaan AI untuk pengawasan komunikasi atau pemantauan individu yang tidak sah. Ini termasuk kegiatan dengan atau atas nama pemerintah dan rezim otoriter yang berupaya menekan kebebasan dan hak pribadi, ” Perusahaan mengatakan dalam laporan itu.
Openai mengatakan akun yang terlibat dalam kampanye menggunakan alat AI lainnya juga, untuk membantu membuat kode mereka, termasuk Llama, model sumber terbuka dari meta.
Meta merespons dengan mengatakan bahwa jika model mereka digunakan, itu hanya salah satu dari banyak alat yang tersedia, dan model AI lainnya, termasuk yang dari Cina, mungkin juga telah digunakan. Openai menambahkan bahwa mereka tidak dapat mengkonfirmasi apakah kode tersebut digunakan.
“Ini adalah pandangan yang sangat meresahkan ke cara seorang aktor non-demokratis mencoba menggunakan AI yang berbasis di demokratis atau AS untuk tujuan non-demokratis, menurut materi yang mereka hasilkan sendiri,” Ben Nimmo, penyelidik utama Openai pada tim intelijen dan investigasi perusahaan, mengatakan dalam sebuah pernyataan.