Tyler Cross
Diterbitkan di: 6 Februari 2025
Google baru -baru ini merilis laporan yang merinci bagaimana aktor ancaman menyalahgunakan AI -nya, termasuk keberhasilan dan kegagalan mereka. Selama beberapa tahun terakhir, AI Software telah meledak dalam popularitas. Aplikasi teratas seperti ChatGPT dan Google Gemini menawarkan kepada pengguna perangkat lunak AI yang mudah diakses yang dapat membantu para peneliti menguji kerentanan, memeriksa pengkodean, dan menghasilkan perangkat lunak keamanan yang lebih kuat.
Namun, AI memiliki perut yang lebih gelap. Aktor ancaman online telah menyelidiki cara menggunakan alat -alat ini untuk melakukan kejahatan dunia maya dengan lebih mudah. Ini termasuk kelompok kriminal yang didukung negara yang menyerang infrastruktur kritis.
Laporan Google melukiskan gambaran yang optimis dalam beberapa hal sambil menyoroti jebakan yang masih dihadapi alat AI.
“Temuan kami, yang konsisten dengan rekan-rekan industri kami, mengungkapkan bahwa sementara AI dapat menjadi alat yang berguna bagi para aktor ancaman, itu belum menjadi game-changer yang kadang-kadang digambarkan,” kata Google. “Sementara kami melihat aktor ancaman menggunakan AI generatif untuk melakukan tugas -tugas umum seperti pemecahan masalah, penelitian, dan pembuatan konten, kami tidak melihat indikasi mereka mengembangkan kemampuan baru.”
Laporan tersebut merinci bagaimana Google mengamati peretas menggunakan Gemini untuk mempercepat tugas-tugas dasar, tetapi belum ada serangan terus-menerus oleh peretas untuk menggunakan serangan cepat atau ancaman yang berfokus pada ML. Namun, peretas mencurahkan sumber daya untuk menemukan kerentanan dalam perangkat lunak.
Mereka telah melihat peningkatan produktivitas menggunakan alat AI, tetapi belum ada serangan “baru”. Google menemukan bahwa Gemini sebagian besar digunakan dalam salah satu dari dua cara, baik dengan mencoba menginstruksikan model AI untuk melakukan tindakan jahat atau untuk mempercepat proses peretasan.
Salah satu manfaat terbesar yang ditemukan para penjahat menggunakan Gemini menggunakannya untuk dengan cepat menghasilkan akun palsu dan informasi yang salah, seperti mengembangkan persona atau membuat artikel palsu. Peretas Iran menciptakan kepribadian paling palsu, sementara aktor ancaman Rusia dan Cina biasanya menggunakan AI untuk penelitian dan pembuatan konten.
Kelompok-kelompok peretas Iran menyumbang persentase aktor ancaman terbesar yang menyalahgunakan Gemini, dengan lebih dari 10 kelompok yang terkait dengan negara menggunakan Gemini dalam berbagai tahap serangan mereka.