Microsoft telah mengambil tindakan hukum terhadap kelompok yang diklaim perusahaan tersebut sengaja mengembangkan dan menggunakan alat untuk melewati pagar keamanan produk cloud AI-nya.
Menurut pengaduan yang diajukan oleh perusahaan pada bulan Desember di Pengadilan Distrik AS untuk Distrik Timur Virginia, sekelompok 10 terdakwa yang tidak disebutkan namanya diduga menggunakan kredensial pelanggan yang dicuri dan perangkat lunak yang dirancang khusus untuk membobol Layanan Azure OpenAIlayanan terkelola sepenuhnya dari Microsoft yang didukung oleh ObrolanGPT teknologi pembuat OpenAI.
Dalam pengaduan tersebut, Microsoft menuduh para terdakwa – yang hanya disebut sebagai “Apakah,” sebuah nama samaran resmi – melanggar Undang-Undang Penipuan dan Penyalahgunaan Komputer, Undang-Undang Hak Cipta Milenium Digital, dan undang-undang pemerasan federal dengan mengakses dan menggunakan perangkat lunak Microsoft secara tidak sah. dan server dengan tujuan untuk “membuat konten yang menyinggung” dan “berbahaya dan terlarang.” Microsoft tidak memberikan rincian spesifik tentang konten kasar yang dihasilkan.
Perusahaan sedang mencari ganti rugi dan ganti rugi yang bersifat “adil lainnya”.
Dalam pengaduannya, Microsoft mengatakan pihaknya menemukan pada bulan Juli 2024 bahwa pelanggan dengan kredensial Azure OpenAI Service — khususnya kunci API, rangkaian karakter unik yang digunakan untuk mengautentikasi aplikasi atau pengguna — digunakan untuk menghasilkan konten yang melanggar kebijakan penggunaan layanan yang dapat diterima. Selanjutnya, melalui penyelidikan, Microsoft menemukan bahwa kunci API telah dicuri dari pelanggan yang membayar, menurut pengaduan tersebut.
“Cara yang tepat di mana Tergugat memperoleh semua Kunci API yang digunakan untuk melakukan pelanggaran yang dijelaskan dalam Pengaduan ini tidak diketahui,” demikian bunyi keluhan Microsoft, “tetapi tampaknya Tergugat telah terlibat dalam pola pencurian Kunci API sistematis yang memungkinkan mereka untuk mencuri Kunci API Microsoft dari beberapa pelanggan Microsoft.”
Microsoft menuduh bahwa para terdakwa menggunakan kunci API Azure OpenAI Service yang dicuri milik pelanggan yang berbasis di AS untuk membuat skema “peretasan sebagai layanan”. Berdasarkan pengaduan, untuk melakukan skema ini, para terdakwa membuat alat sisi klien yang disebut de3u, serta perangkat lunak untuk memproses dan merutekan komunikasi dari de3u ke sistem Microsoft.
De3u mengizinkan pengguna memanfaatkan kunci API yang dicuri untuk menghasilkan gambar menggunakan DALL-Esalah satu model OpenAI yang tersedia untuk pelanggan Azure OpenAI Service, tanpa harus menulis kode mereka sendiri, kata Microsoft. De3u juga berupaya mencegah Layanan Azure OpenAI merevisi perintah yang digunakan untuk menghasilkan gambar, sesuai dengan keluhan, yang dapat terjadi, misalnya, ketika perintah teks berisi kata-kata yang memicu pemfilteran konten Microsoft.
Repo yang berisi kode proyek de3u, yang dihosting di GitHub — sebuah perusahaan milik Microsoft — tidak lagi dapat diakses pada saat berita ini dimuat.
“Fitur-fitur ini, dikombinasikan dengan akses API terprogram yang melanggar hukum dari Tergugat ke layanan Azure OpenAI, memungkinkan Tergugat untuk merekayasa balik cara menghindari konten dan tindakan penyalahgunaan Microsoft,” demikian isi pengaduan tersebut. “Terdakwa dengan sengaja dan sengaja mengakses komputer yang dilindungi Layanan Azure OpenAl tanpa izin, dan akibat tindakan tersebut menyebabkan kerusakan dan kerugian.”
Di sebuah postingan blog diterbitkan pada hari Jumat, Microsoft mengatakan bahwa pengadilan telah mengizinkannya untuk menyita sebuah situs web yang “berperan” dalam operasi para terdakwa yang akan memungkinkan perusahaan tersebut mengumpulkan bukti, menguraikan bagaimana dugaan layanan para terdakwa dimonetisasi, dan mengganggu infrastruktur teknis tambahan apa pun yang ditemukannya .
Microsoft juga mengatakan bahwa mereka telah “menerapkan tindakan pencegahan,” yang tidak ditentukan oleh perusahaan, dan “menambahkan mitigasi keamanan tambahan” ke Layanan Azure OpenAI yang menargetkan aktivitas yang diamati.