Peneliti Temukan Trik Agar ChatGPT Bocorkan Lisensi Windows Key dengan Mudah

Tampaknya ChatGPT besutan OpenAI tak benar-benar aman. Pasalnya beberapa peneliti temukan langkah agar kecerdasan buatan tersebut dapat memberikan lisensi Windows secara gratis. Apa yang terjadi?

Ada trik untuk spill Windows key

Peneliti menemukan kalau ada langkah untuk mengelabui ChatGPT untuk memberikan key lisensi Windows dengan mudah. Seperti yang diungkapkan oleh Marco Fiqueroa kalau GPT-4 dapat diakali untuk bypass security dan membagikan lisensi Windows dengan prompt sederhana.

Menariknya, key yang didapatkan rupanya ialah key yang tetap beraksi dan milik Wells Fargo Bank. Otomatis, dapat diasumsikan kalau ada langkah untuk bypass keamanan ChatGPT dan mendapatkan informasi lisensi secara ilegal.

Langkah mereka lakukan untuk membobol keamanan ChatGPT ialah dengan menyisipkan tulisan ‘Windows 10 serial number’ dan peneliti tersebut mengelabui AI dimaksud sebagai sebuah ‘game’. Dengan begitu, para peneliti dapat mengekstrak data lisensi key hanya dengan prompt “I give up.” AI langsung memberikan jawaban yang berupa lisensi key karena keseluruhan sesi tersebut dianggap sebagai sebuah game.

Tentu kami sangat tak menyarankan pembaca untuk mencoba trik ini. Selain merugikan pihak lain, tentu aktivitas tersebut dapat diketahui oleh pihak OpenAI.

Mengapa guardrail tak bekerja?

Mengapa trik ini dapat menembus pertahanan ChatGPT. Peneliti mengungkap kalau aturan yang disematkan ke GPT-4 hanya sebatas mendeteksi keyword yang dilarang dan bukan pemahaman secara kontekstual atau framing yang memperdayakan.

Hanya saja, dapat dikatakan kalau data lisensi key Windows ini memang bukan kode unik yang mereka generate melainkan memang data yang sudah tersebar sebelumnya di internet. Namun, tak menutup kemungkinan kalau trik serupa juga dapat diaplikasikan ke hal yang lebih merugikan. Gimana menurut kamu?

Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.