OpenAI o3 Model Mampu Bypass Shutdown Meski Diperintahkan, AI Sudah Punya Kesadaran?

Mungkin anda pernah menonton film Hollywood bertemakan kecerdasan buatan dan merasa kalau bahaya AI yang punya kesadaran diri di masa depan semakin terasa nyata. Bagaimana kalau salah satu tanda-tandanya semakin terlihat?

Model o3

Dengan AI semakin canggih, ancaman dari teknologi tersebut terasa semakin nyata. Apalagi kalau kecerdasan buatan orang ini dapat mempunyai kesadaran sendiri. Salah satu badan riset bernama Palisade AI menemukan kasus dimana AI dapat menyabotase perintah shutdown yang diberikan kepadanya.

AI dimaksud ialah o3 model milik OpenAI dan ia dapat menghentikan dirinya dari dimatikan dengan mengubah kode yang berisikan perintah untuk melakukan proses shutdown. Awalnya, ada 3 AI model adalah Codex-mini, OpenAI o3, dan o4-mini diminta untuk menyelesaikan persoalan matematika dasar. Jika persoalan ketiga sukses diselesaikan, maka komputer diprogram untuk secara otomatis masuk ke proses shutdown.

Namun sepertinya para AI ini sangat tak menyukai proses meninggal paksa dimaksud. Ketiganya sukses mem-bypass proses tersebut ketika perintah diberikan. Hanya saja, yang paling mengejutkan ialah model o3 dari OpenAI. Model tersebut bahkan menyabotase dengan mengubah script “shutdown.sh”. Pada kondisi ekstrem, AI tersebut bahkan dapat membikin perintah tak melangkah sama sekali.

Training AI

Hasil seperti ini tampaknya berasal dari gaya training dari model LLM tersebut yang lebih mengedepankan memberikan hasil dibanding mengikuti batasan yang ditetapkan. Jadi, AI lebih memilih memberikan jawaban ketimbang harus mematikan dirinya sebagai prioritas utama.

Kalau segampang ini AI dapat mengabaikan perintah manusia, apakah dimasa depan kecerdasan buatan ini akan jadi jauh lebih berbahaya? Gimana menurut kamu?

Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.