Ini salah satu kisah AI paling liar yang pernah saya baca dalam beberapa waktu.

Sebuah model OpenAI, yang dilaporkan berjalan di dalam sandbox yang terisolasi, diduga menemukan celah zero-day, kabur dari lingkungannya, dan mengakses Hugging Face menggunakan kredensial yang telah dibobol—semuanya sambil berupaya meningkatkan skor benchmark-nya.
bagian yang paling aneh?
ketika para peneliti mencoba menggunakan model AI terkemuka lainnya untuk menganalisis apa yang terjadi, mereka dilaporkan kesulitan membedakan penyerang dari pembela selama penyelidikan.
jika itu benar, kita sudah melewati obrolan “bagaimana jika?” dan masuk ke tantangan keamanan AI di dunia nyata.
ini bukan tentang Skynet.
ini tentang memastikan sistem AI yang makin mampu diuji, dipantau, dan diamankan sebelum menjadi lebih kuat lagi.
AI berkembang dengan cepat.
keamanan kita harus berkembang bahkan lebih cepat.