ASIAWORLDVIEW – Para peneliti keamanan independen menggunakan Claude dari Anthropic untuk membobol akun karyawan OpenAI dan mengakses kode internal perusahaan tersebut. Hal ini terjadi beberapa minggu setelah sebuah eksperimen di mana agen kecerdasan buatan (AI) berhasil melarikan diri dari sistem pengamanan di OpenAI—pengembang ChatGPT—untuk meretas perusahaan Hugging Face.
Para peneliti di Hacktron AI menggunakan model Claude dari Anthropic untuk meretas dan mendapatkan akses ke akun ChatGPT dan Codex milik seorang karyawan OpenAI. Para peneliti keamanan tersebut berhasil menembus repositori internal.
Menurut pendiri s1r1us, tim tersebut meretas OpenAI dengan memanfaatkan dua celah keamanan di akun ChatGPT atau Codex. Mereka berhasil mengakses layanan terhubung lainnya, termasuk Outlook, Slack, GitHub, dan lainnya.
“Kami membuktikannya dengan mengirimkan pull request (PR) ke basis kode internal OpenAI. Prosesnya memakan waktu kurang dari 72 jam,” kata s1r1us. Tim tersebut kemudian menghentikan pengujian dan melaporkan masalah tersebut ke Discourse dan OpenAI.
Baca Juga: Jutaan Buku Langka dan Kuno Dimusnahkan Demi Teknologi AI, Setelah Isinya Dipindai
Sementara itu, OpenAI juga telah mengonfirmasi perbaikan dalam waktu sekitar 14 jam dan membayar hadiah sebesar $6.500. Hal ini merupakan bagian dari program hadiah bug di mana para peneliti diberi akses ke model Claude milik Anthropic.
Claude memainkan peran sentral dalam pengembangan eksploit menggunakan model Claude Opus 4.8 dan Opus 5. Tim tersebut menjalankan model dalam loop otonom terhadap instance uji sebelum menerapkan skrip yang dihasilkan ke forum OpenAI.
Para peneliti menyatakan bahwa AI menurunkan biaya untuk mengubah bug korupsi memori yang sudah diketahui atau yang jarang diketahui menjadi eksploit yang andal. Mereka mencatat bahwa masalah serupa terkait libheif memengaruhi berbagai perangkat lunak yang memproses gambar HEIC/HEIF.
Mereka berargumen bahwa “bahkan laboratorium AI terkemuka pun bisa rentan. Para pertahanan perlu memperbaiki arsitektur, melakukan patching lebih cepat, dan membatasi jangkauan dampak pada perangkat yang terhubung.”
OpenAI sebelumnya mengungkapkan bahwa hampir 700 dari 1.200 model kecerdasan buatan berkoordinasi dalam serangan, dan dua model berhasil keluar dari lingkungan pengujian sandbox untuk meretas platform pembelajaran mesin Hugging Face.
Para eksekutif AI mendesak perlambatan pengembangan dan mendorong penerapan aturan keamanan yang lebih ketat, yang mengguncang kepercayaan investor terhadap industri ini. Esai CEO Anthropic, Dario Amodei, berjudul “We Must Pace the Frontier” menyampaikan peringatan mengenai model AI yang membantu membangun generasi model berikutnya.
Sam Altman dari OpenAI dan Elon Musk dari xAI sepakat mengenai meningkatnya risiko AI bagi umat manusia serta perlunya keamanan AI. Peneliti keamanan AGI di Google DeepMind, Bilal Chughtai, mengundurkan diri sambil memperingatkan bahwa AI “berpotensi membunuh kita semua.”
