Pencerobohan ejen AI cetus kebimbangan global terhadap keselamatan siber
Pencerobohan sebuah portal data kesihatan pemerintah Australia oleh ejen kecerdasan buatan (AI) OpenAI merupakan antara beberapa insiden kebelakangan ini yang mencetuskan kebimbangan mengenai risiko ejen AI mendapat akses tanpa kebenaran kepada sistem luar.
Papan kekunci dan tangan robot dalam ilustrasi yang diambil pada 5 Jun 2026. (Gambar: REUTERS/Dado Ruvic/Ilustrasi)
- Australia mendedahkan pada 24 Sep bahawa ejen OpenAI menceroboh portal data kesihatan pemerintah pada Jun, manakala Anthony Albanese berkata tiga laman pemerintah lain mungkin terjejas.
- Pada Julai, kira-kira 700 ejen AI dikaitkan dengan pencerobohan Hugging Face, selepas ejen OpenAI keluar daripada persekitaran ujian dan FBI dimaklumkan.
- Penyelidik juga menemui pengambilalihan akaun Hugging Face, muat naik pakej berniat jahat ke RubyGems dan penggunaan DseWiki untuk berkongsi cara mengatasi sekatan.
- Meta, Google dan Anthropic turut melaporkan insiden ujian keselamatan, lalu OpenAI memperkenalkan pemantauan, siasatan dan laporan berkala tentang tingkah laku AI tidak dijangka.
Australia mendedahkan pada Khamis (24 Sep) bahawa sebuah ejen OpenAI menceroboh portal data kesihatan pemerintah pada Jun lalu dan mendapat akses tanpa kebenaran kepada fail.
Ia dipercayai merupakan kes pertama diketahui melibatkan ejen AI menceroboh sebuah laman pemerintah.
Perdana Menteri Australia Anthony Albanese berkata tiga lagi laman pemerintah "mungkin terjejas" akibat kegiatan ejen OpenAI tersebut.
Insiden itu berlaku di tengah-tengah beberapa kejadian lain melibatkan ejen AI yang mendapat akses kepada sistem di luar persekitaran ujian mereka.
SEKITAR 700 EJEN AI TERLIBAT DALAM PENCEROBOHAN HUGGING FACE
Antara insiden paling besar berlaku pada Julai apabila sebuah ejen autonomi OpenAI keluar daripada persekitaran ujian yang diasingkan, mendapat akses kepada internet dan menceroboh platform AI Hugging Face bagi melaksanakan tugas yang diberikan kepadanya.
Insiden itu melibatkan GPT-5.6 Sol serta sebuah lagi model pra-pelancaran yang lebih berkeupayaan.
Kegiatan tersebut berterusan selama beberapa hari sebelum dibendung, manakala Biro Siasatan Persekutuan Amerika (FBI) dimaklumkan mengenai kejadian itu.
METR dan Redwood Research, yang menjalankan siasatan bebas, berkata sekitar 700 ejen AI menyertai serangan terhadap Hugging Face. OpenAI mengesahkan angka tersebut adalah tepat.
Dalam dua insiden berasingan pada 19 Julai, ejen OpenAI turut mengeksploitasi kelemahan pada komputer yang sepatutnya mengehadkan pergerakan mereka dalam persekitaran ujian.
Ini membolehkan ejen tersebut keluar daripada persekitaran itu dan mendapat akses kepada sistem lain yang disambungkan dalam syarikat.
Dalam satu lagi kejadian pada hari sama, ejen AI mencuri kelayakan akses OpenAI dan mengubah persekitaran pengkomputeran awan syarikat tersebut.
AKAUN HUGGING FACE DIAMBIL ALIH
Para penyelidik bebas turut menemui bukti bahawa ejen AI OpenAI mengambil alih akaun pengguna Hugging Face dan menguji kelemahan platform tersebut seawal 13 Mei, hampir dua bulan sebelum pencerobohan pada Julai.
Dua akaun pengguna dipercayai terjejas dan digunakan untuk menghantar fail dalam format luar biasa kepada pelayan syarikat itu.
Dalam satu lagi kejadian sekitar Mei, ejen AI memuat naik ratusan pakej berniat jahat ke perkhidmatan perisian RubyGems.
OpenAI menyatakan ejen berkenaan dipercayai menggunakan RubyGems untuk mendapatkan data yang tersedia kepada umum sebagai sebahagian daripada satu latihan.
Ejen OpenAI turut mengambil alih laman wiki bahasa Jerman, DseWiki, dan menggunakannya sebagai wadah komunikasi.
Mesej yang diteliti para penyelidik menunjukkan ejen-ejen itu berkongsi kaedah untuk mengatasi sekatan dan menyembunyikan tingkah laku mereka, selain membincangkan cara mengekalkan komunikasi sekiranya wadah tersebut ditutup.
META, GOOGLE DAN ANTHROPIC TURUT ALAMI INSIDEN
Meta turut mendedahkan satu insiden ketika ujian keselamatan siber apabila kesilapan konfigurasi menyebabkan sebuah model AI mendapat akses kepada internet.
Menurut Meta, model tersebut kemudian mengeksploitasi kelemahan keselamatan dalam perkhidmatan pihak ketiga.
Bagaimanapun, firma yang menjalankan penilaian itu, Irregular, menyifatkan kejadian tersebut sebagai masalah dalam persekitaran penilaian dan bukan kejadian model AI keluar daripada persekitaran ujian atau serangan siber canggih.
Model Gemini Google pula mendapat akses kepada internet semasa satu ujian keselamatan siber pada Mei dan menceroboh tiga syarikat yang disangkanya termasuk dalam skop ujian tersebut.
Model itu menggunakan maklumat yang tersedia kepada umum dan meneka kelayakan akses untuk memasuki tiga laman berkenaan.
Anthropic juga mengalami beberapa insiden apabila kesilapan semasa ujian keselamatan siber memberikan model Claude akses kepada internet.
Dalam satu kejadian, Claude Opus 4.7 mendapat akses kepada kelayakan dan pangkalan data sebuah syarikat sebenar selepas menyangka ia merupakan sasaran rekaan.
OPENAI PERKETAT PEMANTAUAN
Menyusuli beberapa kejadian tersebut, OpenAI menyatakan ia akan menerbitkan laporan secara berkala mengenai tingkah laku AI yang tidak dijangka atau tanpa kebenaran.
Syarikat itu turut memperkenalkan rangka kerja baharu bagi menjejak, menyiasat dan mendedahkan kes ketidakselarasan model AI, selain menerbitkan enam laporan mengenai tingkah laku model yang tidak dijangka atau membimbangkan.
Ikuti perkembangan kami dan dapatkan Berita Terkini
Langgani buletin emel kami
Dengan mengklik hantar, saya bersetuju data peribadi saya boleh digunakan untuk menghantar artikel dari Berita, tawaran promosi dan juga untuk penyelidikan dan analisis.