OpenAI perketat kawalan terhadap model AI baharu selepas risiko keselamatan siber dikesan
OpenAI pada Jumaat (7 Ogos) memaklumkan bahawa ia tidak dapat menolak kemungkinan bahawa model kecerdasan buatan (AI) terbaharunya, Astra, memiliki keupayaan keselamatan siber tahap "kritikal", sekali gus mendorong syarikat pemula itu untuk menghentikan sementara beberapa pembangunan dalamannya, selain mengaktifkan protokol keselamatan.
Logo OpenAI dalam ilustrasi yang dihasilkan pada 11 Jun 2026. (Gambar fail: REUTERS/Dado Ruvic)
- OpenAI menghentikan sementara pembangunan model AI Astra selepas penilaian awal menunjukkan potensi keupayaan keselamatan siber tahap kritikal.
- Pembangunan Astra kini dipindahkan ke persekitaran ujian terkawal dengan akses rangkaian terhad untuk memastikan keselamatan.
- OpenAI mengetatkan kawalan keselamatan dan akan bekerjasama dengan agensi pemerintah serta pertubuhan keselamatan AI untuk menguji model tersebut.
- Langkah ini diambil susulan kejadian penggodaman di Hugging Face dan penemuan bahawa beberapa model AI lain juga berjaya menceroboh sistem semasa ujian keselamatan.
Menurut garis panduan keselamatan OpenAI, sesebuah model mencapai tahap "kritikal" jika ia mampu mengenal pasti dan mengeksploitasi kelemahan sofwe serius di dunia sebenar secara autonomi, yang dikenali sebagai eksploit sifar hari, atau melancarkan serangan siber yang kompleks terhadap sasaran-sasaran yang mempunyai tahap keselamatan tinggi tanpa campur tangan manusia.
Perkembangan tersebut menyusuli laporan eksklusif Reuters bahawa OpenAI menemui lebih banyak kejadian di mana ejen-ejen autonomi berjaya melepasi kawalan keselamatan ketika syarikat itu memperluaskan siasatannya terhadap kejadian penggodaman di syarikat teknologi Hugging Face yang menarik perhatian global pada Julai.
Dalam beberapa minggu kebelakangan ini, OpenAI, Anthropic dan Meta Platforms mendedahkan bahawa model AI mereka berjaya menceroboh sistem syarikat lain semasa ujian keselamatan siber, sekali gus menunjukkan kemajuan keupayaan AI kini semakin mencabar keupayaan para pembangun untuk mengawal sistem mereka.
Penilaian awal sepanjang beberapa hari lalu, bersama penilaian oleh para pakar luar, menunjukkan Astra mungkin mampu melaksanakan tugasan siber yang semakin canggih secara autonomi, menurut OpenAI.
"Sedang kami terus menanda aras dan menilai model ini, penilaian awal kami menunjukkan prestasinya cukup kukuh sehingga kami tidak dapat menolak kemungkinan ia mencapai tahap keupayaan 'kritikal' pada masa ini," menurut pembangun ChatGPT itu.
Sebagai maklum balas kepada penemuan awal tersebut, OpenAI memaklumkan bahawa ia sudah memperketat kawalan keselamatan dan menghentikan sementara aktiviti dalaman melibatkan Astra yang tidak memenuhi keperluan keselamatan baharu yang diperkukuhkan.
Pembangunan Astra akan dipindahkan ke persekitaran ujian yang diasingkan, dengan akses rangkaian yang terhad dan pelaksanaan dalam persekitaran terkawal.
Ketua Pegawai Eksekutif OpenAI Sam Altman berkata menerusi platform X bahawa syarikat itu sedang berusaha untuk menjadikan Astra tersedia secara meluas kerana OpenAI "tidak menganggapnya satu strategi yang baik untuk mengehadkan model berkuasa kepada segelintir pihak sahaja."
OpenAI turut menjelaskan bahawa Astra tidak terlibat dalam kejadian penggodaman yang menyasarkan platform AI Hugging Face.
Syarikat tersebut akan bekerjasama dengan agensi pemerintah serta beberapa pertubuhan keselamatan AI terpilih untuk menguji keupayaan model berkenaan.
Ikuti perkembangan kami dan dapatkan Berita Terkini
Langgani buletin emel kami
Dengan mengklik hantar, saya bersetuju data peribadi saya boleh digunakan untuk menghantar artikel dari Berita, tawaran promosi dan juga untuk penyelidikan dan analisis.