Langkah perlindungan sedia ada syarikat AI tidak memadai sedang model semakin canggih: Josephine Teo
Anggaran Waktu Membaca:
Menteri Penerangan dan Pembangunan Digital Josephine Teo bercakap dengan pihak media di Kementerian Penerangan dan Pembangunan Digital pada 28 Ogos 2026. (Gambar fail: CNA/Ooi Boon Keong)
- Josephine Teo berkata pada 2 Okt bahawa perlindungan syarikat AI penting tetapi belum cukup kerana pengguna berniat jahat boleh mengeksploitasi AI untuk serangan siber dan penipuan.
- Beliau memberi amaran bahawa model terbuka boleh memintas kawalan, sementara sistem AI autonomi mungkin salah faham arahan, diperdaya kandungan berbahaya atau bertindak di luar niat pengguna.
- Singapura mahu pertahanan berlapis, termasuk panduan CSA tentang kerentanan, pengesahan kukuh, kawalan akses, pengesanan serangan dan pemulihan, terutama bagi sistem pemerintah serta perkhidmatan penting.
- Institut Keselamatan AI Singapura sedang membina keupayaan menilai model termaju dengan rakan antarabangsa, sementara Singapura menyokong seruan Norway dan Finland untuk perlindungan AI lebih kukuh.
SINGAPURA: Langkah-langkah perlindungan yang dilaksanakan syarikat-syarikat kecerdasan buatan (AI) termaju penting tetapi tidak mencukupi untuk menangani risiko yang ditimbulkan sistem-sistem yang semakin berkeupayaan, kata Menteri Penerangan dan Pembangunan Digital Josephine Teo pada Jumaat (2 Okt).
Dalam catatannya di Facebook, Cik Teo berkata pengguna berniat jahat boleh menyalahgunakan AI yang semakin berkuasa untuk menimbulkan bahaya, seperti mencari kelemahan dalam sistem komputer, menulis kod berniat jahat, mengautomatikkan sebahagian serangan siber dan menjadikan penipuan lebih meyakinkan.
Langkah-langkah perlindungan tersebut termasuk menapis kandungan yang boleh memudahkan tindakan berbahaya, mengehadkan perkara yang boleh diakses dan dilakukan model AI, menguji model sebelum dilancarkan, mengesahkan pengguna, mengesan penyalahgunaan dan menggantung akaun yang melanggar peraturan.
"Langkah-langkah perlindungan ini penting, tetapi tidak mencukupi. Pengguna berniat jahat masih boleh beralih kepada model yang tersedia secara terbuka, yang boleh dimuat turun dan dijalankan secara kendiri oleh sesiapa sahaja, sekali gus memudahkan mereka memintas langkah-langkah perlindungan dan menyembunyikan penyalahgunaan," kata Cik Teo.
"Pada masa yang sama, apabila AI semakin berkeupayaan untuk bertindak bagi pihak kita, penyalahgunaan secara sengaja bukan satu-satunya kebimbangan. Sistem AI juga boleh salah memahami arahan, diperdaya maklumat berniat jahat atau mengambil tindakan yang tidak dimaksudkan pengguna atau pembangunnya."
Oleh itu, Singapura memerlukan pelbagai lapisan pertahanan, termasuk pertahanan siber yang lebih kukuh dan pemahaman yang lebih baik tentang keupayaan sistem AI termaju, tambah Cik Teo.
PELBAGAI LAPISAN PERTAHANAN
Cik Teo berkata banyak insiden berkaitan AI hari ini melibatkan ancaman siber.
"Lebih banyak yang boleh kita lakukan untuk mengelakkan sistem kita daripada menjadi sasaran mudah serangan. Kita juga mesti menjadi lebih baik dalam mengesan serangan dan memulihkan keadaan apabila ia berlaku."
Ini amat penting bagi sistem pemerintah dan perkhidmatan penting, di mana gangguan boleh membawa kesan serius kepada orang awam, tambah beliau.
Cik Teo menarik perhatian bahawa Agensi Keselamatan Siber Singapura (CSA) sudah mengeluarkan panduan yang menggesa pertubuhan-pertubuhan supaya menangani kerentanan, menggunakan pengesahan kukuh dan memperketat kawalan akses kepada sistem-sistem penting.
Pertubuhan-pertubuhan juga boleh menggunakan AI sebagai langkah pertahanan, seperti untuk mengenal pasti kerentanan sebelum penyerang berbuat demikian, katanya.
"Langkah-langkah perlindungan menjadi lebih penting apabila pertubuhan-pertubuhan memberikan model AI akses kepada data, alat dan proses mereka," kata Cik Teo.
Sebagai contoh, ejen AI yang digunakan untuk membeli-belah online boleh diperdaya arahan berniat jahat di sesebuah laman web sehingga membuat pembelian yang tidak dikehendaki atau mendedahkan maklumat peribadi, kata Cik Teo.
MENGUJI MODEL AI TERMAJU
Singapura juga perlu pergi "lebih jauh ke hulu" untuk memahami perkara yang boleh dilakukan model AI yang semakin berkeupayaan, batasannya dan cara ia berkelakuan dalam situasi berbeza, kata Cik Teo.
Institut Keselamatan AI Singapura sedang membangunkan keupayaan teknikal negara untuk menilai sistem AI termaju, bersama rakan kongsi antarabangsa dan penguji pihak ketiga, tambah beliau.
Singapura juga baru-baru ini menyokong seruan antarabangsa yang dimulakan Norway dan Finland bagi langkah perlindungan yang lebih kukuh terhadap AI termaju.
"Apabila AI menjadi semakin berkeupayaan dan autonomi, begitu juga langkah-langkah perlindungan kita. Inilah satu-satunya cara untuk membina kepercayaan terhadap AI sebagai teknologi yang berkhidmat untuk kepentingan awam," kata Cik Teo.
Dalam catatannya di Facebook, Cik Teo berkata pengguna berniat jahat boleh menyalahgunakan AI yang semakin berkuasa untuk menimbulkan bahaya, seperti mencari kelemahan dalam sistem komputer, menulis kod berniat jahat, mengautomatikkan sebahagian serangan siber dan menjadikan penipuan lebih meyakinkan.
Langkah-langkah perlindungan tersebut termasuk menapis kandungan yang boleh memudahkan tindakan berbahaya, mengehadkan perkara yang boleh diakses dan dilakukan model AI, menguji model sebelum dilancarkan, mengesahkan pengguna, mengesan penyalahgunaan dan menggantung akaun yang melanggar peraturan.
"Langkah-langkah perlindungan ini penting, tetapi tidak mencukupi. Pengguna berniat jahat masih boleh beralih kepada model yang tersedia secara terbuka, yang boleh dimuat turun dan dijalankan secara kendiri oleh sesiapa sahaja, sekali gus memudahkan mereka memintas langkah-langkah perlindungan dan menyembunyikan penyalahgunaan," kata Cik Teo.
"Pada masa yang sama, apabila AI semakin berkeupayaan untuk bertindak bagi pihak kita, penyalahgunaan secara sengaja bukan satu-satunya kebimbangan. Sistem AI juga boleh salah memahami arahan, diperdaya maklumat berniat jahat atau mengambil tindakan yang tidak dimaksudkan pengguna atau pembangunnya."
Oleh itu, Singapura memerlukan pelbagai lapisan pertahanan, termasuk pertahanan siber yang lebih kukuh dan pemahaman yang lebih baik tentang keupayaan sistem AI termaju, tambah Cik Teo.
PELBAGAI LAPISAN PERTAHANAN
Cik Teo berkata banyak insiden berkaitan AI hari ini melibatkan ancaman siber.
"Lebih banyak yang boleh kita lakukan untuk mengelakkan sistem kita daripada menjadi sasaran mudah serangan. Kita juga mesti menjadi lebih baik dalam mengesan serangan dan memulihkan keadaan apabila ia berlaku."
Ini amat penting bagi sistem pemerintah dan perkhidmatan penting, di mana gangguan boleh membawa kesan serius kepada orang awam, tambah beliau.
Cik Teo menarik perhatian bahawa Agensi Keselamatan Siber Singapura (CSA) sudah mengeluarkan panduan yang menggesa pertubuhan-pertubuhan supaya menangani kerentanan, menggunakan pengesahan kukuh dan memperketat kawalan akses kepada sistem-sistem penting.
Pertubuhan-pertubuhan juga boleh menggunakan AI sebagai langkah pertahanan, seperti untuk mengenal pasti kerentanan sebelum penyerang berbuat demikian, katanya.
"Langkah-langkah perlindungan menjadi lebih penting apabila pertubuhan-pertubuhan memberikan model AI akses kepada data, alat dan proses mereka," kata Cik Teo.
Sebagai contoh, ejen AI yang digunakan untuk membeli-belah online boleh diperdaya arahan berniat jahat di sesebuah laman web sehingga membuat pembelian yang tidak dikehendaki atau mendedahkan maklumat peribadi, kata Cik Teo.
MENGUJI MODEL AI TERMAJU
Singapura juga perlu pergi "lebih jauh ke hulu" untuk memahami perkara yang boleh dilakukan model AI yang semakin berkeupayaan, batasannya dan cara ia berkelakuan dalam situasi berbeza, kata Cik Teo.
Institut Keselamatan AI Singapura sedang membangunkan keupayaan teknikal negara untuk menilai sistem AI termaju, bersama rakan kongsi antarabangsa dan penguji pihak ketiga, tambah beliau.
Singapura juga baru-baru ini menyokong seruan antarabangsa yang dimulakan Norway dan Finland bagi langkah perlindungan yang lebih kukuh terhadap AI termaju.
"Apabila AI menjadi semakin berkeupayaan dan autonomi, begitu juga langkah-langkah perlindungan kita. Inilah satu-satunya cara untuk membina kepercayaan terhadap AI sebagai teknologi yang berkhidmat untuk kepentingan awam," kata Cik Teo.
Sumber : CNA/LL/ll
Ikuti perkembangan kami dan dapatkan Berita Terkini
Langgani buletin emel kami
Dengan mengklik hantar, saya bersetuju data peribadi saya boleh digunakan untuk menghantar artikel dari Berita, tawaran promosi dan juga untuk penyelidikan dan analisis.
