jelasBERITA: Apa itu frontier AI & bagaimana Mythos Anthropic bentuk semula keselamatan siber?

SINGAPURA: Kemunculan model kecerdasan buatan (AI) yang sangat canggih seperti Claude Mythos daripada Anthropic kini meningkatkan kebimbangan dunia terhadap teknologi jenis baharu yang dipanggil "frontier AI" serta risiko keselamatan yang mungkin dicetuskannya.

Sistem-sistem ini merupakan model AI paling canggih yang ada pada masa ini dan mampu berfikir untuk menyelesaikan masalah yang rumit serta mengesan kelemahan sistem dengan kelajuan dan skala yang jauh melampaui kemampuan manusia. Walaupun teknologi ini boleh memperkukuh keselamatan siber, ia juga membawa ancaman baharu kepada masyarakat.

Model Mythos secara khususnya menarik perhatian ramai atas kemampuannya dalam bidang pengekodan (coding) dan analisis sistem.

Ini mencetuskan kebimbangan bahawa peralatan tersebut boleh disalahguna oleh penjenayah siber untuk mengambil kesempatan ke atas kelemahan dalam sistem-sistem kritikal. Kesannya, pihak pengawal selia dan penggubal dasar kini sedang menilai semula sama ada langkah keselamatan sedia ada sudah memadai atau tidak.

APA ITU FRONTIER AI?

Secara ringkasnya, frontier AI merujuk kepada sistem AI yang paling berkuasa dan terkini.

Santanu Dutt daripada firma keselamatan siber Zscaler menjelaskan bahawa ia boleh diibaratkan seperti J.A.R.V.I.S dalam filem Iron Man, iaitu seorang pembantu yang boleh berbual, berfikir untuk menyelesaikan masalah, dan bertindak bagi pihak pengguna.

Encik Datt menambah apa yang dahulunya hanya sekadar fiksyen kini boleh dicapai oleh sesiapa sahaja yang dibungkan dengan internet.

Model-model ini sangat berkuasa terutamanya dalam analisis perisian sofwe dan keselamatan siber kerana ia boleh mengimbas jumlah kod yang sangat besar dan mengenal pasti kelemahan dan menyarankan cara-cara mengatasinya,dalam masa beberapa jam sahaja, sedangkan tugasan itu biasanya mengambil masa berbulan-bulan bagi manusia.

Namun, perkara ini menjadi "pedang bermata dua" kerana penjenayah siber juga boleh menyalahgunakan sistem yang sama untuk menyerang dengan kelajuan yang tidak pernah dilihat sebelum ini.

Selain Mythos, model frontier AI lain termasuklah GPT-4 daripada OpenAI, Gemini daripada Google, dan Grok daripada xAI.

APA RISIKO DI SEBALIK TEKNOLOGI INI?

Pakar memberitahu Mediacorp bahawa kebimbangan utama bukan sahaja mengenai apa yang boleh dilakukan oleh AI, tetapi betapa cepat dan meluas ia boleh dilakukan.

Model-model ini meruntuhkan benteng untuk melakukan serangan siber yang canggih. Tugasan yang dahulunya memerlukan kemahiran pakar, seperti menulis perisian hasad atau merancang kempen penipuan memancing data atau "phishing", kini boleh dilakukan dengan arahan ringkas sahaja.

Dari segi kelajuan, Muthu Kumar daripada firma TrendAI menjelaskan bahawa kelemahan sistem yang biasanya mengambil masa berminggu-minggu untuk dikesan kini boleh dieksploitasi dalam masa beberapa minit sahaja.

Dari segi skala pula, seorang individu yang menggunakan model AI ini mampu menandingi kekuatan yang dahulunya memerlukan satu pasukan penggodam.

Hal ini mewujudkan ketidakseimbanganyang semakin meluas antara si penyerang dengan pasukan pertahanan, di mana penyerang hanya perlu mencari satu kelemahan kecil manakala pihak pertahanan perlu menutup setiap kelemahan yang ada.

MENGAPA RISIKO INI MAKIN MEMBIMBANGKAN?

Implikasi ini sangat serius terutamanya di peringkat negara kerana prasarana kritikal seperti bank, rangkaian telekomunikasi, sistem kesihatan, dan grid tenaga bergantung kepada sistem digital yang saling berkaitan.

Banyak daripada sistem ini menggunakan perisian pihak ketiga yang mungkin mempunyai kelemahan tersembunyi.

Para pakar memberi amaran bahawa negara yang canggih boleh menggunakan model AI ini untuk melancarkan serangan automatik yang kerap terhadap prasarana negara.

Di Singapura contohnya, semua sektor utama seperti bank, hospital, dan rangkaian pengangkutan sangat berkait rapat, bermakna serangan siber yang dipercepatkan oleh AI bukan lagi sekadar masalah IT biasa.

Bagi perniagaan pula, satu kesilapan kecil menggunakan alat AI boleh mendedahkan rahsia perdagangan atau pangkalan data pelanggan dalam masa beberapa saat sahaja.

SEKTOR MANA YANG PALING TERDEDAH KEPADA BAHAYA?

Sektor kewangan dan perbankan dikenal pasti sebagai antara yang paling berisiko kerana ia berunsur digital dan sentiasa menjadi sasaran penjenayah.

AI boleh mempercepatkan kes penipuan dan serangan ke atas aplikasi perbankan.

Namun, banyak pertubuhan didapati tidak mampu mengejar kepantasan evolusi frontier AI ini.

Keselamatan siber hari ini masih banyak bersifat reaktif, iaitu hanya bertindak selepas kejadian berlaku bukannya mencegah sebelum ia terjadi.

Malah, ada penyelidikan menunjukkan bahawa institusi kewangan menggunakan AI dua kali lebih pantas berbanding tindakan pihak pengawal selia dalam menetapkan undang-undang.

Di Amerika Syarikat, pemerintah baru-baru ini mengumumkan bahawa mereka akan mempunyai akses kepada model AI baharu daripada syarikat teknologi gergasi untuk menilai risikonya sebelum ia dilancarkan kepada umum.

APA LANGKAH YANG BOLEH DIAMBIL?

Walaupun risiko daripada AI tidak boleh dihapuskan sepenuhnya, ia masih boleh diuruskan.

Di peringkat pertubuhan, syarikat perlu memahami risiko mereka, memantau penggunaan alat AI, dan menetapkan garis panduan yang jelas tentang data yang boleh dikongsi.

Di peringkat nasional pula, penyelarasan antarabangsa yang lebih kuat diperlukan supaya pemerintah boleh bekerjasama membangunkan dasar dan prosedur penggunaan AI ini.

Pakar menegaskan bahawa isu ini bukan masalah satu negara sahaja kerana jika teknologi ini jatuh ke tangan yang salah, ia akan memberi kesan kepada semua orang.

Akhir sekali, keselamatan siber dalam era AI ini bukan lagi sekadar urusan bahagian IT di pejabat belakang, tetapi ia merupakan isu kepimpinan kerana kesannya akan ditanggung oleh pelanggan, rakyat, dan seluruh negara.