SG berdepan lonjakan 'deepfake', pihak berkuasa beri amaran ancaman jenayah siber, penipuan online

SINGAPURA: Kes melibatkan teknologi memalsukan rupa paras seseorang dalam gambar atau video, iaitu 'deepfake', melonjak lima kali ganda pada tahun lalu sahaja.

Lantaran itu, pihak berkuasa memberi amaran bahawa teknologi tersebut boleh disalah guna untuk melakukan jenayah siber.

Laporan Pemalsuan Identiti Sumsub 2023, yang dikeluarkan bulan lalu, juga menunjukkan kenaikan 10 kali ganda dalam jumlah kes 'deepfake' yang dikesan di merata dunia dalam semua industri dari 2022 hingga 2023.

'Deepfake' merujuk kepada media yang diubah suai melalui kecerdasan buatan (AI), menggunakan teknik yang dipanggil peniruan wajah untuk memanipulasi pergerakan subjek dalam sesebuah video sedia ada.

Alat digital sedemikian semakin mudah diakses dan canggih, sekali gus memudahkan proses menghasilkan 'deepfake', menurut para pakar.

"Penipu juga boleh memanfaatkannya," kata CEO dan pengasas firma kajian privasi data Straits Interactive, Kevin Shepherdson, sambil menambah ia memperkenalkan aspek baharu kepada jenayah tersebut.

"Jika saya penipu, saya akan menggunakan AI generatif untuk membuat jawatan pekerjaan palsu, kemudian menggunakan maklumat LinkedIn orang lain dan memancing data. Jadi saya akan menyasarkan orang itu dan saya boleh menggunakan teknologi tersebut untuk mencipta seorang pengurus HR (sumber manusia) palsu supaya mangsa menyangka mereka berkomunikasi dengan orang yang sebenar."

KAWAL SELIA UNTUK TANGANI RISIKO

Profesor Mohan Kankanhalli, dekan Sekolah Pengkomputeran Universiti Nasional Singapura, memberitahu Mediacorp bahawa AI generatif sudah "memudahkan akses kepada kegiatan mencipta 'deepfake'" dan hanya akan ada lebih banyak kandungan 'deepfake' dihasilkan pada kadar lebih pantas pada masa akan datang.

Beliau menekankan bahawa kawalan ke atas sektor itu perlu mengikut perkembangan, dan ini boleh dilakukan menerusi pendekatan berdasarkan risiko atau menyasarkan untuk mengurangkaan bahaya.

"Pendekatan berdasarkan risiko - saya rasa adalah sesuatu yang cuba diguna pakai oleh kebanyakan negara Eropah - dan ia adalah langkah mencuba memahami apakah risiko jenis-jenis 'deepfake' berbeza dan kemudian mengawalnya pada dua peringkat," kata Profesor Kankanhalli, yang juga timbalan pengerusi eksekutif AI Singapore.

Di peringkat individu, ini bermakna mengenakan denda ke atas pencipta kandungan, manakala di peringkat platform, ia memerlukan syarikat-syarikat bertindak apabila dimaklumkan bahawa kandungan sedemikian sedang dikongsi di platform mereka.

Sesetengah negara juga menggesa bagi kawalan lebih ketat, kata Profesor Kankanhalli. Contohnya, China sedang mengarahkan syarikat-syarikat supaya mendedahkan sofwe yang digunakan untuk mencipta kandungan 'deepfake' dan juga algoritma yang disarankan.

Menurut Profesor Kankanhalli menangani masalah 'deepfake' "akan menjadi sangat mencabar".

Apabila generasi pertama 'deepfake' keluar, ia agak mudah dikesan disebabkan rupa paras yang ditiru itu tidak sempurna seperti mata yang tidak berkelip, kata beliau.

Sungguhpun demikian, para penipu mengenal pasti kelemahan-kelemahan dan memperbaiki sofwe.

AI generatif secara keseluruhannya "semakin lama semakin baik" dan bertambah baik dengan pantas, kata Profesor Kankanhalli lagi.

Beliau menekankan bahawa pihak yang mengawal selia perlu memahami teknologi itu dan beliau memetik Penguasa Pembangunan Infokom Media (IMDA) sebagai badan yang sangat terlibat dalam perkembangan AI dan menyedari perkembangannya.

"Saya rasa teknologi-teknologi perlu bekerjasama dengan pengawalan. Namun, dalam jangka panjang, saya rasa ini akan menjadi ibarat permainan kucing dan tikus, di mana pengawalan akan sentiasa mengejar teknologi," tambah beliau.

"Dalam jangka panjang, kita perlu mendidik orang ramai mengenai risiko 'melihat dan percayai', dan risiko mencipta sofwe sedemikian serta menjadikan masyarakat lebih bertanggungjawab dan beretika mengenai penggunaan sofwe sedemikian."

PENGGUNAAN TEKNOLOGI OLEH FIRMA KECIL

Satu lagi bidang yang memerlukan dasar untuk mengawal penggunaan AI adalah perusahaan kecil dan sederhana (SME).

Penggunaan AI generatif semakin meraih perhatian dalam masyarakat perniagaan Singapura, dengan tinjauan Straits Interactive mendedahkan sekitar dua dalam tiga SME sama ada menggunakan atau merancang untuk memanfaatkan teknologi tersebut untuk mencipta teks, dokumen dan video.

Pencipta sofwe Ambient Singapore, misalnya, menggunakan AI generatif untuk menyiapkan laman web dan menulis cadangan untuk klien, sekali gus meningkatkan produktiviti sehingga hampir 50 peratus.

Noodle Factory, iaitu sofwe yang menggunakan AI untuk membantu para guru, juga bergantung kepada teknologi baharu itu bagi perniagaannya, membolehkan pengguna memuat naik kandungan ke dalam sofwe tersebut untuk menjana soalan-soalan ujian.

CEOnya Yvonne Soh berkata para pendidik boleh mewujudkan guru AI tanpa memerlukan kemahiran pengekodan dan menyiapkan kandungan sendiri dengan mudah.

"Hasilnya, para pelajar dapat bersembang dengan guru-guru AI yang sudah ada pengetahuan yang sama dengan guru yang sebenar," kata Cik Soh.

Meskipun ada manfaat menggunakan AI, pelanggaran privasi bukan sesuatu yang asing, dengan maklumat seperti butiran nombor telefon, corak penggunaan, maklumat peranti dan lokasi semuanya berpotensi terdedah.

Sebahagian syarikat memuat naik, dasar HR (dan) sebahagian butiran berkaitan undang-undang untuk mencuba menyuruh AI meringkaskan atau menulis semula bahagain tertentu dan ini mungkin berdepan dengan isu hak cipta atau isu data peribadi, menurut Encik Ang Yuit, naib presiden Persatuan Perusahaan Kecil dan Sederhana.

Isu-isu itu mungkin timbul sedang kebanyakan firma bergantung kepada data sumber terbuka, di mana kod sumber sedia ada dan boleh diambil dan disesuaikan oleh sesiapa sahaja.

Untuk mengurangkan risiko keselamatan siber, SME memberitahu Mediacorp mereka mengambil langkah berjaga-jaga seperti menghadkan maklumat yang dimuat naik.