Jenayah 'deepfake' semakin meningkat; boleh cetus 'krisis kepercayaan' dalam masyarakat SG

SINGAPURA: Ramai di antara kita mungkin pernah ternampak gambar orang dengan tiga tangan, enam jari atau mata memandang ke dua arah yang berasingan sejak beberapa tahun kebelakangan ini - dengan Kecerdasan Buatan (AI) Generatif pernah menjadi bahan gurau senda pada suatu ketika dahulu.

Teknologi 'deepfake' juga menjadi sumber keseronokan bagi sesetengah orang, apabila mereka menggunakan gambar rakan atau ahli keluarga dan memasukkannya ke dalam adegan filem terkenal atau membuat mereka "mengatakan" frasa yang tidak masuk akal, sebagai contoh.

Walau bagaimanapun, akhir-akhir ini, trend itu sudah berubah menjadi lebih meruncing, dengan pelaku yang berniat jahat menggunakan teknologi tersebut bagi tujuan jenayah dan mengaibkan orang lain.

Bulan lalu, Menteri Pengangkutan Chee Hong Tat dan Encik Edwin Tong, Menteri Kebudayaan, Masyarakat dan Belia, adalah antara lebih 100 pegawai awam di sini yang menerima surat peras ugut dengan imej palsu.

Alat 'deepfake' yang boleh diakses secara terang-terangan telah memudahkan sesiapa sahaja untuk mencipta imej bersifat seksual tanpa persetujuan dan kebenaran orang lain. Awal bulan lalu, CNA melaporkan bahawa polis sedang menyiasat gambar bogel palsu beberapa pelajar Sekolah Sukan Singapura yang dicipta dan dikongsi oleh pelajar lain.

Encik Vinod Shankar, ketua keselamatan untuk Asia Tenggara di Accenture, berkata bahawa para pelaku, termasuk penipu, membuat pelaburan yang lebih besar bagi 'deepfake' bermutu tinggi. Firma perkhidmatan dan perundingan IT itu mendapati bahawa video sedemikian boleh menelan belanja sehingga S$27,250 seminit.

Kemajuan pesat teknologi AI Generatif juga boleh meningkatkan lagi bahaya 'deepfake', menurut para pakar. Awal bulan ini, OpenAI – syarikat induk ChatGPT – dan Google mengeluarkan penjana teks-ke-video yang membolehkan pengguna mencipta video berbentuk 'hiper-realistik'.

Kedua-dua platform itu akur tentang bahaya yang boleh ditimbulkan oleh perisian masing-masing jika perisian sedemikian jatuh ke tangan yang salah dan kedua-dua platform mendakwa bahawa mereka mempunyai perlindungan yang sewajarnya.

Menurut para pakar, lebih banyak - dan lebih dahsyat - boleh dijangkakan.

Sora Turbo Open AI telah mengehadkan muat naik imej individu ke platformnya untuk mengurangkan pemalsuan seperti 'deepfake'.

Veo 2 Google, yang terbuka kepada hanya sekumpulan kecil pengguna, menghasilkan video dengan kaedah SynthID yang "membantu mengenal pasti video sebagai video yang dijana AI, sekali gus membantu mengurangkan kemungkinan berlaku maklumat salah dan penipuan".

Tidak semua perisian 'deepfake' mempunyai perlindungan sedemikian.

Para pakar keselamatan siber berkata kemajuan dalam teknologi 'deepfake' akhirnya akan menyebabkan mata kasar manusia tidak lagi dapat membezakan 'deepfake'. Lebih dahsyat lagi, teknologi seperti 'deepfake' akan menjadi lebih meluas sehingga sesiapa sahaja boleh membuat 'deepfake', sama ada untuk tujuan kebaikan atau sebaliknya.

Ini bermakna 'deepfake' boleh digunakan bukan sahaja untuk memanipulasi atau membahayakan orang, ia juga boleh "menggugat kepercayaan di semua peringkat: Peribadi, masyarakat dan institusi", kata seorang ahli akademik dari Universiti Teknologi dan Reka Bentuk Singapura (SUTD).

Penolong Profesor Roy Lee yang mengajar di bawah program teknologi dan reka bentuk sistem maklumat berkata: "Jika 'deepfake' menjadi lebih sukar untuk dikesan, ia boleh membuatkan orang ramai mempersoalkan ketulenan semua kandungan digital, yang membawa kepada 'krisis kebenaran'."

Penolong Prof Lee berkata bahawa perkembangan dalam model pembelajaran AI, yang membolehkan teknologi sedemikian untuk belajar, dan peningkatan pada kuasa pengkomputeran telah membolehkan program 'deepfake' memproses dan menjana kandungan 'deepfake' yang lebih realistik.

Beliau menambah bahawa perkembangan ini didorong oleh permintaan yang semakin meningkat untuk media dijana AI berbentuk 'hiper-realistik' dalam sesetengah industri seperti hiburan.