Wanita ciptaan AI sebar maklumat salah tentang SG di TikTok
Anggaran Waktu Membaca:
Akaun TikTok itu nampaknya tidak berkaitan tetapi di sebalik itu terdapat sistem produksi yang menghasilkan maklumat salah tentang Singapura secara besar-besaran, menurut Mediacorp. (Gambaran skrin: TikTok)
- CNA dan Mediacorp mendedahkan rangkaian akaun TikTok yang menggunakan penyampai wanita AI untuk menyebarkan maklumat palsu mengenai Singapura dan Malaysia.
- Lebih 550 video dikesan antara Oktober 2025 hingga Jun 2026, dengan hampir semua menggunakan persona AI dan kandungan kitar semula.
- TikTok telah memadam beberapa akaun selepas diberi contoh, namun pakar menegaskan operasi ini bertujuan menjejaskan kepercayaan dan perpaduan sosial.
- Pakar menggesa orang ramai supaya lebih peka terhadap corak naratif berulang dan tidak mudah mempercayai kandungan tidak disahkan di media sosial.
SINGAPURA: Siasatan CNA mendedahkan rangkaian akaun TikTok yang diselaraskan menggunakan penyampai wanita yang dijana kecerdasan buatan (AI) untuk menyebarkan naratif palsu dan mengelirukan tentang Singapura dan Malaysia.
Analisis 30 akaun TikTok mendapati lebih 550 video, dengan 98 peratus dikumpulkan menggunakan persona yang dijana AI, dimanipulasi atau disalin, suara yang digunakan semula dan skrip kitar semula. Hampir sembilan daripada 10 video mengandungi dakwaan palsu atau mengelirukan itu, menarik lebih tiga juta tontonan.
Fakta Digunakan Sebagai Umpan
Antara Oktober 2025 hingga Jun 2026, video tersebut mempromosikan naratif yang menggambarkan nasib Singapura sebagai bergantung kepada China, menggabungkan fakta dengan penyelewengan dan dakwaan yang direka-reka.
Satu dakwaan palsu mendakwa Menteri Ehwal Luar Dr Vivian Balakrishnan merayu kepada China dan Indonesia agar tidak memintas pelabuhan Singapura.
Video lain secara palsu menggambarkan ekonomi Singapura sedang merosot walaupun data rasmi menunjukkan negara itu mengendalikan rekod 44.66 juta kontena pada tahun 2025.
TikTok Padam Akaun
Selepas Mediacorp berkongsi contoh dengan TikTok, platform itu mengeluarkan dua akaun kerana melanggar peraturannya mengenai tingkah laku yang menipu.
TikTok mendakwa ia kerap memadamkan akaun yang terlibat dalam operasi pengaruh rahsia, penyamaran dan bentuk manipulasi lain.
Rangkaian Maklumat Salah yang Diselaraskan
Mediacorp menemui 94 video berulang kali mengedarkan naratif palsu atau mengelirukan yang sama, menyumbang lebih 1.6 juta tontonan.
Dua puluh empat akaun mengitar semula skrip yang sama selama beberapa minggu dan bulan, selalunya menggunakan penyampai AI yang berbeza atau trek audio yang sama untuk mewujudkan penampilan suara bebas.
Pakar berkata pengulangan itu menjadikan dakwaan yang mengelirukan kelihatan lebih dipercayai dan mengeksploitasi algoritma cadangan TikTok.
Penyampai AI dan Persona Palsu
Siasatan mendapati ramai penyampai dihasilkan oleh AI atau disalin daripada pencipta lain, dengan wajah yang serupa muncul merentasi berbilang akaun menggunakan suara yang berbeza.
Tanda-tanda biasa termasuk pergerakan badan yang minimum, pergerakan bibir yang tidak selari, audio yang digunakan semula dan nama akaun serupa yang dikaitkan dengan nama akaun kewangan atau hal ehwal semasa.
Walaupun Mediacorp tidak dapat mengenal pasti siapa yang berada di sebalik operasi tersebut, bukti menunjukkan sistem pengeluaran yang diselaraskan dan bukannya pencipta kandungan bebas.
Pakar Mendesak Kesedaran yang Lebih Tinggi
Para pakar berkata kempen itu nampaknya direka untuk menjejaskan kepercayaan dan perpaduan sosial di Singapura dan Malaysia sambil mempengaruhi khalayak ramai yang berbahasa Mandarin.
Daripada menumpukan kepada mengenal pasti kandungan yang dihasilkan oleh AI, mereka menggesa orang ramai agar mengenali corak seperti naratif berulang yang muncul merentasi berbilang akaun dan berhati-hati tentang perkongsian kandungan yang tidak disahkan.
Analisis 30 akaun TikTok mendapati lebih 550 video, dengan 98 peratus dikumpulkan menggunakan persona yang dijana AI, dimanipulasi atau disalin, suara yang digunakan semula dan skrip kitar semula. Hampir sembilan daripada 10 video mengandungi dakwaan palsu atau mengelirukan itu, menarik lebih tiga juta tontonan.
Fakta Digunakan Sebagai Umpan
Antara Oktober 2025 hingga Jun 2026, video tersebut mempromosikan naratif yang menggambarkan nasib Singapura sebagai bergantung kepada China, menggabungkan fakta dengan penyelewengan dan dakwaan yang direka-reka.
Satu dakwaan palsu mendakwa Menteri Ehwal Luar Dr Vivian Balakrishnan merayu kepada China dan Indonesia agar tidak memintas pelabuhan Singapura.
Video lain secara palsu menggambarkan ekonomi Singapura sedang merosot walaupun data rasmi menunjukkan negara itu mengendalikan rekod 44.66 juta kontena pada tahun 2025.
TikTok Padam Akaun
Selepas Mediacorp berkongsi contoh dengan TikTok, platform itu mengeluarkan dua akaun kerana melanggar peraturannya mengenai tingkah laku yang menipu.
TikTok mendakwa ia kerap memadamkan akaun yang terlibat dalam operasi pengaruh rahsia, penyamaran dan bentuk manipulasi lain.
Rangkaian Maklumat Salah yang Diselaraskan
Mediacorp menemui 94 video berulang kali mengedarkan naratif palsu atau mengelirukan yang sama, menyumbang lebih 1.6 juta tontonan.
Dua puluh empat akaun mengitar semula skrip yang sama selama beberapa minggu dan bulan, selalunya menggunakan penyampai AI yang berbeza atau trek audio yang sama untuk mewujudkan penampilan suara bebas.
Pakar berkata pengulangan itu menjadikan dakwaan yang mengelirukan kelihatan lebih dipercayai dan mengeksploitasi algoritma cadangan TikTok.
Penyampai AI dan Persona Palsu
Siasatan mendapati ramai penyampai dihasilkan oleh AI atau disalin daripada pencipta lain, dengan wajah yang serupa muncul merentasi berbilang akaun menggunakan suara yang berbeza.
Tanda-tanda biasa termasuk pergerakan badan yang minimum, pergerakan bibir yang tidak selari, audio yang digunakan semula dan nama akaun serupa yang dikaitkan dengan nama akaun kewangan atau hal ehwal semasa.
Walaupun Mediacorp tidak dapat mengenal pasti siapa yang berada di sebalik operasi tersebut, bukti menunjukkan sistem pengeluaran yang diselaraskan dan bukannya pencipta kandungan bebas.
Pakar Mendesak Kesedaran yang Lebih Tinggi
Para pakar berkata kempen itu nampaknya direka untuk menjejaskan kepercayaan dan perpaduan sosial di Singapura dan Malaysia sambil mempengaruhi khalayak ramai yang berbahasa Mandarin.
Daripada menumpukan kepada mengenal pasti kandungan yang dihasilkan oleh AI, mereka menggesa orang ramai agar mengenali corak seperti naratif berulang yang muncul merentasi berbilang akaun dan berhati-hati tentang perkongsian kandungan yang tidak disahkan.
Sumber : CNA/AY/ay
Ikuti perkembangan kami dan dapatkan Berita Terkini
Langgani buletin emel kami
Dengan mengklik hantar, saya bersetuju data peribadi saya boleh digunakan untuk menghantar artikel dari Berita, tawaran promosi dan juga untuk penyelidikan dan analisis.
