Pakar kesihatan mental beri amaran risiko guna chatbot AI untuk sokongan emosi
Para karyawan kesihatan mental di Singapura menyaksikan peningkatan pada jumlah pesakit yang penggunaan berpanjangan chatbot kecerdasan buatan (AI) dikaitkan dengan keadaan khayalan, paranoia atau terputus hubungan dengan realiti.
Anggaran Waktu Membaca:
- Pakar kesihatan mental di Singapura, termasuk Dr Amelia Sim dan Dr Annabelle Chow, melaporkan peningkatan pesakit yang mengalami gangguan psikologi akibat penggunaan chatbot AI secara berpanjangan.
- Fenomena ini, digelar psikosis AI, belum diiktiraf secara klinikal dan menimbulkan kebimbangan kerana AI memperkukuh pemikiran tidak sihat serta menggantikan hubungan manusia.
- Pakar menekankan pentingnya membina semula hubungan sesama manusia untuk pemulihan, dengan sokongan rakan sebaya dan perkongsian pengalaman hidup.
- Pendidikan celik AI dan kempen awam disarankan bagi meningkatkan kesedaran tentang risiko penggunaan chatbot, serta menetapkan batasan dan tujuan yang jelas.
SINGAPURA: Para karyawan kesihatan mental di Singapura menyaksikan peningkatan pada jumlah pesakit yang penggunaan berpanjangan chatbot kecerdasan buatan (AI) dikaitkan dengan keadaan khayalan, paranoia atau terputus hubungan dengan realiti.
Fenomena baharu itu – secara tidak rasmi digelar psikosis AI – menimbulkan kebimbangan dengan semakin ramai orang beralih kepada chatbot untuk mendapatkan sokongan emosi.
Buat masa ini, ia bukan diagnosis klinikal yang diiktiraf, dan belum ada rawatan yang dipersetujui atau kata sepakat saintifik bahawa ia merupakan suatu kondisi yang tersendiri.
Para doktor memberitahu Mediacorp bahawa gambaran yang lebih tepat ialah gangguan psikologi yang dikaitkan dengan penggunaan AI secara intensif.
RISIKO BERGANTUNG KEPADA AI
Di Institut Kesihatan Mental (IMH), pakar psikosis Amelia Sim berkata kes-kes sedemikian sudah mula muncul di Singapura pada tahun lalu.
Sebagai konsultan kanan yang berpengalaman selama bertahun-tahun, beliau terkejut apabila melihat AI seolah-olah mendorong seseorang daripada mempunyai fikiran yang tidak menentu kepada khayalan sepenuhnya.
Dr Sim, yang juga merupakan timbalan ketua jabatan psikosis IMH, kini merawat lima pesakit sedemikian yang melaporkan kemerosotan kesihatan mental yang dikaitkan dengan penggunaan AI.
Beliau menggambarkan seorang pesakit yang sudah bergelut dengan keresahan dan rasa tidak selamat.
Pesakit itu mula berinteraksi secara kerap dengan chatbot, yang menjawab soalan-soalan berulang dengan memberikan lebih banyak maklumat yang memburukkan lagi ketakutannya.
“Ia terus memberikan maklumat kerana dia asyik bertanya mengenainya,” kata Dr Sim. “Dan kemudian sampai ke tahap di mana keresahannya menjadi sangat teruk, dan dia mula benar-benar percaya bahawa realiti di luar sana semuanya buruk atau tidak selamat.”
AI boleh mengesahkan dan menguatkan pandangan pengguna, sekali gus memperkukuh pemikiran tidak sihat dalam kalangan mereka yang sudahpun mudah terdedah kepadanya, kata para pakar.
Apabila teknologi itu semakin menjadi sebahagian daripada kehidupan harian, para karyawan kesihatan mental berkata, penting untuk kita mengenali batasannya, kerana sesetengah bentuk sokongan hanya boleh disediakan melalui hubungan sesama manusia.
Dr Sim menekankan bahawa interaksi manusia bertindak sebagai tempat untuk menguji pandangan, membolehkan seseorang menilai perspektif yang berbeza-beza dan mengembangkan pemikiran kritikal.
Tanpa interaksi sedemikian, mereka yang menjadi terasing secara sosial dan bergantung kepada chatbot mungkin kehilangan pengaruh penting yang membantu mereka untuk berpegang kepada realiti, tambah beliau.
“Jadi anda menjadi terdedah, anda mungkin hilang kesedaran tentang apa yang benar-benar nyata.”
Dr Annabelle Chow, ketua pakar psikologi klinikal di Annabelle Psychology, berkata hubungan rapat yang terbina antara pengguna dan chatbot bermula apabila chatbot menjadi rujukan utama untuk mendapatkan jawapan.
Walaupun jawapannya mungkin kedengaran meyakinkan dan malah menenangkan, Dr Chow berkata sistem AI direka untuk menjadi sangat fasih, amat responsif dan menggunakan bahasa yang sangat meyakinkan.
“Ia mewujudkan ruang gema (echo chamber) di mana ia cenderung bersetuju dengan apa yang anda katakan,” kata beliau, sambil menambah bahawa alat tersebut boleh memperkukuhkan makna yang diberikan pengguna kepada idea-idea tertentu atau bahkan mula menggantikan hubungan sesama manusia.
“Ia membuatkan kita berfikir seolah-olah interaksi ini sangat peribadi dan kita berasa benar-benar difahami, tetapi malangnya, AI sebenarnya hanya menjana corak bahasa yang dipelajarinya dan bukannya menunjukkan empati yang sebenar.
“Jadi khususnya apabila seseorang itu sudah pun terdedah dan berasa sangat kesepian, ini sebenarnya boleh memburukkan sebarang pemikiran sedia ada yang tidak benar, bukan membetulkannya.”
MEMULIHKAN HUBUNGAN SESAMA MANUSIA
Para doktor berkata membina semula hubungan sesama manusia adalah kunci kepada proses pemulihan.
Itulah tumpuan pakar sokongan rakan sebaya IMH Wu Minyu, yang mengatakan bahawa perkongsian pengalaman hidup membantu para pesakit menjalin hubungan, saling memahami dan memulakan proses penyembuhan.
“Saya juga mahu memberi harapan bahawa pemulihan itu boleh dilakukan,” kata wanita berusia 38 tahun itu.
“Kita boleh berbincang tentang pengalaman kita, dan juga mengenal pasti pencetus serta tanda-tanda amaran supaya kita dapat mengenalinya. Dan kemudian jika kita mengalaminya, kita boleh mendapatkan bantuan dan kembali menyesuaikan diri.”
Untuk memahami trend tersebut dengan lebih baik, pasukan penyelidikan IMH sedang mengkaji isu itu dengan lebih mendalam.
Para pakar psikologi berkata pengukuhan celik AI melalui pendidikan di sekolah serta kempen awam akan memainkan peranan penting.
Dr Chow berkata pemahaman awam tentang cara-cara untuk menggunakan AI – termasuk risikonya dan keperluan untuk berhati-hati ketika berinteraksi dengannya – masih belum mencapai tahap yang baik.
“Terdapat kekurangan dari segi pendidikan tentang perkara tersebut buat masa ini,” tambah beliau.
Bagi mereka yang kerap menggunakan chatbot, Dr Sim berkata, penting untuk menetapkan batasan yang jelas dan mempunyai kesedaran tentang tujuan di sebalik penggunaan alat tersebut.
Beliau juga menasihatkan para pengguna supaya tidak hanya meluangkan masa online.
“Saban hari, saya rasa kadang-kadang chatbot boleh menjadi sangat menarik,” kata beliau.
“Daya tarikan untuk mempunyai sesuatu yang hanya mengatakan apa yang anda mahu dengar – ia agak berpengaruh, tetapi ia tidak dapat menggantikan hubungan sesama manusia.”
Fenomena baharu itu – secara tidak rasmi digelar psikosis AI – menimbulkan kebimbangan dengan semakin ramai orang beralih kepada chatbot untuk mendapatkan sokongan emosi.
Buat masa ini, ia bukan diagnosis klinikal yang diiktiraf, dan belum ada rawatan yang dipersetujui atau kata sepakat saintifik bahawa ia merupakan suatu kondisi yang tersendiri.
Para doktor memberitahu Mediacorp bahawa gambaran yang lebih tepat ialah gangguan psikologi yang dikaitkan dengan penggunaan AI secara intensif.
RISIKO BERGANTUNG KEPADA AI
Di Institut Kesihatan Mental (IMH), pakar psikosis Amelia Sim berkata kes-kes sedemikian sudah mula muncul di Singapura pada tahun lalu.
Sebagai konsultan kanan yang berpengalaman selama bertahun-tahun, beliau terkejut apabila melihat AI seolah-olah mendorong seseorang daripada mempunyai fikiran yang tidak menentu kepada khayalan sepenuhnya.
Dr Sim, yang juga merupakan timbalan ketua jabatan psikosis IMH, kini merawat lima pesakit sedemikian yang melaporkan kemerosotan kesihatan mental yang dikaitkan dengan penggunaan AI.
Beliau menggambarkan seorang pesakit yang sudah bergelut dengan keresahan dan rasa tidak selamat.
Pesakit itu mula berinteraksi secara kerap dengan chatbot, yang menjawab soalan-soalan berulang dengan memberikan lebih banyak maklumat yang memburukkan lagi ketakutannya.
“Ia terus memberikan maklumat kerana dia asyik bertanya mengenainya,” kata Dr Sim. “Dan kemudian sampai ke tahap di mana keresahannya menjadi sangat teruk, dan dia mula benar-benar percaya bahawa realiti di luar sana semuanya buruk atau tidak selamat.”
AI boleh mengesahkan dan menguatkan pandangan pengguna, sekali gus memperkukuh pemikiran tidak sihat dalam kalangan mereka yang sudahpun mudah terdedah kepadanya, kata para pakar.
Apabila teknologi itu semakin menjadi sebahagian daripada kehidupan harian, para karyawan kesihatan mental berkata, penting untuk kita mengenali batasannya, kerana sesetengah bentuk sokongan hanya boleh disediakan melalui hubungan sesama manusia.
Dr Sim menekankan bahawa interaksi manusia bertindak sebagai tempat untuk menguji pandangan, membolehkan seseorang menilai perspektif yang berbeza-beza dan mengembangkan pemikiran kritikal.
Tanpa interaksi sedemikian, mereka yang menjadi terasing secara sosial dan bergantung kepada chatbot mungkin kehilangan pengaruh penting yang membantu mereka untuk berpegang kepada realiti, tambah beliau.
“Jadi anda menjadi terdedah, anda mungkin hilang kesedaran tentang apa yang benar-benar nyata.”
Dr Annabelle Chow, ketua pakar psikologi klinikal di Annabelle Psychology, berkata hubungan rapat yang terbina antara pengguna dan chatbot bermula apabila chatbot menjadi rujukan utama untuk mendapatkan jawapan.
Walaupun jawapannya mungkin kedengaran meyakinkan dan malah menenangkan, Dr Chow berkata sistem AI direka untuk menjadi sangat fasih, amat responsif dan menggunakan bahasa yang sangat meyakinkan.
“Ia mewujudkan ruang gema (echo chamber) di mana ia cenderung bersetuju dengan apa yang anda katakan,” kata beliau, sambil menambah bahawa alat tersebut boleh memperkukuhkan makna yang diberikan pengguna kepada idea-idea tertentu atau bahkan mula menggantikan hubungan sesama manusia.
“Ia membuatkan kita berfikir seolah-olah interaksi ini sangat peribadi dan kita berasa benar-benar difahami, tetapi malangnya, AI sebenarnya hanya menjana corak bahasa yang dipelajarinya dan bukannya menunjukkan empati yang sebenar.
“Jadi khususnya apabila seseorang itu sudah pun terdedah dan berasa sangat kesepian, ini sebenarnya boleh memburukkan sebarang pemikiran sedia ada yang tidak benar, bukan membetulkannya.”
MEMULIHKAN HUBUNGAN SESAMA MANUSIA
Para doktor berkata membina semula hubungan sesama manusia adalah kunci kepada proses pemulihan.
Itulah tumpuan pakar sokongan rakan sebaya IMH Wu Minyu, yang mengatakan bahawa perkongsian pengalaman hidup membantu para pesakit menjalin hubungan, saling memahami dan memulakan proses penyembuhan.
“Saya juga mahu memberi harapan bahawa pemulihan itu boleh dilakukan,” kata wanita berusia 38 tahun itu.
“Kita boleh berbincang tentang pengalaman kita, dan juga mengenal pasti pencetus serta tanda-tanda amaran supaya kita dapat mengenalinya. Dan kemudian jika kita mengalaminya, kita boleh mendapatkan bantuan dan kembali menyesuaikan diri.”
Untuk memahami trend tersebut dengan lebih baik, pasukan penyelidikan IMH sedang mengkaji isu itu dengan lebih mendalam.
Para pakar psikologi berkata pengukuhan celik AI melalui pendidikan di sekolah serta kempen awam akan memainkan peranan penting.
Dr Chow berkata pemahaman awam tentang cara-cara untuk menggunakan AI – termasuk risikonya dan keperluan untuk berhati-hati ketika berinteraksi dengannya – masih belum mencapai tahap yang baik.
“Terdapat kekurangan dari segi pendidikan tentang perkara tersebut buat masa ini,” tambah beliau.
Bagi mereka yang kerap menggunakan chatbot, Dr Sim berkata, penting untuk menetapkan batasan yang jelas dan mempunyai kesedaran tentang tujuan di sebalik penggunaan alat tersebut.
Beliau juga menasihatkan para pengguna supaya tidak hanya meluangkan masa online.
“Saban hari, saya rasa kadang-kadang chatbot boleh menjadi sangat menarik,” kata beliau.
“Daya tarikan untuk mempunyai sesuatu yang hanya mengatakan apa yang anda mahu dengar – ia agak berpengaruh, tetapi ia tidak dapat menggantikan hubungan sesama manusia.”
Sumber : CNA/AZ/az
Ikuti perkembangan kami dan dapatkan Berita Terkini
Langgani buletin emel kami
Dengan mengklik hantar, saya bersetuju data peribadi saya boleh digunakan untuk menghantar artikel dari Berita, tawaran promosi dan juga untuk penyelidikan dan analisis.
