Chatbot AI didapati beri nasihat kesihatan tidak tepat: Kajian

WASHINGTON: Satu kajian yang diterbitkan baru-baru ini memberi pandangan baharu tentang sama ada chatbot AI, yang semakin dijadikan sebagai sumber utama maklumat kesihatan, dapat dipercayai untuk memberikan nasihat perubatan kepada orang awam.

Kajian itu mendapati chatbot tersebut serupa dengan Google - yang sudah pun menjadi sumber maklumat kesihatan yang kurang tepat - dalam membimbing pengguna ke arah diagnosis yang tetpat atau membantu mereka untuk menentukan langkah seterusnya.

Teknologi itu juga menimbulkan risiko unik, kadangkala ia memberikan maklumat palsu atau mengubah nasihat dengan ketara bergantung pada perubahan kecil dalam susunan soalan.

Tiada satu pun model yang dinilai dalam eksperimen itu "sedia untuk digunakan dalam penjagaan pesakit secara langsung," simpul penyelidik dalam kertas kerja tersebut, yang merupakan kajian rawak pertama seumpamanya.

Dalam tempoh tiga tahun sejak chatbot AI tersedia untuk umum, soalan kesihatan menjadi salah satu topik paling lazim yang diajukan oleh para pengguna.

Sesetengah doktor kerap berjumpa pesakit yang merujuk kepada model AI untuk mendapatkan pendapat pertama.

Tinjauan mendapati kira-kira satu daripada enam orang dewasa menggunakan chatbot untuk mencari maklumat kesihatan sekurang-kurangnya sekali sebulan.

Syarikat AI utama, termasuk Amazon dan OpenAI, melancarkan produk bertujuan khusus untuk menjawab soalan kesihatan dari pengguna.

Model-model AI tersebut lulus peperiksaan pelesenan perubatan selain berjaya mengatasi para doktor dalam menyelesaikan masalah diagnostik yang mencabar.

Namun, Adam Mahdi, seorang profesor di Institut Internet Oxford dan pengarang kanan kajian Perubatan Alam Semula Jadi yang baharu, mengesyaki soalan perubatan yang mudah itu bukanlah sumber baik bagi menentukan sejauh mana ia berkesan bagi pesakit sebenar.

“Perubatan bukan seperti itu,” katanya. “Perubatan itu bercelaru, tidak lengkap, ia stokastik.”

Lantaran itu, beliau dan rakan-rakannya menjalankan satu eksperimen.

Lebih 1,200 peserta warga Britain, yang kebanyakannya belum pernah menjalani latihan perubatan, diberikan senario perubatan yang terperinci, lengkap dengan simptom, butiran gaya hidup umum dan sejarah perubatan.

Para penyelidik menyuruh para peserta supaya menanyakan kepada bot tersebut mengenai langkah-langkah sesuai seterusnya, seperti sama ada mereka harus menghubungi ambulans atau merawat diri sendiri di rumah.

Mereka menguji chatbot yang ditawarkan secara komersial seperti ChatGPT OpenAI dan Llama Meta.

Para penyelidik mendapati kurang separuh daripada peserta memilih tindakan yang dianggap "betul" - yang ditentukan oleh panel doktor.

Sekitar 34 peratus kali, para pengguna dapat mengenal pasti gejala kesihatan yang betul, seperti batu karang atau pendarahan subarachnoid.

Kumpulan itu juga tidak meraih keputusan lebih baik berbanding kumpulan terkawal, yang diarahkan melakukan tugas yang sama menggunakan kaedah penyelidikan yang biasanya digunakan di rumah, terutamanya Google.

Namun ujian itu bukanlah kaedah sempurna bagi menentukan bagaimana chatbot AI menjawab soala-soalan perubatan di dunia sebenar.

Ini kerana para peserta ujian menanyakan soalan berdasarkan senario yang direka, yang mungkin berbeza berbanding cara mereka berinteraksi dengan chatbot tentang kesihatan mereka sendiri, kata Dr Ethan Goh, yang mengetuai Rangkaian Penyelidikan dan Penilaian Sains AI di Universiti Stanford.

Memandangkan syarikat AI kerap melancarkan versi model yang aharu, chatbot yang digunakan oleh para peserta setahun lalu dalam ujiani tu mungkin berbeza daripada model yang digunakan sekarang.