Dalam sebuah studi yang dilakukan oleh tim peneliti, terungkap bahwa ChatGPT, sebagai sistem kecerdasan buatan, sering kali memberikan saran medis darurat yang tidak tepat. Temuan ini menarik perhatian karena menunjukkan risiko yang mungkin dihadapi oleh individu yang mencari bantuan medis melalui platform tersebut. Penelitian ini berfokus pada efektivitas ChatGPT dalam memberikan respons terhadap situasi medis yang kritis.
Studi ini melibatkan analisis terhadap sejumlah kasus darurat, di mana ChatGPT diminta untuk memberikan saran terkait kondisi kesehatan yang mendesak. Peneliti menemukan bahwa dalam banyak situasi, rekomendasi yang diberikan tidak sesuai dengan pedoman medis yang diakui. "Kami mencatat sejumlah besar kesalahan dalam saran yang diberikan, dan itu sangat mengkhawatirkan," ungkap Dr. Rina Setiawati, salah satu peneliti yang terlibat dalam studi tersebut.
Penting untuk dicatat bahwa ChatGPT tidak dirancang untuk memberikan diagnosis medis atau saran pengobatan yang akurat. Meskipun dapat memberikan informasi umum, keandalan saran yang diberikan dalam konteks darurat sangat diragukan. Tim peneliti menjelaskan bahwa kualitas respons dapat bervariasi tergantung kepada konteks percakapan dan bagaimana pertanyaan disampaikan. "Ini menunjukkan bahwa meskipun teknologi ini canggih, ada batasan signifikan dalam hal aplikasi medis yang aman," tambah Dr. Rina.
Para peneliti juga menekankan pentingnya pemahaman yang tepat mengenai potensi risiko yang terkait dengan ketergantungan pada teknologi dalam situasi darurat. "Pengguna harus diberitahu untuk selalu mencari bantuan profesional dalam situasi yang mengancam jiwa," tandas Dr. Rina. Oleh karena itu, meskipun ChatGPT dapat membantu dalam memberikan informasi dasar, ia seharusnya tidak dijadikan rujukan utama dalam situasi medis kritis.
Dalam konteks ini, penting bagi pengguna untuk menyadari bahwa konsultasi dengan tenaga medis yang terlatih selalu menjadi pilihan terbaik ketika berhadapan dengan masalah kesehatan. Penelitian ini menjadi pengingat bagi masyarakat akan perlunya kehati-hatian dalam menggunakan teknologi canggih, terutama dalam bidang yang memerlukan keakuratan dan keselamatan seperti kesehatan.
Kedepannya, diharapkan penelitian semacam ini dapat mendorong pengembangan model AI yang lebih baik dalam hal akurasi dan keselamatan, serta meningkatkan kesadaran di kalangan pengguna tentang batasan dan risiko yang ada. Penelitian lebih lanjut juga diperlukan untuk mengeksplorasi cara-cara yang lebih aman dalam memanfaatkan AI dalam konteks kesehatan.
