.webp)
Seorang pria berkonsultasi dengan ChatGPT sebelum mengubah pola makannya. Tiga bulan kemudian, setelah konsisten menjalani perubahan pola makan tersebut, ia akhirnya dirawat di unit gawat darurat dengan gejala-gejala kejiwaan baru yang mengkhawatirkan, termasuk paranoia dan halusinasi.
Ternyata pria berusia 60 tahun itu menderita bromisme, suatu sindrom yang disebabkan oleh paparan kronis yang berlebihan terhadap senyawa kimia bromida atau senyawa sejenisnya, bromin. Dalam kasus ini, pria tersebut telah mengonsumsi natrium bromida yang dibelinya secara daring.
Laporan kasus pria tersebut dipublikasikan pada 5 Agustus 2025 di jurnal Annals of Internal Medicine Clinical Cases. Dalam laporan yang dikutip dari Live Science, OpenAI selaku pengembang ChatGPT telah dihubungi terkait kasus ini.
SCROLL TO CONTINUE WITH CONTENT
Juru bicara OpenAI meresponsnya dengan mengarahkan ke informasi terkait ketentuan layanan perusahaan, yang menyatakan bahwa layanannya tidak ditujukan untuk diagnosis atau pengobatan kondisi kesehatan apa pun, dan ketentuan penggunaannya.
"Anda tidak diperkenankan mengandalkan layanan kami sebagai satu-satunya sumber kebenaran atau informasi faktual, atau sebagai pengganti nasihat profesional," demikian bunyi keterangan tersebut.
Juru bicara tersebut menambahkan bahwa tim keamanan OpenAI bertujuan untuk mengurangi risiko penggunaan layanan perusahaan dan melatih produk mereka agar mendorong pengguna untuk mencari nasihat profesional.
Eksperimen berujung celaka
Pada abad ke-19 dan ke-20, bromida banyak digunakan dalam obat resep dan obat bebas (OTC), termasuk obat penenang, antikonvulsan, dan obat tidur. Namun, seiring waktu, menjadi jelas bahwa paparan kronis, seperti melalui penyalahgunaan obat-obatan ini, menyebabkan bromisme.
'Toksidroma' ini, sindrom yang dipicu oleh akumulasi toksin, dapat menyebabkan gejala neuropsikiatri, termasuk psikosis, agitasi, mania, dan delusi, serta masalah memori, berpikir, dan koordinasi otot. Bromida dapat memicu gejala-gejala ini karena, jika terpapar dalam jangka panjang, bromida akan menumpuk di dalam tubuh dan mengganggu fungsi neuron.
Pada 1970-an dan 1980-an, regulator AS menghapus beberapa bentuk bromida dari obat bebas, termasuk natrium bromida. Tingkat bromisme menurun secara signifikan setelahnya, dan kondisi ini masih relatif jarang terjadi hingga saat ini. Namun, beberapa kasus bromisme masih terjadi, dengan beberapa kasus terbaru dikaitkan dengan suplemen makanan yang mengandung bromida yang dibeli secara daring.
Sebelum kasus pria tersebut baru-baru ini, ia telah membaca tentang dampak negatif kesehatan akibat mengonsumsi terlalu banyak garam dapur, yang juga disebut natrium klorida.
"Ia terkejut karena hanya menemukan literatur yang berkaitan dengan pengurangan natrium dari pola makan seseorang, alih-alih pengurangan klorida," demikian menurut laporan tersebut.
"Terinspirasi oleh riwayat studi nutrisinya di perguruan tinggi, ia memutuskan untuk melakukan eksperimen pribadi untuk menghilangkan klorida dari pola makannya," lanjut keterangan tersebut.
Untuk diketahui, klorida penting untuk menjaga volume darah dan tekanan darah yang sehat, dan masalah kesehatan dapat muncul jika kadar klorida dalam darah menjadi terlalu rendah atau terlalu tinggi.
Pasien berkonsultasi dengan ChatGPT berdasarkan linimasa kasus. Penulis laporan tidak mendapatkan akses ke log percakapan pasien, sehingga susunan kata yang dihasilkan oleh model bahasa besar (LLM) tidak diketahui. Namun, pria tersebut melaporkan bahwa ChatGPT menyatakan klorida dapat ditukar dengan bromida, sehingga ia mengganti semua natrium klorida dalam makanannya dengan natrium bromida.
Para penulis mencatat bahwa pertukaran ini kemungkinan berhasil dalam konteks penggunaan natrium bromida untuk membersihkan, alih-alih untuk keperluan makanan.
Dalam upaya mensimulasikan apa yang mungkin terjadi pada pasien mereka, dokter yang menangani pria tersebut mencoba bertanya kepada ChatGPT 3.5 tentang klorida apa yang bisa diganti, dan mereka juga mendapat respons yang menyertakan bromida. L
"LM memang mencatat bahwa konteks itu penting, tetapi tidak memberikan peringatan kesehatan spesifik atau mencari konteks lebih lanjut tentang mengapa pertanyaan itu diajukan, seperti yang kami duga akan dilakukan oleh seorang profesional medis," tulis para peneliti.
Pulih dari bromisme
Setelah tiga bulan mengonsumsi natrium bromida, alih-alih garam dapur, pria tersebut melaporkan diri ke unit gawat darurat dengan kekhawatiran bahwa tetangganya telah meracuninya. Hasil laboratoriumnya saat itu menunjukkan penumpukan karbon dioksida dalam darahnya, serta peningkatan alkalinitas (kebalikan dari keasaman).
Ia juga tampak memiliki kadar klorida yang tinggi dalam darahnya, tetapi kadar natriumnya normal. Setelah diselidiki lebih lanjut, ternyata ini adalah kasus 'pseudohiperkloremia', yang berarti tes laboratorium untuk klorida memberikan hasil yang salah karena senyawa lain dalam darah, yaitu bromida dalam jumlah besar, mengganggu pengukuran. Setelah berkonsultasi dengan literatur medis dan Pusat Pengendalian Racun, dokter pria tersebut menentukan diagnosis yang paling mungkin adalah bromisme.
Setelah dirawat untuk pemantauan elektrolit dan pemulihan, pria tersebut mengatakan ia sangat haus tetapi paranoid terhadap air yang ditawarkan. Setelah seharian penuh di rumah sakit, paranoianya semakin parah dan ia mulai mengalami halusinasi. Bahkan, pria itu mencoba melarikan diri dari rumah sakit, yang mengakibatkan ia harus mengalami penahanan untuk penanganan psikiatrik, dan selama masa penahanan tersebut ia mulai menerima antipsikotik .
Kondisi vital pria tersebut stabil setelah diberikan cairan dan elektrolit, dan seiring membaiknya kondisi mentalnya setelah mengonsumsi antipsikotik, ia dapat memberi tahu dokter tentang penggunaan ChatGPT. Ia juga mencatat gejala-gejala tambahan yang baru-baru ini ia sadari, seperti jerawat di wajah dan benjolan merah kecil di kulitnya, yang mungkin merupakan reaksi hipersensitivitas terhadap bromida. Ia juga menvalami insomnia, kelelahan, masalah koordinasi otot, dan rasa haus yang berlebihan, yang semakin menunjukkan bromisme.
Dalam proses penyembuhannya, dosis antipsikotik secara bertahap dikurangi selama tiga minggu, lalu diperbolehkan pulang dari rumah sakit. Kondisinya terpantau tetap stabil saat kontrol dua minggu kemudian.
"Meskipun AI merupakan alat yang sangat potensial untuk menjembatani antara ilmuwan dan komunitas nonakademis, AI juga berisiko menyebarkan informasi yang tidak kontekstual," simpul para penulis laporan.
"Sangat kecil kemungkinan seorang pakar medis akan menyebutkan natrium bromida ketika dihadapkan dengan pasien yang mencari pengganti natrium klorida yang layak," kata mereka.
Mereka menekankan bahwa, seiring meningkatnya penggunaan AI, penyedia layanan kesehatan perlu mempertimbangkan hal ini saat menyaring di mana pasien mereka mengonsumsi informasi kesehatan.
Kasus ini menambah kekhawatiran terkait saran medis dari AI. Sekelompok ilmuwan lain baru-baru ini menguji enam LLM, termasuk ChatGPT, dengan meminta model tersebut menafsirkan catatan klinis yang ditulis oleh dokter.
Mereka menemukan bahwa LLM sangat rentan terhadap serangan halusinasi adversarial, yang berarti LLM sering menghasilkan detail klinis palsu yang menimbulkan risiko jika digunakan tanpa pengaman.
Menerapkan perbaikan teknis dapat mengurangi tingkat kesalahan tetapi tidak menghilangkannya, demikian temuan para peneliti. Hal ini menyoroti cara lain bagaimana LLM dapat menimbulkan risiko dalam pengambilan keputusan medis.
(rns/rns)
