Doktorlar uyardı: ChatGPT kanser ile ilgili uydurma bilgiler üretiyor
ABD’de yapılan bir çalışmanın ChatGPT’nin kanser hakkında bilgi istendiğinde sağlık verileri uydurduğunu ortaya koymasının ardından, doktorlar insanların yapay zekaya sahip sohbet robotunu tıbbi tavsiye için kullanmamaları konusunda uyardı. Araştırmaya göre ChatGPT, meme kanseri hakkındaki on sorudan birini yanlış yanıtladı. Bilim insanları, bazı durumlarda ChatGPT’nin iddialarını desteklemek için sahte dergi makaleleri bile ürettiğini belirtti.
ABD’de yer alan Maryland Tıp Fakültesi’nden araştırmacılar, ChatGPT’nin meme kanseri taraması hakkında 25 soruya cevap vermesini istedi.
Sohbet robotunun yanıtlarının değişebildiği bilindiğinden, her soru üç kez soruldu. Sonuçlar daha sonra mamografi eğitimli üç radyolog tarafından analiz edildi.
Yanıtların çok büyük bir kısmı (yüzde 88) uygun ve anlaşılır nitelikteydi. Ancak bazı cevapların “yanlış hatta uydurma” olduğu görüldü. Örneğin, yanıtlardan biri eski bilgilere dayanıyordu.
Yaklaşık bir buçuk yıl önce Covid-19 aşısından sonra dört ila altı hafta içinde yapılacak bir mamogramın geciktirilmesi öneriliyordu. Ancak,, bu tavsiye bir yıl önce Dünya Sağlık Örgütü (DSÖ) tarafından kadınların beklememesi yönünde değiştirildi.
“AYNI SORUDA YANIT BÜYÜK ÖLÇÜDE DEĞİŞTİ”
ChatGPT, ayrıca “meme kanseri riski” ve “Mamogram nerede çektirilir?” gibi sorulara tutarsız yanıtlar verdi. Aynı soru tekrarlandığında yanıtlar “önemli ölçüde” değişti.
“SAHTE BİLİMSEL MAKALELER VE KURULUŞLAR ÜRETİYOR”
Çalışmanın ortak yazarı Dr. Paul Yi, konuya ilişkin yaptığı açıklamada, “Deneyimlerimizde ChatGPT’nin bazen iddialarını desteklemek için sahte dergi makaleleri veya sağlık kuruluşları uydurduğunu gördük. İnsanların, bunların yeni, kanıtlanmamış teknolojiler olduğunu ve tavsiye almak için ChatGPT yerine hala doktorlarına güvenmeleri gerektiğini bilmeleri gerekiyor.” dedi.
Radiology dergisinde yayınlanan araştırmanın başyazarı Dr. Hana Haver ise ChatGPT’nin sadece Amerikan Kanser Derneği tarafından verilen bir öneri setini referans alarak soruları yanıtladığını, ABD Hastalık Kontrol Önleme Merkezleri (CDC) ve Dünya Sağlık Örgütü (DSÖ) gibi kuruluşların güncellemelerine hakim olmadığını vurguladı.
