YAPAY ZEKA SAĞLIKTA SINIFI GEÇEMEDİ
Yeni bir araştırma, yapay zeka sohbet botlarının sağlık alanındaki yanıtlarının önemli bir bölümünün hatalı veya eksik olduğunu ortaya koydu. Çalışma, kullanıcıların bu tür bilgileri doğrudan doğru kabul etmemesi gerektiğine işaret ediyor.
Bilimsel dergi BMJ Open’da yayımlanan araştırmada, aralarında ChatGPT, Gemini, Grok, Meta AI ve DeepSeek gibi popüler yapay zeka platformlarının bulunduğu beş farklı sistem test edildi. Araştırmacılar, kanserden aşılara, beslenmeden atletik performansa kadar 50 farklı tıbbi soruyu bu sistemlere yöneltti.
Uzman değerlendirmelerine göre, verilen yanıtların yüzde 20’si yüksek derecede sorunlu, yüzde 50’si sorunlu, yüzde 30’u ise kısmen sorunlu olarak sınıflandırıldı. Bu sonuçlar, yapay zekanın sağlık alanında güvenilirlik sınırlarını net biçimde ortaya koydu.
Araştırmada ayrıca, yapay zeka sistemlerinin sunduğu kaynakçaların büyük bölümünde ciddi hatalar bulunduğu belirlendi. Yanlış yazar isimleri, çalışmayan bağlantılar ve tamamen uydurulmuş akademik referanslar dikkat çeken başlıca sorunlar arasında yer aldı. Hiçbir platformun eksiksiz ve doğru bir referans listesi sunamadığı kaydedildi.
Performans karşılaştırmasında en yüksek hata oranı yüzde 58 ile Grok’ta görülürken, onu yüzde 52 ile ChatGPT ve yüzde 50 ile Meta AI izledi. Özellikle beslenme ve spor performansı gibi bilgi kirliliğinin yoğun olduğu alanlarda hata oranlarının arttığı tespit edildi.
Araştırma, soru tipinin de sonuçları etkilediğini ortaya koydu. Kapalı uçlu sorularda daha isabetli yanıtlar verilirken, açık uçlu sorularda hata oranı belirgin şekilde yükseldi. Açık uçlu soruların yüzde 32’si yüksek derecede sorunlu bulundu.
Öte yandan Nature Medicine dergisinde yayımlanan ayrı bir çalışma, dikkat çekici bir farkı ortaya koydu. Yapay zeka modelleri teorik olarak yüzde 95 doğruluk oranına ulaşabilirken, gerçek kullanıcıların bu araçları kullanarak doğru bilgiye ulaşma oranı yüzde 35’e kadar düşüyor.
Uzmanlar, yapay zekanın karmaşık bilgileri özetleme ve doktora yöneltilecek soruları hazırlama konusunda faydalı olabileceğini, ancak tek başına bir tıbbi otorite olarak değerlendirilmemesi gerektiğini vurguluyor. Kullanıcılara, sağlıkla ilgili yanıtların mutlaka doğrulanması ve güvenilir kaynaklarla karşılaştırılması öneriliyor.
