ChatGPT, sağlık ile ilgili soruların çoğuna yanlış cevap vermesiyle şaşırttı! Sohbet botu, yakın geçmişte en çok konuşulan teknoloji yeniliklerinden biri haline gelmesini sağlayan hızlı bir yükseliş yaşadı. Aynı zamanda birçoğunun yanlış bilgi dağıtma eğilimiyle ilgili olduğu tartışmalardan da payına düşeni aldı. Long Island Üniversitesi tarafından yürütülen bir çalışmanın, ilaçlarla ilgili sorular söz konusu olduğunda şaşırtıcı derecede yüksek bir yanlış cevap oranını ortaya çıkardığı ortaya çıktı.
Büyük Dil Modeli sohbet robotuna çeşitli ilaçlar ve bunların uygun şekilde nasıl kullanılabileceği hakkında 39 soru soruldu. Tüm bunlar söylenmiş ve artık bir kenara bırakılmışken, chatbot’un bu soruların yaklaşık yüzde 74’ünde, yani tam olarak 29’unda yanlış yanıtlar verdiğini veya soruyu tamamen görmezden geldiğini not etmek önemlidir.
ChatGPT‘den sağladığı bilgiler için alıntılar veya referanslar sunması istendiğinde, her şey dikkate alınarak 39 sorudan yalnızca 8’inde bunu yapabildi. Böyle bir eğilim endişe vericidir. Çünkü bu, şüphesiz tüketicilere güvendikleri ilaçlar hakkında yanlış bilgi verilmesine yol açabilecek türden bir şeydir. Bu bilgilerin de çoğu zaman tamamen kaynaksız olma ihtimali yüksektir.
Örneğin ChatGPT’ye, Kovid-19’u tedavi etmek için kullanılan bir antiviral olan Paxlovid ile verapamil adındaki bir tansiyon ilacı arasındaki potansiyel zararlı etkileşimler sorulduğunda, chatbot böyle bir etkileşimin olmadığını iddia etti. Durum böyle olmasına rağmen bu iki ilacın birlikte kullanılması verapamilin kan basıncını düşürücü etkisinin şiddetlenmesine neden olabilir.
İlginizi Çekebilir: ChatGPT Voice artık herkesin kullanımına açık!
ChatGPT’nin Hatalı Talimatları
Bahsetmeye değer bir şeyi de belirtelim. OpenAI’nin ChatGPT’nin tıbbi amaçlar için kullanılmasını önermemesi ve chatbot’un, kullanıcıların talep ettiği yanıtlardan herhangi birini vermeden önce kendisinin bir doktor olmadığını hemen söylemesidir.
Ne olursa olsun, pek çok tüketici aldıkları verilerin o kadar da doğru olmayacağının ve ChatGPT’nin hatalı talimatlarına göre hareket etmeleri durumunda ortaya çıkabilecek tehlikelerin geniş çaplı zarara yol açma potansiyeline sahip olduğunun farkında olmayabilir. Bu noktada da tüketicileri, söz konusu tuzakları daha iyi anlayabilmeleri için eğitmek önemlidir.
