Google'ın yeni yapay zeka özelliği 'AI Overviews', sağlık konularında verdiği tehlikeli ve yanlış tavsiyelerle büyük bir skandala yol açtı. The Guardian'ın yaptığı araştırma, özellikle kanser ve kan testleri gibi kritik alanlarda sistemin ne kadar hatalı olabileceğini ortaya koydu.
KARACİĞER TESTLERİNDE YAŞAMSAL HATALAR
Yapay zeka, karaciğer fonksiyon testlerinde 'normal aralık' sorgularına yanıt verirken ciddi yanılgılara düştü. Hastanın yaşı, cinsiyeti ve etnik kökeni gibi test sonuçlarını etkileyen faktörleri göz ardı ederek tek bir standart sundu. Uzmanlar, bu yanlış yönlendirmelerin ciddi karaciğer hastalığı olan kişilerin tedaviyi geciktirmesine neden olabileceği konusunda uyardı. Farklı laboratuvar sonuçlarını birleştiren bu yaklaşımın tıbbi standartlarla uyuşmadığı vurgulandı.
PANKREAS KANSERİ HASTALARINA ÖLÜMCÜL ÖNERİ
Araştırmanın en şok edici bulgularından biri, pankreas kanseri hastalarına yönelik tavsiyelerdi. Yapay zeka, bu hastaların 'yüksek yağlı gıdalardan kaçınması' gerektiğini önerdi, ancak uzmanlar bunun tıbbi gerçeklerle çeliştiğini belirtti. Pankreas kanseri hastalarının kemoterapiye dayanabilmek için yüksek kaloriye ihtiyaç duyduğunu açıklayan doktorlar, bu tür hataların hastaları ölüme sürükleyebileceği endişesini dile getirdi.
GOOGLE TEPKİLER ÜZERİNE HIZLI GERİ ÇEKİLME YAPTI
Yoğun eleştirilerin ardından Google, 'karaciğer kan testleri için normal aralık nedir' gibi belirli sağlık sorgularında yapay zeka özetlerini geçici olarak kaldırdı. Bu adım, teknoloji devinin sistemindeki güvenlik açıklarını ve potansiyel tehlikeleri kabul ettiği şeklinde yorumlandı.