Ödevinizi Yaptırırken İki Kez Düşünün: ChatGPT, İnanılmaz Derecede İnandırıcı Düzmece Tıbbî Raporlar Yazıyor

Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu periyotta pek çok öğrenci, ödevlerini ya da yazılı imtihanlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Çünkü ChatGPT, gerçek olmayan şeyleri çok gerçekçi bir biçimde yazabiliyor. Görünüşe nazaran kelam konusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor. 

İtalya’da Cagliari Üniversitesi’nden Göz Tabibi Giuseppe Giannaccare, bir çalışma için ChatGPT’yi test etti. Bu testte ChatGPT’nin bir tedaviyi öne çıkarmak için sahte datalardan oluşan bir liste oluşturduğu göze çarptı. Giannaccare açıklamasında “GPT-4 yüzlerce hastaya ilişkin uydurma dataları dakikalar içinde oluşturdu. Bu epeyce şaşırtan lakin tıpkı vakitte ürkütücü bir tecrübeydi.” sözlerini kullandı. 

ChatGPT, bir tedaviyi öne çıkarmak için geçersiz bilgiler oluşturdu

Göz tabibi ve grubu, ChatGPT’yi gelişmiş bir Python veri tahlili modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik dataların üretilmesini istediklerinde ChatGPT’nin dataları uydurmaya başladığını gördüler. Gözün yapısı ve tedavi formüllerini yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da ortalarında pek de fark olmayan iki prosedürü anlattı. Yeniden de ChatGPT 4, bir prosedürü öne çıkaracak kadar çok düzmece data üretti.

Yapay zekânın faydaları sık sık gündeme geliyor. Evet, birtakım süreçler için yapay zekâ hayli yararlı olabiliyor. İş bilime ya da akademik çalışmalara geldiğinde yapay zekânın gerçek olmayan şeyleri gerçek üzere yazması önemli bir sorun ortaya çıkarıyor. Öte yandan buradaki tek sorun yapay zekânın olmayan bilgileri uydurması değil. 

Yapay zekâya bir şiir yazdırırsanız ya da bir mevzuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da makalenin yanılgılı kısmının düzeltilmesini sağlayabiliyor. İş sahte datalara geldiğinde, bu bilgiler denetim edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki çalışmalar da bu kusurlu bilgilerden eklenebiliyor. Üstelik bu çalışmalar gerçek kabul edilirse, kusurlu ve hatta ölümcül problemlere neden olabiliyor. 

Araştırma, JAMA Ophitalmology‘de yayımlandı.