ChatGPT, ismini soran bir kullanıcıyı katil olarak anlattı. Hem de hiçbir suçu yokken

Yapay zeka, son yılların en dikkat çeken, hızla gelişen teknolojileri arasında. AI teknolojileri artık milyarderlerin yatırım planları arasında. Elon Musk’ın şirketi xAI, Meta, Apple, Microsoft ve Samsung gibi şirketler kendi yapay zeka modellerini geliştiriyor.

Bu alanda kıyasıya rekabet yaşanırken, zirve uzun zamandır ChatGPT’de. Yüz milyonun üzerinde aktif kullanıcı sayısına sahip olan platform, son olarak GPT-4.5 modeliyle güncellendi ve yeni yetenekler kazandı. Üstelik ChatGPT, artık web araması da yapabiliyor. Ancak dikkat edin, her zaman doğru yanıtlar alamayabilirsiniz.

Nitekim ChatGPT’nin son vukuatı, hiçbir suçu olmayan bir kişiyi katil göstermesi oldu.

Uzmanlara göre yapay zeka teknolojisinde, "Yapay zeka halüsinasyonu" adı verilen bir terim var.

 Büyük dil modelleri bir sonraki en olası kelimeyi tahmin etmek için ellerinden gelenin en iyisini yapabildiklerinden ve bağlamı gerçekten anlamadıklarından, genellikle tamamen yanlış tıbbi tavsiye veya uydurma içerikleri verebiliyor. ChatGPT’de ne yazık ki bunun kurbanı oldu. Hızlı yanıt vermek uğruna yaşanan son olayda, ismini giren bir kullanıcıyı adeta katil ilan etti.

CHATGPT’DEN SKANDAL

Norveçli Arve Hjalmar Holmen isimli bir kullanıcı, ChatGPT ile konuşuyordu. Holmen, adını girmesinin ardından ChatGPT’den beklenmedik yanıt aldı.

Yapay zeka ChatGPT Holmen’in ismini sorgulamasına yanıt olarak; oğluğunu öldürdüğünü ve 21 yıl hapis cezasına çarptırıldığını söyledi.

Bu yanıtı alan kullanıcı neye uğradığını şaşırdı. Zira AI, ona karşı sahte bir suç uydurdu ve asılsız suçlamalarda bulundu.

Elbette bu olay teknoloji medyasında yankı uyandırırken, gizlilik savunucusu grup Noyb, olaya dahil oldu. 

TechCrunch'a konuşan Noyb, ChatGPT'nin iddiaları neden yayınladığını araştırdıklarını ve benzer isme sahip herhangi birinin ciddi bir suç işleyip işlemediğini kontrol ettiklerini söyledi. Sonuç olarak, hiçbir önemli kanıt bulamadılar, bu nedenle ChatGPT'nin çıktılarının ürkütücü olduğu iddialarının ardındaki "neden" belirsizliğini koruyor.

Chatbot’un temel yapay zeka modeli güncellendi ve artık iftira niteliğindeki suçlamaları tekrarlamıyor. Ancak, Noyb daha önce ChatGPT’nin kamuya mal olmuş kişiler hakkında yanlış bilgiler vermesi nedeniyle şikâyette bulunmuş ve bu konunun kapanmasını kabul etmemişti. Şimdi ise bu kuruluş, ChatGPT’nin Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği'ni (GDPR) ihlal ettiği gerekçesiyle Norveç Veri Koruma Kurumu (Datatilsynet)’na şikâyette bulundu.
AB yasalarının 5(1)(d) maddesine göre, kişisel verileri işleyen şirketlerin verilerin doğruluğunu sağlaması gerekir—eğer veriler yanlışsa, düzeltilmeli veya silinmelidir. Noyb, ChatGPT’nin artık Holmen’e yönelik iftiraları üretmemesinin, yanlış verilerin silindiği anlamına gelmediğini savunuyor.