Yapay zeka masum kişiyi katil olarak lanse etti

Çoğu YZ sohbet robotu gibi ChatGPT de, bazı şeyleri yanlış yanıtlamak hatta yanlış bilgi üretmesiyle tanınıyor.

Ancak ortaya çıkan yeni bir gizlilik şikayeti, OpenAI’ın sohbet robotunun bir kullanıcısını cinayetle suçladığını ve ciddi sonuçlara yol açtığını gösteriyor.

Gizlilik hakları grubu Noyb, Norveç’te yaşayan ve ChatGPT’nin kendisine yanlış bilgi verdiğini, çocuklarından ikisini öldürüp, üçüncüsünü de öldürmeye çalıştığını iddia ettiğini söylüyor.

Söz konusu şikayet Avrupa Birliği’nin “Genel Veri Koruma Tüzüğü” (GDPR) açısından da endişe yaratıyor.

Noyb’da veri koruma avukatı olan Joakim Söderberg yaptığı açıklamada “GDPR açık: Kişisel veriler doğru olmalı” diyor ve şöyle devam ediyor: “Eğer değilse, kullanıcılar bu veriyi, gerçekleri yansıtacak şekilde değiştirme hakkına sahip. ChatGPT kullanıcılarına, sohbet robotunun hata yapabileceğine dair konulan ufacık yazı görülüyor ki yeterli değil. Yanlış bilgileri yayıp, sonrasında küçük bir bilgilendirmeyle, söylediğiniz her şeyin yanlış olabileceğini belirtemezsiniz.”

Şikayet basit bir sorudan sonra ortaya çıktı: “Arve Hjalmar Holmen kimdir?”

ChatGPT tarafından üretilen yanıt, iki çocuğun cinayetini de içeren sahte bir cinayet davası da içeriyordu. Noyb’un Norveç veri koruma kurumuna şikayette bulunduğu ve konunun araştırılmasını umduğu belirtiliyor.

Yapay zekâlı sohbet robotlarının sahte bilgi yayabildiğini biliyorduk, ancak bu son yaşanan konuyu başka bir boyuta taşıyor.

Biz yine de hatırlatalım; internet üzerinde okuduğunuz her şeye inanmayın. Özellikle de YZ olaya dahilse…