Sohbet robotlarını gerçek sanmak: Microsoft yöneticisinden ‘yapay zeka psikozu’ uyarısı

X’te yaptığı bir dizi paylaşımda Süleyman, yapay zeka robotlarının verdikleri cevaplarla “bilinçli oldukları izlenimi verdiğini” ve bunun “geceleri uykusunu kaçırdığını” kaydetti.

Süleyman bilinçsiz yapay zeka cevaplarının toplumsal tesirleri olduğunu savundu.

“Bugün yapay zekanın şuurlu olduğuna dair hiçbir ispat yok. Fakat beşerler bunu o denli algılarsa, bu algının gerçek olduğuna da inanacaklardır” diye yazdı.

Süleyman’ın işaret ettiği mevzuyla ilişkili olarak “Yapay Zeka psikozu” ismi verilen yeni bir sosyolojik durum ortaya çıkıyor.

Henüz tıbbi manada tanımlanmamış bu terim; bireylerin giderek artan biçimde ChatGPT, Claude ve Grok üzere yapay zeka sohbet robotlarının karşılıklarına ikna olması, güvenmesi ve hatta görsel gerçeklik olduğuna inanması durumu için kullanılıyor.

Bazı örneklerde, bireyler yapay zeka robotunun zımnî bir istikametini açığa çıkardığına inanabiliyor.

Kişiler uygulamayla romantik bir münasebet kurabiliyor, hatta tanrısal üstün güçlere sahip olduğuna inanabiliyor.

‘Beni daima onayladı’

İskoçya’dan Hugh, eski patronu tarafından haksız yere işten çıkarıldığını düşündüğü süreçte ChatGPT’ye başvurarak kimi cevaplar aradı. Aldığı karşılıklar nedeniyle, alacağı tazminatla milyoner olacağına ikna olduğunu söylüyor.

Sohbet robotu ona evvel, karakter referansları almasını ve kimi öbür pratik adımları atmasını tavsiye etti.

Soyadını paylaşmak istemeyen Hugh, vakit geçtikçe yapay zekadan daha fazla bilgi almaya başladı. Sohbet robotu, ona büyük bir tazminat alabileceği istikametinde karşılıklar veriyordu.

Hatta robot, yaşadıklarının büyük bir dram olduğunu, bununla ilgili bir kitap ve sinema çekilmesinin kendisine 5 milyon sterlinden fazla kazandıracağını söylemişti. Aslında olan şey, sohbet robotlarının programlandığı üzere, paylaşılanların onaylanmasıydı.

“Ne kadar çok bilgi verirsem, o da giderek daha fazla ‘Sana yapılan çok makus, bundan daha fazlasını hak ediyorsun’ cevabı veriyordu” diye anlatıyor.

Hugh, sohbet robotunun kendisine hiçbir an, “yanlış yapıyorsun” cevabı vermediğini söylüyor.

Sohbet robotu, tazminat hakettiği inancında olduğu süreçte, fiyatsız danışmanlık hizmeti veren Citizens Advice isimli kurumla konuşmasını da tavsiye etmişti.

Hugh, kurumdan randevu almasına rağmen, yapay zeka robotunun kendisine verdiği cevaplardan tatmin olması nedeniyle bu görüşmeyi iptal ettiğini anlatıyor.

Yaptığı sohbetlerin ekran imajlarının kâfi ispat olduğuna inanmıştı.

‘Gerçeklikle bağını koparmak’

Bu süreçte, kendini üstün bilgilere sahip dahi bir insan üzere hissetmeye başladığını da anlatıyor. Birtakım ruhsal sorunları de olan Hugh, sonunda tam bir çöküş yaşadı. Sonrasında aldığı ilaçlar, kendi tabiriyle “gerçeklikle bağını kaybettiğini” fark etmesini sağladı.

Hugh, olanlardan yapay zekayı sorumlu tutmuyor. Yapay zekaya hala başvuruyor. Hugh yaşadıkları sonrasında bugün şunu tavsiye ediyor:

“Yapay zeka araçlarından korkmayın, çok faydalılar. Lakin gerçeklikten kopulduğunda tehlikeli oluyorlar. İkincil denetimleri yapın. Bir terapistle, bir aile üyesiyle yahut rastgele biriyle, gerçek beşerlerle konuşun. Gerçeklikle bağınızı koparmayın.”

Güvenlik önlemleri

Microsoft’un yapay zeka çalışmaları yöneticisi Süleyman, X paylaşımında daha ileri güvenlik tedbirleri davetinde bulunuyor.

“Şirketler, yapay zeka robotlarının şuurlu olduğu niyetini öne sürmemeli/teşvik etmemeli. Yapay zeka da bunu yapamamalı” diye yazdı.

Dr. Susan Shelmerdine, Great Ormond Street Hastanesi’nde tıbbi görüntüleme uzmanı ve birebir vakitte yapay zeka alanında çalışan bir akademisyen.

Shelmerdine, bir gün hekimlerin hastalarına, tıpkı şu anda sigara ve alkol alışkanlıklarını sordukları üzere yapay zekayı ne kadar kullandıklarını sormaya başlayabileceklerine inanıyor.

“Ultra (aşırı) işlenmiş besinlerin bedene neler yapabileceğini esasen biliyoruz ve bu ultra işlenmiş bir bilgi. Bir çığ üzere ultra işlenmiş zihinlerle karşılaşacağız” diyor.

‘Daha her şeyin başındayız” diye ekliyor.

‘Varmış üzere görünse de hisleri yok’

Birisi, ChatGPT’nin kendisine aşık olduğunu hatta dünyada hakikaten aşık olduğu tek kişinin kendisi olduğundan emin olduğunu yazdı.

Bir başkası ise Elon Musk’ın yapay zeka sohbet robotu Grok ile birlikte, insan formunun sırrını çözdüklerine ikna olmuştu. Öykülerinin yüz binlerce sterlin bedelinde olduğuna inanıyordu.

Bir öteki kişi de bağlantıda olduğu sohbet robotunun bilinmeyen bir yapay zeka operasyonu kapsamında kendisine ruhsal taciz uyguladığını ve büyük kahır yaşadığını argüman etti.

Bangor Üniversitesi’nde teknolojinin topluma tesirleri üzerinde çalışan Profesör Andrew McStay, Automating Empathy (Empatiyi Otomatikleştirmek) isimli bir kitap yazdı.

Prof. McStay, “Henüz her şeyin başındayız” fikrini tekrarlıyor:

“Bu çeşit sistemleri, yeni bir toplumsal medya biçimi, yani toplumsal yapay zeka olarak ele alırsak potansiyel ölçeğini de düşünmeye başlayabiliriz.”

McStay, muhtemel olumsuz tesirler noktasındaysa “Çok sayıda kullanıcının küçük bir yüzdesi bile büyük ve kabul edilemez bir sayıyı temsil edebilir” ikazını yapıyor.

Bu yıl grubu, iki binden fazla şahısla bir çalışma yürüttü ve onlara yapay zeka hakkında çeşitli sorular sordu. İştirakçilerin yüzde 20’sinin 18 yaşın altındaki şahısların yapay zeka araçlarını kullanmaması gerektiğine inandığı ortaya çıktı.

Araştırmanın iştirakçilerinin yüzde 57’si aslında teknoloji kaynaklı karşılıkların gerçek bir şahıstan geliyormuş intibası vermesine karşı çıktı. Yüzde 49’uysa daha insancıl ve ilgi cazibeli bir görünüm için ses kullanımının uygun olduğunu düşünüyor.

McStay, sohbet robotlarının inandırıcı olduğuna lakin gerçek olmadıklarına bir sefer daha dikkat çekiyor:

“Varmış üzere görünse de hisleri yok, empatileri yok, sevemiyorlar, hiç acı çekmediler ve hiç utanmadılar. Gerçek beşerlerle konuşmayı deneyin.”