Mattel ve OpenAI ortasında işbirliği doğuyor! Bu çocukları olumsuz tesirler mi?

Çocuk refahı uzmanlarına nazaran oyuncak devi Mattel’in eserlerine ChatGPT ekleme planları, “çocuklara gerçek manada ziyan verme” riski taşıyabilir. Barbie’nin üreticisi geçen hafta OpenAI’la işbirliği yaptığını duyurarak gelecekteki oyuncakların tanınan yapay zeka sohbet botunu içereceğini ima etmişti.

Independent Türkçe’nin aktardığı duyuruda teknolojinin nasıl kullanılacağına dair spesifik detaylar yer almasa da Mattel iştirakin, “yapay zekayla çalışan eserleri ve tecrübeleri destekleyeceğini” ve “yapay zekanın büyüsünü yaşa uygun oyun tecrübeleriyle buluşturacağını” belirtmişti.

Çocuk refahı savunucuları buna karşılık Mattel’e deneysel teknolojiyi çocuk oyuncaklarına yerleştirmemesi davetinde bulundu.

Savunuculuk örgütü Public Citizen’ın eş başkanı Robert Weissman yaptığı açıklamada, “Çocuklar gerçeklik ve oyun ortasında tam bir ayrım yapabilecek bilişsel kapasiteye sahip değil” dedi.

Oyuncaklara insan gibisi konuşmalar yapabilen, insanlarınki üzere sesler eklemek çocuklara gerçek manada ziyanlar verme riski taşıyor.

Weissman’ın bahsettiği potansiyel ziyanlar ortasında toplumsal gelişimin baltalanması ve çocukların akran alakaları kurma maharetlerine mahzur olunması yer alıyor.

Weissman “Mattel, yapay zeka teknolojisini çocuk oyuncaklarına dahil etmeyeceğini derhal duyurmalı” dedi.

Mattel, yapay zeka içeren oyuncaklar satarak çocuklarımız üzerinde pervasız bir toplumsal deney yapmak için ebeveynlerin kendisine duyduğu inancı kullanmamalı.

The Independent karşılık hakkı için OpenAI ve Mattel’le temasa geçti.

Mattel ve OpenAI’ın işbirliği, ChatGPT üzere üretken yapay zeka sistemlerinin, kullanıcıların ruh sıhhati üzerindeki tesirine ait kaygıların arttığı bir periyotta geldi.

Sohbet botlarının yanlış bilgi yaydığı, komplo teorilerini doğruladığı ve hatta argümana nazaran kullanıcıları kendilerini öldürmeye teşvik ettiği biliniyor.

Psikiyatristler de yapay zekayla etkileşimlerin yol açtığı, sohbet psikozu ismi verilen bir olguya karşı uyarıyor.

Danimarka’daki Aarhus Üniversitesi’nde psikiyatri alanında öğretim üyesi olan Soren Dinesen Ostergaard, Schizophrenia Bulletin için kaleme aldığı başyazıda “ChatGPT üzere üretken yapay zeka sohbet botlarıyla yapılan yazışmalar o kadar gerçekçi ki, kişi başka uçta gerçek bir insan olduğu izlenimine kolaylıkla kapılıyor” diye yazıyor.

Bana nazaran bu bilişsel çelişkinin, psikoz eğilimi yüksek bireylerde sanrıları körüklemesi olası görünüyor.

OpenAI’ın işvereni Sam Altman bu hafta yaptığı açıklamada, şirketinin hassas kullanıcıları korumak ismine komplo teorileri içeren konuşmaları kesmek ya da intihar üzere hususlar gündeme geldiğinde insanları profesyonel hizmetlere yönlendirmek üzere yollarla, güvenlik tedbirleri alma istikametinde uğraş gösterdiğini söylemişti.

Hard Fork podcast’ine konuşan Altman, “Önceki jenerasyon teknoloji şirketlerinin gereğince süratli reaksiyon vermeme üzere yanılgılarına düşmek istemiyoruz” demişti.

Öte yandan ruhsal durumu gereğince kırılgan olan ve psikotik bir kırılmanın eşiğine gelen kullanıcılara nasıl bir ihtar göndereceğimizi şimdi bulamadık.