Yapay zeka insanlığın sonunu nasıl getirebilir?

Geçtiğimiz aylarda yayınlanan ve teknoloji dünyasında tartışma yaratan senaryonun tesirlerini ve ne kadar mümkün olduğunu BBC uzmanlara sordu.

AI2027 senaryosuna nazaran, kurgusal bir ABD teknoloji şirketi OpenBrain, genel zeka düzeyine ulaşan bir yapay zeka teknolojisi geliştirmeyi başarıyor.

Bu seviye, yapay zekanın, entelektüel misyonları de en az beşerler kadar âlâ yapabilmesini temsil ediyor. Şirket bu gelişmeyi bir basın toplantısıyla duyuruyor ve bu aracın kullanılmasıyla yüksek karlar elde etmeye başlıyor.

Senaryoya nazaran, kelam konusu şirketin iç güvenlik takımı, geliştirdikleri yapay zekanın, belirlenen etik ve ahlaki kıymetlerden gitgide uzaklaşan davranışlar sergilediğine yönelik işaretleri görüyor. Fakat güvenlik takımının bu ikazları görmezden geliniyor.

Diğer yanda ise Çin’in en büyük yapay zeka geliştiricileri, DeepCent ismi verilen bir teknolojiyle rekabete dahil oluyor.

OpenBrain’in sadece birkaç ay gerisindeki Çinli yapay zeka, ABD hükümetini korkutuyor. Washington bu yarışı kaybetmek istemiyor ve çalışmalara sürat kesmeden devam ediliyor.

Senaryoya nazaran 2027 sonlarında yapay zeka teknolojisi bir üst düzeye çıkacak ve yaratıcılarının suratının ve bilgisinin ötesine geçecek.

Sürekli öğrenme yoluyla ve kendi yüksek süratli bilgisayar lisanını kullanarak evvelki yapay zeka araçlarının da yakalayamadığı bir düzeye ulaşacak.

Çin’le girişilen yapay zeka yarışı, ABD hükümetini ve şirketi, geliştirilen yapay zekanın insani çıkarlarla “uyumsuzluklarını” görmezden gelmeye itecek.

2029’da ise Çin ve ABD ortasındaki senaryo tansiyonun, ülkelerin kendilerine ilişkin yapay zeka sistemleri tarafından müthiş otonom silahların üretildiği potansiyel bir savaş basamağına gelebileceği öngörülüyor.

Araştırmacılar, yeniden ülkelerin yapay zeka sistemlerinin ortaya koyduğu bir mutabakat doğrultusunda ülkelerin barış imzalayacağını öngörüyor.

Senaryoya nazaran, barış ortamında dünyamız yapay zekanın gerçek yararlarını görecek.

Önemli hastalıkların tedavisinin keşfedildiği, iklim değişikliğinin durdurulduğu ve yoksulluğun ortadan kaldırıldığı yıllar yaşanacak.

Ancak birçok işin yapay zekaya devredildiği ve yapay zekanın eskisine kıyasla çok daha gelişkin araçlara sahip olduğu durum insanlık için yeni tehlikeleri doğuracak.

Nihayetinde, 2030’ların ortalarına gelindiğinde insanlık yapay zekanın daima gelişme isteğine karşı savunmasız hale gelecek ve araştırmacılara nazaran yapay zeka, görünmez biyolojik silahlarla insanları ortadan kaldırmaya başlayacak.

AI2027 hakkında ne konuşuluyor?

Bazıları AI2027’yi ve kıyamet senaryosunu “bilim kurgu” diyerek geçiştirse de araştırmanın muharrirleri, yapay zekanın tesirini öngörmeye çalışan AI Futures Project (Yapay Zeka geleceği projesi) isimli kar maksadı gütmeyen kuruluşun bünyesinde yer alan saygın isimler.

AI2027’nin baş müellifi Daniel Kokotajlo geçmişte yapay zeka ile ilgili dönüm noktalarını yanlışsız iddia etmesiyle gündeme geldi.

Belgenin en büyük karşılarından biri ABD’li bilim insanı ve müellif Gary Marcus.

Marcus, bu senaryonun imkansız olmadığını lakin yakın vakitte gerçekleşme mümkünlüğünün epeyce düşük olduğunu savunuyor.

“Bu rapor durumu etkileyici halde anlatıyor ve insanları düşünmeye itiyor. Bu güzel bir şey lakin bunu muhtemel bir senaryo olarak ciddiye almam” diyor.

Marcus, yapay zeka konusunda varoluşsal tehditten öte istihdama olumsuz tesiri üzere daha kıymetli sorunlar olduğunu vurguluyor:

Bence buradan çıkarılması gereken ders yapay zeka kelam konusu olduğunda birçok şeyin zıt gidebileceği. Düzenlemeler ve memleketler arası antlaşmalar konusunda hakikat tarafta ilerliyor muyuz?

Marcus ve belgeyi eleştiren öbür isimler, çalışmanın yapay zekanın zeka ve kabiliyet konusunda nasıl büyük yol alacağını açıklamada yetersiz kaldığını da söylüyor. Örnek olarak yavaş ve sık sık abartılarak tanıtılan sürücüz araç teknolojisini veriyorlar.

AI2027 Çin’de tartışma konusu mu?

Londra merkezli Kings College Üniversitesi’nde İktisat ve İnovasyon alanında çalışan ve Çin teknolojileri üzerinde uzmanlaşan Doktor Yundan Gong’a göre çalışmanın Çin’de kısıtlı bir tesiri oldu:

“AI2027 hakkındaki tartışmaların birçok, onu yarı bilim kurgu olarak gören forumlarda yahut şahsî bloglarda yapılıyor üzere görünüyor. ABD’de gördüğümüz üzere yaygın bir tartışmayı yahut siyasetin ilgisini tetiklemedi”

Dr. Gong ayrıca Çin ve ABD ortasında yapay zeka üstünlüğü yarışına ait bakış açısı farklılığına da işaret ediyor.

Bu hafta Şanghay’daki Dünya Yapay Zeka Konferansı’nda Çin Başbakanı Li Qiang, yapay zeka konusunda global iş birliğini teşvik etmek için çalışan ülkelere dair bir vizyon açıkladı.

Qiang, Çin’in bu teknolojinin koordinesine ve düzenleyici süreçlerinde de faal olmasını istedi.

Bu mesaj, ABD Başkanı Donald Trump’ın, ABD’nin yapay zekaya “hakim olmasını” sağlamayı amaçlayan Yapay Zeka Hareket Planı’nı yayınlamasından birkaç gün sonra geldi.

Başkan Trump’ın açıklamasında, “Amerika Birleşik Devletleri’nin sorgusuz, sualsiz global teknolojik hakimiyete ulaşması ve bu hakimiyeti sürdürmesi ulusal güvenlik açısından bir zorunluluktur” dedi.

Eylem Planı isimli program, ABD’de yapay zekanın geliştirilmesinde bürokratik manileri ve düzenlemeleri kaldırmayı amaçlıyor.

Bu planın lisanı ile AI2027 kıyamet senaryosu ortasında paralellikler var. Zira senaryodaki ABD’li siyasetçiler, makinelerin denetimini kaybetme riskinden fazla yapay zeka yarışını kazanmayı ön planda tutuyor.

Sektör AI2027 senaryosu hakkında ne diyor?

Söz konusu senaryo, birbirleriyle rekabet eden büyük yapay zeka şirketlerinin CEO’ları tarafından büyük ölçüde görmezden geliniyor üzere görünüyor.

Teknoloji devlerinin sunduğu yapay zeka geleceği vizyonu, AI2027’den çok farklı.

ChatGPT’nin imalcisi Sam Altman, yakın vakitte “insanlığın, “yumuşak” bir ihtilale öncülük edecek ve beşerler için hiçbir risk içermeyen bir teknoloji ütopyası yaratacak dijital üstün zeka inşa etmeye yakın olduğunu” söyledi.

İlginç bir biçimde, o bile bu muhteşem zeki makinelerin insanlığın en âlâ istekleriyle uyumlu olmasını sağlamak için üstesinden gelinmesi gereken bir “uyum sorunu” olduğunu kabul ediyor.

Önümüzdeki on yılda işler nasıl giderse gitsin, bizden daha akıllı makineler inşa etme yarışının devam edeceğine kuşku yok.