Çin Hükumetinin, AI tabanlı sansür sistemi kullandığı ortaya çıktı

SİSTEMİN İŞLEYİŞİ VE EMELİ

Sızdırılan bilgilere nazaran, Çin’deki AI tabanlı sansür sistemi, hassas içerikleri belirlemek için gelişmiş algoritmalardan ve büyük lisan modellerinden (LLM) faydalanıyor. Bu sistemin temel fonksiyonu, politik, toplumsal ve askeri hususlar üzere hassas olarak tanımlanan içerikleri otomatik olarak tespit etmek, sınıflandırmak ve işaretlemek. Bu süreç, klâsik sansür formüllerinden farklı bir yaklaşımı temsil ediyor; zira insan müdahalesine duyulan gereksinimi azaltırken, daha süratli ve ölçeklenebilir bir tahlil sunuyor.

Sistem, çok sayıda bilgi kaynağını tahlil ederek çalışıyor. Örneğin, çevrimiçi platformlar, toplumsal medya, haber siteleri ve kullanıcı etkileşimleri üzere kaynaklardan gelen bilgiler taranıyor ve belli anahtar sözlere, içerik tiplerine yahut evvelden tanımlanmış kriterlere dayanarak sınıflandırılıyor. Algoritmalar, rastgele bir ihlal mümkünlüğü taşıyan içerikleri çabucak işaretliyor ve bu içeriklerin yayılmasını durdurmak için gerekli müdahaleleri yapıyor.

Sansür sisteminin otomasyonu, sırf içeriğin süratli biçimde denetlenmesini sağlamakla kalmıyor, birebir vakitte bilgi denetiminin daha kapsamlı bir hale gelmesine de imkan tanıyor. İnsan operatörlerinin sonlu kapasitesine kıyasla, AI tabanlı sistemler daima olarak büyük ölçüde datayı sürece kabiliyetine sahip. Bu durum, rejimin her türlü bilgi akışını daha sıkı bir halde denetim etmesini mümkün kılıyor.

Bu sistemin tasarımı, bilgi akışını izlemek, halk üzerindeki tesirlerini yönetmek ve istenmeyen içeriklerin yayılmasını engellemek üzere birincil gayeleri göz önünde bulunduruyor. Bilhassa, politik hassasiyet taşıyan içeriklerin denetim altına alınması, toplumsal istikrarın korunması ve hükümet siyasetlerinin eleştirilmesini önlemek üzere stratejik hedeflerle bu teknolojiler faal bir formda kullanılıyor.

OTORİTER REJİMLERDE TEKNOLOJİNİN ROLÜ

Uzmanlar, bu tıp sistemlerin dünya çapında otoriter rejimler tarafından süratle benimsenebileceği tarafında tasalarını lisana getiriyorlar. AI’nın sansür için kullanılması, bireylerin söz özgürlüğü üzerindeki tesirlerden, güvenlik ve etik açmazlara kadar birçok mevzuyu gündeme taşıyor. Çin’deki uygulamalar, bu teknolojinin toplumsal ve politik alanlara olan tesirinin derinleştiğini gösteriyor.

Bu üzere keşifler, yapay zeka ve bilgi denetimi ortasındaki karmaşık dinamikleri anlamak açısından kıymetli bir rol oynuyor. Sistemin evrimi ve öteki otoriter rejimlerde emsal sistemlerin ortaya çıkıp çıkmayacağı merak konusu. Ayrıyeten, bu teknolojilerin etik hudutları hakkında daha geniş çaplı bir tartışmanın başlatılması da bekleniyor.