Deepfake görüntülerini tespit etmek zorlaşıyor! Gerçekçi kalp atışları

Bir kişinin yüzünün ya da bedeninin dijital olarak değiştirilmesiyle oluşturulan deepfake görüntüler telaş yaratmaya devam ediyor.

Bu görüntüler gerçek bir kişinin imajının yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren yahut yaşlandıran uygulamalar üzere zararsız emellerle da kullanılabiliyor.

Independent Türkçe’nin aktardığına nazaran insanların cinsel içerikli görüntülerini üretmek yahut saf insanlara iftira atmak için de kullanılabilmesi önemli bir sorun teşkil ediyor. Bu görüntülerin uydurma olup olmadığını anlamak için kullanılan gelişmiş sistemlerden biri kalp atışlarını izlemek.

Uzaktan fotopletismografi (rPPP) isimli araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle tıpkı prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake görüntüleri tespit etmek için de kullanılıyor.

Bulguları hakemli mecmua Frontiers in Imaging’de 30 Nisan’da yayınlanan çalışmaya nazaran deepfake manzaralarda artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına görüntülerdeki nabız suratını otomatik olarak saptayıp tahlil eden bir deepfake dedektörü geliştirerek başladı. Akabinde rPPP tabanlı bu aracın bilgilerini, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece âlâ performans gösteren aracın EKG’yle ortasında dakikada yalnızca iki-üç atımlık fark vardı.

Ekip aracı deepfake görüntüler üzerinde test ettiğindeyse rPPP, görüntüye kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. Bilim insanları kalp atışlarının görüntüye taammüden eklenebileceği üzere, kullanılan kaynak görüntüden resen geçebileceğini de söylüyor.

Almanya’daki Humboldt Üniversitesinden çalışmanın ortak müellifi Peter Eisert “Kaynak görüntü gerçek bir bireye aitse, bu artık deepfake görüntüye aktarılabiliyor” diyerek ekliyor:

Sanırım tüm deepfake dedektörlerinin yazgısı bu; deepfake’ler gitgide daha uygun hale geliyor ve iki yıl evvel uygun çalışan bir dedektör bugün büsbütün başarısız olmaya başlıyor.

Araştırmacılar yeniden de uydurma görüntüleri saptamanın öteki yolları olduğunu düşünüyor. Örneğin yalnızca nabız suratını ölçmek yerine, yüzdeki kan akışını detaylı olarak takip eden dedektörler geliştirilebilir.

Eisert, “Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek imgelerde tespit edebileceğimiz küçük bir gecikme var” diyor.

Ancak bilim insanına nazaran kesin tahlil deepfake dedektörlerinden fazla, bir imgenin üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin uydurma olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake’lerin saptanmalarını zorlaştıracak kadar âlâ olacağını düşünüyorum.