Değiştirilmiş yüz ifadelerine sahip AI destekli derin peynir videoları, bir derin peynir algılama yöntemini engelleyebilecek cilt rengi değişiklikleri yoluyla gerçekçi kalp atışlarını gösterebilir
Bazı derin peynir videoları ikna edici bir nabız sunar
İnsanların yüz ifadelerinin ve seslerinin dijital manipülasyonlarını içeren derin peynir videoları da gerçekçi kalp atışlarını tasvir edebilir, bu da onları tespit etmelerini daha da zorlaştırabilir.
Araştırmaya dahil olmayan Berkeley, California Üniversitesi’ndeki Hany Farid, “Artık bir videodaki bir kişinin ölçülebilir bir nabzı olduğu için, gerçek olduklarını varsayabileceğimiz anlamına gelmiyor” diyor.
Bu gelişme, yapay zeka tarafından dijital olarak değiştirilmiş veya üretilen derin dişler, ünlüleri ve sıradan insanları ikna edici ama sahte pornografi, finansal dolandırıcılık ve siyasi propaganda içinde tutuyor. Daha önce, araştırmacılar kan akışı ve kalp atış hızı ile ilgili cilt rengindeki değişiklikleri belirleyerek derin dişleri tespit etmeyi denemişlerdi, ancak bu araştırma bazı derin peynir videolarının hala pasif bir nabız sunabileceğini gösteriyor.
Almanya’daki Fraunhofer Telekomünikasyon Enstitüsü ve meslektaşları Peter Eisert, gerçek ve derin asma videolarındaki insanların nabızlarını analiz edebilecek bir derin peynir dedektörü geliştirdi. Ayrıca, bir düzine insanın yüz ifadesini içeren yeni bir dizi gerçek video çekerken, aynı zamanda katılımcıların kalp hızlarını dedektörlerinin doğruluğunu doğrulayabilmeleri için kaydettiler.
Ardından, araştırmacılar dijital olarak değiştirilmiş yüzleri gerçek videolarına yerleştirdiler – bu, derin peynir dedektörlerini uyarması gereken bir hareket. Bunun yerine, dedektörün hem sahte hem de orijinal videolarda gerçekçi darbeleri algıladığını buldular.
Farid, “Sadece bir veya birkaç derin asma jeneratörün bu fizyolojik sinyali yeniden üretebileceği için, tüm derin peynir jeneratörlerinin yapabileceği anlamına gelmez” diyor.
Ekip, insanların yüzlerindeki yerel kan akış modellerini tanımlamak gibi derin dişleri tespit etmenin yeni yollarını denemeye başladı. Ancak bu tür yöntemlerin “sınırlı bir raf ömrü” olabilir, diyor New York’taki Buffalo Üniversitesi’nden Siwei Lyu, çalışmaya katılmayan. Bunun nedeni, yeni üretken AI araçlarının gerçekçi kalp atışlarını ve diğer fizyolojik sinyalleri daha ikna edici bir şekilde taklit edebilmesidir ve düşük kaliteli videolardan bir kalp atış hızı sinyali çıkarmak zor olabilir.
Bunun yerine, en etkili algılama teknikleri, “insan izleyicilere sezgisel olmayan görüntü piksel parlaklığı” gibi gerçek ve derin peynir videoları arasında daha ince farklılıkları tanımlamaya çalışıyor.
