Yeni bir algılama aracı, yüz swaplarından tamamen sentetik AI tarafından oluşturulan içeriğe kadar herhangi bir AI manipülasyonu içeren derin peynir videolarını doğru bir şekilde tespit edebilir
Bir akıllı telefonda Avustralya Başbakanı Anthony Arnavut’un derin bir buluşma videosu
Evrensel bir derinlik dedektörü, yapay zeka tarafından manipüle edilmiş veya tamamen üretilen birden fazla video türünü tespit etmede en iyi doğruluğu elde etmiştir. Teknoloji, rıza dışı AI tarafından oluşturulan pornografi, derin asma dolandırıcılığı veya seçim yanlış bilgisi videolarını işaretlemeye yardımcı olabilir.
Ucuz yapay zeka destekli derin peynir oluşturma araçlarının yaygın kullanılabilirliği, sentetik videoların kontrol dışı çevrimiçi yayılmasını körükledi. Birçoğu, ünlüler ve hatta kız öğrenciler de dahil olmak üzere kadınları rıza dışı pornografide tasvir ediyor. Deepfes, siyasi seçimleri etkilemek ve hem sıradan tüketicileri hem de şirket yöneticilerini hedefleyen finansal dolandırıcılıkları geliştirmek için de kullanılmıştır.
Ancak çoğu AI modeli, sentetik videoları tespit etmek için eğitilmiş yüzlere odaklanıyor – bu, gerçek bir kişinin yüzünün mevcut bir videoya değiştirildiği belirli bir tür derin peynir türünü tespit etmede en etkili oldukları anlamına geliyor. Riverside, California Üniversitesi’nden Rohit Kundu, “Yüz tarafından manipüle edilmiş videoları ve arka plan manipüle edilmiş veya tamamen AI tarafından oluşturulan videoları tespit edebilecek bir modele ihtiyacımız var” diyor. “Modelimiz tam olarak bu endişeyi ele alıyor – tüm videonun sentetik olarak oluşturulabileceğini varsayıyoruz.”
Kundu ve meslektaşları, videoların birden fazla arka plan öğesini ve insanların yüzlerini izlemek için AI destekli evrensel dedektörlerini eğittiler. Derin yapraklarda uzamsal ve zamansal tutarsızlıkların ince işaretlerini tespit edebilir. Sonuç olarak, yapay olarak yüz takma videolara yerleştirilen insanlar üzerinde tutarsız aydınlatma koşullarını, tamamen AI tarafından oluşturulan videoların arka plan detaylarında tutarsızlıklar ve hatta herhangi bir insan yüzü içermeyen sentetik videolarda AI manipülasyon belirtileri tespit edebilir. Dedektör ayrıca Grand Theft Auto V gibi video oyunlarından AI tarafından oluşturulmayan gerçekçi görünümlü sahneleri de işaretliyor.
New York’taki Buffalo’daki üniversitede Siwei Lyu, “Mevcut yöntemlerin çoğu, AI tarafından üretilen yüz videolarını ele alıyor-yüz-swaps, dudak senkronizasyon videoları veya tek bir görüntüden bir yüzü canlandıran yüz canlandırmalar gibi” diyor. “Bu yöntemin daha geniş bir uygulanabilirlik aralığı var.”
Evrensel dedektör, yüz manipüle edilmiş derin kalıntıları içeren dört test videosu setini belirlemede yüzde 95 ve yüzde 99 doğruluk elde etti. Bu, bu tür derin bir perfeyi tespit etmek için yayınlanmış diğer tüm yöntemlerden daha iyidir. Tamamen sentetik videoları izlerken, bugüne kadar değerlendirilen diğer tüm dedektörlerden daha doğru sonuçlara sahipti. Araştırmacılar, çalışmalarını 15 Haziran’da Tennessee, Nashville’deki 2025 IEEE/Bilgisayar Vizyonu ve Desen Tanıma Konferansı’nda sundular.
Yeni dedektörü geliştirmeye birkaç Google araştırmacısı da katıldı. Google, bu algılama yönteminin YouTube gibi platformlarındaki derin dişleri bulmaya yardımcı olup olamayacağı hakkında sorulara yanıt vermedi. Ancak şirket, AI sistemleri tarafından oluşturulan içeriği tanımlamayı kolaylaştıran bir filigran aracını destekleyenler arasındadır.
Evrensel dedektör de gelecekte geliştirilebilir. Örneğin, canlı video konferans çağrıları sırasında konuşlandırılan DeepFakes’i algılayabilmesi yararlı olacaktır, bazı dolandırıcıların zaten kullanmaya başladığı bir hile.
“Diğer taraftaki kişinin otantik olduğunu veya derin peynir oluşturulan bir video mu olduğunu nereden biliyorsunuz ve bu, video bir ağ üzerinden geçerken bile belirlenebilir ve ağın mevcut bant genişliği gibi özelliklerinden etkilenebilir mi?” Riverside California Üniversitesi’nde Amit Roy-Chowdhury diyor. “Bu laboratuvarımızda baktığımız başka bir yön.”
