Nvidia, yapay zeka ile üretilmiş video içeriğini tespit etmek için Synthetic Video Detector NIM mikroservisini duyurdu. Bu yeni araç, AI for Media platformunun bir parçası olarak sunuluyor ve videoları kare kare analiz ederek sentetik içerik belirtilerini arıyor.
Detektör, her kareyi 504x504 piksel boyutunda parçalara ayırıyor ve Meta'nın DINOv2 ile DINOv3 görüntü dönüştürücü modellerine dayanan bir topluluk yöntemi kullanarak işliyor. Bu modeller, karelerin uzamsal ve görsel özelliklerini temsil eden vektörler üretiyor ve detektör bu vektörleri kullanarak içeriğin yapay zeka tarafından üretilip üretilmediğini tahmin ediyor. Her kare, 0 (gerçek) ile 1 (sentetik) arasında bir sentetik olabilirlik puanı alıyor ve bu puanlar birleştirilerek video için genel bir sınıflandırıcı puanı oluşturuluyor.
Nvidia, sıkıştırılmamış videolarda detektörün %92 doğruluk elde ettiğini bildiriyor. %15 sıkıştırma seviyesinde doğruluk %87'ye, %50 sıkıştırmada ise %82'ye düşüyor. Gerçek dünya performansı, video üreticisi, çözünürlük, codec, sıkıştırma seviyesi ve diğer işleme faktörlerine bağlı olarak değişebiliyor. Nvidia, yanlış pozitif veya yanlış negatif oranları ya da farklı video üretim modellerindeki performans hakkında veri sağlamıyor.
Hız açısından Nvidia, NIM mikroservisinin desteklenen RTX sistemlerinde 1080p videoyu 22 milisaniyede, Nvidia L40 GPU'larında ise yaklaşık 30 milisaniyede işleyebildiğini belirtiyor. Bu sayede gerçek zamanlı kullanım mümkün hale geliyor.
Detektör, biyometrik sistemler için güven kararının bir parçasını oluşturuyor: videonun yapay zeka ile üretilmiş video ile ilişkili istatistiksel desenler içerip içermediğini doğruluyor. Ancak Nvidia, bu aracın canlılık veya sunum saldırısı tespiti (PAD) yerine kullanılmaması gerektiğini vurguluyor.
Wowza entegrasyonu
Wowza, Nvidia'nın Synthetic Video Detector'ını Wowza Video Intelligence Framework'e entegre etti. Bu entegrasyon, NIM mikroservisinin operasyonel bir video sistemine nasıl dahil edilebileceğini gösteriyor. Nvidia, sentetik video tespit modelini, NIM model sunum katmanını ve optimize edilmiş çıkarım yazılımını sağlarken, Wowza akış ve orkestrasyon katmanını sunuyor.
Nvidia sınıflandırıcısı, videonun alındığı, işlendiği veya dağıtıldığı noktaya daha yakın bir konumda uygulanabiliyor. Bu sayede kuruluşlar, şüpheli bir klibi akıştan çıkarıp ayrı bir tespit sitesine yüklemek zorunda kalmıyor. Çıktı, mevcut iş akışına dahil edilerek yayın öncesinde şüpheli görüntülerin işaretlenmesine olanak tanıyor.
Entegrasyon, şirket içi, uçta, hibrit veya onaylı hava boşluklu konfigürasyonlarda dağıtımı destekliyor. Wowza CEO'su Krish Kumar, "Biz onu ihtiyaç duyulan her yere koyan katmanı inşa ettik. Birlikte, insanları koruyan kuruluşlara, kendi donanımlarında gerçek zamanlı olarak gördüklerine güvenme yeteneği veriyoruz" dedi.
Wowza, medya sunucu teknolojisinin 170'ten fazla ülkede 35.000'den fazla video dağıtımını desteklediğini belirtiyor. Şirket, hükümet ve kamu sektörü uygulamalarını potansiyel kullanım alanları olarak işaret ediyor. Örneğin, sentetik videonun yetkilileri taklit etmek için kullanılabileceği durumlar. Kamu güvenliği kuruluşları, suç kanıtı olarak sunulan videoyu harekete geçmeden önce analiz edebilir. Aynı yaklaşım, video KYC, hesap kurtarma ve yüksek riskli finansal işlemler için de geçerli olabilir. Wowza, finansal hizmetler kullanım durumları olarak sentetik yöneticilerin video görüşmeleri ve sentetik video kimlik saldırılarını tanımlıyor.
Neden önemli
Sentetik video tespiti, özellikle biyometrik doğrulama ve kimlik yönetimi alanlarında kritik bir ihtiyaç haline geliyor. Nvidia'nın bu hamlesi, yapay zeka üretimi içeriğin tespitini kurumsal ölçekte ve gerçek zamanlı olarak mümkün kılarak, güvenlik ve güven altyapısında önemli bir boşluğu doldurmayı hedefliyor. Wowza gibi bir ortakla yapılan entegrasyon, bu teknolojinin mevcut video iş akışlarına nasıl sorunsuz bir şekilde dahil edilebileceğini gösteriyor. Ancak, detektörün doğruluğunun sıkıştırma ve diğer faktörlerden etkilenmesi ve yanlış pozitif/negatif oranlarına ilişkin veri eksikliği, gerçek dünya senaryolarında dikkatli bir değerlendirme gerektirdiğini ortaya koyuyor. Bu teknoloji, liveness tespiti gibi diğer güvenlik katmanlarının yerini almaktan ziyade onları tamamlayıcı bir rol oynuyor.
