Maldita.es tarafından yapılan bir araştırma, Meta'nın 'Meta Verified' mavi doğrulama rozetini, sağlık tavsiyesi veren ve Amazon üzerinden ürün satan yapay zeka tarafından oluşturulmuş hesaplara verdiğini ortaya koydu. Araştırma kapsamında incelenen 25 Instagram hesabı, toplamda 5 milyondan fazla aboneye ve 389 milyonun üzerinde izlenmeye sahip.
Hesaplar, gerçek kişiler değil, yapay zeka tarafından oluşturulmuş karakterler. Örneğin, Sibirya köy şifacısı olarak tanıtılan Baba Matryona adlı hesap, yüksek tansiyon için doğal bir tedavi sunduğunu iddia ediyor ve Amazon'da satılan bir hidrasyon tozuna yönlendiriyor. Ancak ürün sayfasında, ürünün 'herhangi bir hastalığı teşhis, tedavi, iyileştirme veya önleme amacı taşımadığı' belirtiliyor.
Meta Verified rozeti, Meta'nın kimlik doğrulama hizmeti olarak sunuluyor ve genellikle kullanıcıların fotoğraflı kimlik belgesi ibraz etmesini gerektiriyor. Ancak araştırmaya göre, bu hesaplar için bu süreç uygulanmadı. Meta'nın politikası, bazı durumlarda 'Meta ürünlerindeki etkinlik, ad süresi ve profil bütünlüğü' gibi sinyallerle doğrulama yapılmasına izin veriyor. Bu da sentetik hesapların kimlik doğrulamasını geçmesine olanak tanıyor.
Hesaplar, Amazon Associates programına katılarak, yönlendirdikleri satışlardan komisyon kazanıyor. Amazon'un politikaları, 'yanlış veya aldatıcı' içerik barındıran sosyal medya içeriklerinin bu programa katılmasını yasaklıyor. Ancak bu hesaplar, mucizevi tedaviler vaat eden içeriklerle bu kuralı ihlal ediyor.
Araştırmacılar, hesaplardan biriyle iletişime geçtiklerinde, hesabın 30.000 dolardan (yaklaşık 26.000 euro) daha düşük bir fiyata satılmayacağı söylendi. Bu, hesapların ticari bir değere sahip olduğunu gösteriyor.
Neden önemli
Bu durum, Meta'nın doğrulama sürecinin ciddi bir güvenlik açığına sahip olduğunu gösteriyor. Meta Verified rozeti, kullanıcılara güvenilirlik sinyali vermek için tasarlanmışken, yapay zeka tarafından oluşturulmuş ve sağlık dezenformasyonu yayan hesaplar tarafından kötüye kullanılıyor. Avrupa Komisyonu, 2025 yılında X'e (eski Twitter) Dijital Hizmetler Yasası (DSA) kapsamında 120 milyon euro para cezası kesmişti ve ihlallerden biri mavi doğrulama rozetinin aldatıcı tasarımıydı. Benzer bir risk, Instagram için de geçerli. Ayrıca Amazon, bu hesapların komisyon kazanmasına izin vererek, sağlık dezenformasyonunun finansmanına dolaylı olarak katkıda bulunuyor.
