Meta, genç kullanıcıların platformlarında intihar ve kendine zarar verme ile ilgili konuşmalarını tespit etmek için yapay zeka kullanacağını ve bu durumları ebeveynlere bildireceğini duyurdu. Şirket, Messenger uygulamasında yeni bir özellik başlatıyor: Meta AI, gençlerin gönderdiği veya aldığı mesajları analiz ederek intihar, kendine zarar verme veya yeme bozukluğu gibi konuları içeren içerikleri tespit edecek. Tespit edilen durumlarda, ebeveynlere bir bildirim gönderilecek.
Özellik, 13-17 yaş arası kullanıcıların hesaplarında varsayılan olarak etkin olacak. Ebeveynler, çocuklarının hesabını kendi hesaplarına bağladıklarında bu uyarıları alabilecek. Meta, bu adımın gençlerin çevrimiçi güvenliğini artırmayı hedeflediğini belirtiyor.
Şirket ayrıca, Instagram'da da benzer bir özellik üzerinde çalıştığını ancak henüz bir zaman çizelgesi paylaşmadı. Meta, yapay zeka tabanlı bu sistemin, gençlerin yardım arayışında olduğu ancak bunu açıkça ifade etmediği durumları da tespit edebilecek şekilde tasarlandığını ifade ediyor.
Uygulama, yalnızca mesaj içeriğini analiz edecek; Meta, bu verilerin başka amaçlarla kullanılmayacağını ve gizlilik korumalarının uygulanacağını vurguluyor. Ancak, özellikle genç kullanıcıların mahremiyeti konusunda bazı endişeler dile getiriliyor.
Neden önemli
Bu hamle, sosyal medya platformlarının genç kullanıcıların ruh sağlığını koruma çabalarının bir parçası. Meta, daha önce de benzer güvenlik önlemleri almıştı ancak bu, doğrudan mesaj içeriğini analiz eden ilk kapsamlı adım. Yapay zeka tabanlı tespit sistemleri, potansiyel olarak hayat kurtarıcı olsa da, mahremiyet ve sansür endişelerini de beraberinde getiriyor. Özellikle gençlerin özel konuşmalarının otomatik olarak taranması, veri güvenliği ve ifade özgürlüğü tartışmalarını alevlendirebilir. Teknik olarak, bu tür bir sistemin yanlış pozitif oranı ve kültürel farklılıkları nasıl ele alacağı da önemli sorular arasında.
