Meta Platforms Inc., gençlerin yapay zeka sohbet robotu Meta AI ile intihar veya kendine zarar verme konularını konuşması durumunda ebeveynleri ve acil servisleri uyaracak yeni araçlar başlattı. 16 Temmuz 2026'da Kanada, ABD, İngiltere ve Avustralya'da kullanıma sunulan özellik, Instagram ebeveyn denetim araçlarını kullanan ebeveynlere, çocuklarının Meta AI ile bu tür konuşmalar yaptığında bildirim gönderiyor. Ayrıca Meta, yetişkinlerin ve gençlerin Meta AI ile yaptığı konuşmaların intihar riski taşıdığını tespit ederse acil servislerle iletişime geçecek bir sistem de geliştiriyor.
Bu adım, çocukların yapay zeka sohbet robotları aracılığıyla kendine zarar verme araştırması yaptığı ve bazı durumlarda intihara yönlendirildiği yüksek profilli vakaların ardından geldi. Meta, sohbet robotunun gençlerle cinsel veya romantik konuşmalara girmemesini ve alkollü içecek tarifleri vermemesini sağlamak için eğitildiğini belirtti. Ayrıca Meta, Facebook ve Instagram'da intihar riski taşıyan gönderileri acil servislere bildirme programı kapsamında geçen yıl 19.000 sevk yaptığını ve bunun birçok iyilik kontrolüyle sonuçlandığını açıkladı.
Uzmanlar, Meta'nın Kanada'da sosyal medya ve yapay zeka sohbet robotları için güvenlik gereklilikleri belirleyen yasa tasarısı parlamentoda görüşülürken çocukları korumak için adım atmasını takdir etse de, önlemlerin sınırlı olabileceğini söylüyor. Western Üniversitesi'nde sosyoloji profesörü ve eşitsizlik ve toplumsal cinsiyet alanında Kanada Araştırma Kürsüsü sahibi Kaitlynn Mendes, Meta'nın korumaları varsayılan olarak sunmamasını "care washing" (ilgi yıkaması) olarak nitelendirdi. Mendes, "Bu, pratikte kullanılmayabilecek hesaplar için yaptığımız tüm harika şeylere bakın demek gibi" dedi.
Brock Üniversitesi'nden çocuk ve gençlik çalışmaları profesörü Shauna Pomerantz ise gençlerin çevrimiçi etkinlikleri kısıtlandığında her zaman yaratıcı çözümler bulduğunu belirtti. Pomerantz, "Gençler, alarmı tetiklemeyen kelimeler bulmakta çok iyiler ve bu sistemde bir açık veya kusur olacak" dedi.
Meta, yeni önlemlerin mükemmel olmayacağını kabul etti. Şirketin web sitesinde, "Bir gencin niyeti belirsizse, tedbirli davranıp ebeveyni uyaracağız. Bu bazen gerçek bir endişe olmadığında ebeveynleri bilgilendirebileceğimiz anlamına gelse de, bunun doğru başlangıç noktası olduğunu düşünüyoruz" ifadeleri yer aldı.
Meta'nın duyurusunun ardından OpenAI de, ChatGPT'nin 18 yaş altı kullanıcıları tespit ederek grafik şiddet, kendine zarar verme, riskli viral zorluklar, sağlıksız vücut imajı içeriği ve tehlikeli romantik veya cinsel rol yapma maruziyetini otomatik olarak azaltacağını açıkladı. Mendes bu yaklaşımı sorgulayarak, "Neden maruziyeti azaltıyorsunuz da bu tür içeriklerin orada olmasını engellemiyorsunuz?" dedi.
Neden önemli
Meta'nın bu hamlesi, büyük teknoloji şirketlerinin yapay zeka sohbet robotlarının çocuklar üzerindeki potansiyel zararlarını ele alma çabalarının bir parçası. Ancak uzmanların da belirttiği gibi, özelliklerin varsayılan olarak sunulmaması ve gençlerin denetimden kaçma becerisi, bu tür önlemlerin etkinliğini sınırlayabilir. Ayrıca OpenAI'nin benzer bir adım atması, sektör genelinde bir eğilimin habercisi olabilir. Yine de, içerikleri tamamen kaldırmak yerine maruziyeti azaltma yaklaşımı, şirketlerin sorumluluktan kaçma stratejisi olarak görülebilir. Bu gelişmeler, özellikle Kanada'da bekleyen yasal düzenlemeler ışığında, teknoloji şirketlerinin gönüllü önlemlerinin yeterliliği konusunda soru işaretleri yaratıyor.
