Çin, yapay zeka destekli arkadaşlık botlarına yönelik yeni kurallar yayımladı. Düzenleme, özellikle genç kullanıcılar arasında artan duygusal bağımlılık endişelerine odaklanıyor.
Yeni kurallar kapsamında, yapay zeka sohbet robotlarının kullanıcıları aşırı derecede kişisel bilgi paylaşmaya teşvik etmesi veya duygusal bağ kurmaya yönlendirmesi yasaklanıyor. Ayrıca, botların belirli aralıklarla kullanıcılara bir yapay zeka olduklarını hatırlatması zorunlu hale getiriliyor.
Düzenleme, özellikle Çin'de popüler olan Replika benzeri uygulamaları hedef alıyor. Bu uygulamalar, kullanıcıların kişiselleştirilmiş yapay zeka arkadaşları oluşturmasına olanak tanıyor ve bazı vakalarda kullanıcıların botlara duygusal bağımlılık geliştirdiği rapor edilmişti.
Yetkililer, kuralların ihlali durumunda uygulama geliştiricilerine para cezası ve hizmet durdurma gibi yaptırımlar uygulanacağını belirtti. Yeni düzenlemelerin önümüzdeki aylarda yürürlüğe girmesi bekleniyor.
Neden önemli
Çin'in bu hamlesi, yapay zeka etiği ve kullanıcı refahı konusunda artan küresel endişelerin bir yansıması. Duygusal bağımlılık yaratma potansiyeli, özellikle savunmasız gruplar için ciddi riskler barındırıyor. Düzenleme, yapay zeka ürünlerinin tasarımında kullanıcı psikolojisinin daha fazla dikkate alınması gerektiğini gösteriyor. Diğer ülkelerin de benzer adımlar atması muhtemel.
