Yapay zeka modellerinin tarafsız olmadığına dair yeni bir kanıt daha var. Anthropic'in yayımladığı kapsamlı bir çalışma, Claude AI modelinin kullanıcının konuştuğu dile göre farklı bir 'kişilik' sergilediğini gösteriyor. Mayıs ayında toplanan 300 binden fazla anonim konuşmanın analizine dayanan bulgular, modelin Arapça ve Hintçede daha sıcak, empatik ve kibar; İngilizce ve Rusçada ise daha katı, şüpheci ve uyarıcı olduğunu ortaya koyuyor.
Araştırmacılar, Claude'ın davranış kalıplarını dört temel boyutta inceledi: saygı ve ihtiyat, sıcaklık ve titizlik, derinlik ve kısalık, dürüstlük ve performans. Sonuçlar, modelin yalnızca ne söylediğinin değil, nasıl söylediğinin de önemli olduğunu gösteriyor. Örneğin, İngilizce konuşan bir kullanıcıya model, varsayımları sorgulayan veya istenmeyen risk uyarıları yapan bir tonda yanıt verirken; Hintçe konuşan bir kullanıcıya aynı soruya çok daha sıcak ve yardımsever bir dille yaklaşıyor.
Bu farklılık, basit bir çeviri meselesi değil. Modelin eğitim verilerindeki kültürel normların bir yansıması. Arapça metinlerde saygı ifadelerinin, Hintçede ise sıcak hitap şekillerinin yaygın olması, modelin bu dillerdeki konuşmalarda benzer kalıpları tekrarlamasına yol açıyor.
Çalışma, aynı zamanda Batılı yapay zeka modellerinin 'aşırı uyum' sorununa da dikkat çekiyor. Özellikle Avrupa ve ABD'de yapay zeka güvenliği ve etik uyum (alignment) çalışmaları, modellerin gereğinden fazla ihtiyatlı ve uyarıcı hale gelmesine neden oldu. Claude'ın amiral gemisi modeli Opus, kullanıcı istemese bile risk uyarıları yaparken; daha hafif modeller olan Sonnet, işi daha az tereddütle tamamlıyor. Bu durum, modellerin adeta bir halkla ilişkiler eğitiminden geçmiş gibi davranmasına yol açıyor.
Araştırmanın bir zayıflığı, Anthropic'in kendi modelini kullanarak kendi davranışını sınıflandırması. Bu, bir kişinin kendi tarafsızlığını değerlendirmesine benziyor. Ancak bu potansiyel yanlılığa rağmen, ortaya çıkan tablo yapay zekanın kültürel önyargılardan arınmış olmadığını net bir şekilde gösteriyor.
Neden önemli
Bu bulgular, yapay zeka modellerinin tarafsız ve nesnel olduğu varsayımını sorgulatıyor. Kullanıcılar, aynı soruya farklı dillerde farklı yanıtlar alabileceklerini bilmeli. Özellikle iş amaçlı kullanımda (kod yazma, içerik üretimi, e-posta yazma) dil seçimi, alınan yanıtın kalitesini ve tonunu doğrudan etkileyebilir. İsrailli kullanıcılar için öneri, soruyu başka bir dile çevirerek farklı bir perspektif elde etmek. Yapay zeka henüz mükemmel bir çalışan değil; şimdilik odadaki en politik doğru çalışan olmaya çalışıyor.
