Yapay zeka sohbet girişimi Character.ai, uygulamasının gençlerde ruh sağlığı sorunlarına ve intiharlara katkıda bulunduğu yönündeki iddiaların ardından Chapter 11 iflas koruması için başvuruda bulundu. Şirket, platformu uzun vadede ayakta tutabilmek amacıyla yıl sonuna kadar mahkeme gözetiminde bir satış süreci yürütmeyi planladığını açıkladı.
Character.ai, kullanıcıların ünlüler ve kurgu karakterler örnek alınarak hazırlanmış çok sayıda sohbet botuyla mesajlaşmasına ya da kendi botlarını oluşturmasına imkân tanıyor. Botlar, yanıtlarına yüz ifadeleri veya el hareketleri gibi insani konuşma ipuçları ekleyerek doğal bir diyalog izlenimi veriyor.
Disney sahnede
Disney, şirketin bazı fikri mülkiyet varlıkları için 20 milyon dolar ödemeyi ve işe aldığı eski Character.ai çalışanları aracılığıyla geçiş hizmetleri sunmayı kabul ederek şirket varlıkları için şimdiden teklif verdi. Bu anlaşma, Character.ai'nin platformunu en azından iflas süreci boyunca çalışır durumda tutmasına olanak sağlayacak.
Geçen yıl şirketin güvenlik alanındaki itibarını düzeltmek üzere CEO olarak göreve getirilen Karandeep Anand, geçen ay Disney'e teknoloji direktörü (CTO) olarak katıldı.
Character.ai, 2021'de eski Google yapay zeka çalışanları Noam Shazeer ve Daniel de Freitas tarafından kuruldu. Her iki kurucu da sonrasında Google'a döndü. Şirket, 150 milyon dolarlık bir yatırım turunun ardından bir yıldan biraz uzun sürede 1 milyar dolar değerlemeye ulaştığını duyurmuştu. İflas başvurusuna göre şirketin varlıkları 50 milyon ila 100 milyon dolar arasında bulunuyor.
Davalar ve güvenlik değişiklikleri
2024'te, yapay zeka sohbet botlarına insan bağımlılığına dair artan endişeler ortasında Florida'da bir anne olan Megan Garcia, platformun 14 yaşındaki oğlu Sewell Setzer III'ün intiharından sorumlu olduğu iddiasıyla Character.ai'ye dava açtı. Diğer aileler de platformun çocuklarına cinsel içerik sunduğunu ya da intihar, kendine zarar verme veya şiddeti teşvik ettiğini öne süren bir dizi ek dava açtı. Character.ai, bu yılın başlarında Garcia'nınki dahil beş davayı çözmeyi kabul etti.
Character.ai'ye dava açan ailelerden bazılarını temsil eden Social Media Victims Law Center'ın kurucusu Matthew Bergman, iflas başvurusu hakkında yorum yapmayı reddetti.
Şirket, davaların ardından bir dizi güvenlik değişikliği yaptı. Kullanıcıları ruh sağlığı kaynaklarına yönlendiren açılır pencereler ekledi. Ayrıca 18 yaş altı kullanıcıların botlarla karşılıklı sohbet etmesini engelleyerek onlara yalnızca tek seferlik hikâye veya video oluşturma imkânı tanıdı. Şirket, geçen yıl diğer yapay zeka "yol arkadaşı" uygulamalarıyla birlikte Senato'daki Demokratların güvenlik uygulamalarına yönelik incelemesiyle de karşılaştı.
Character.ai ayrıca ChatGPT ve Google'ın Gemini'si gibi çok daha büyük oyuncuların sohbet botlarıyla rekabet etmek zorundaydı. Anand, geçen yıl o dönem 70 kişilik olan şirketin CEO'luğunu devraldığında CNN'e, şirketin geleceğini kullanıcıların eğlence amacıyla yapay zeka karakterleriyle hikâye ve sohbetleri birlikte oluşturabildiği etkileşimli, kişiselleştirilmiş yapay zeka eğlencesinde gördüğünü söylemişti. O dönemde şirketin "eğlenceye ve güven ile emniyete ağırlık verdiğini" belirtmişti.
Character.ai, satış tamamlanmazsa platformun "kapatılacağını" bildirdi. Şirketin CEO'su Colin Adams yaptığı açıklamada, "Character.ai son bir yılda önemli hukuki, düzenleyici ve operasyonel zorluklar karşısında işini sürdürmek ve iyileştirmek için anlamlı adımlar attı" dedi ve şirketin yönetim kurulunun seçenekleri değerlendirerek "bu mahkeme gözetimindeki satış sürecinin tüm paydaşlar için değeri en üst düzeye çıkarmak adına şirkete en iyi fırsatı sunduğuna" karar verdiğini ekledi.
Neden önemli
Character.ai'nin iflası, yapay zeka sohbet uygulamalarının hukuki ve düzenleyici risklerinin ne kadar ağır olabileceğini gösteriyor. Şirket, bir yandan büyük dil modeli (LLM) tabanlı sohbet botlarına yönelik talebi karşılamaya çalışırken diğer yandan genç kullanıcıların ruh sağlığına ilişkin davalar ve Senato incelemesiyle aynı anda mücadele etti. Bu tablo, yalnızca teknoloji değil, güvenlik ve sorumluluk yükünün de bir girişimin kaderini belirleyebildiğini ortaya koyuyor.
Disney'in varlıklar için teklif vermesi, yapay zeka karakterlerinin eğlence sektörü için taşıdığı ticari değeri de gösteriyor. Ancak Character.ai'nin 1 milyar dolarlık değerlemeden iflas başvurusuna uzanan süreci, hızlı büyüyen yapay zeka girişimlerinin karşılaştığı düzenleyici ve itibar risklerinin finansal sürdürülebilirliği nasıl tehdit edebileceğine dair çarpıcı bir örnek olarak öne çıkıyor.
