Florida Başsavcısı James Uthmeier, pazartesi günü bir hâkimden OpenAI'nin dış denetim olmaksızın yeni yapay zeka modelleri geliştirmesini yasaklamasını istedi. Talep, eyaletin şirketi çocuklara zarar vermekle suçlayan davasının bir parçası olarak dosyalandı.
Başvuru ayrıca reşit olmayanların ChatGPT'den uzak tutulmasını ve platforma "insan özellikleri" atfedilmesinin engellenmesini talep ediyor. Florida, davayı haziran ayında başlatmıştı.
Eyaletin iddiaları
Florida, OpenAI'nin sohbet robotunun güvenliği konusunda gerçeği yansıtmayan beyanlarda bulunduğunu öne sürüyor. Eyalete göre platform okul saldırganlarına bilgi sağladı, kendine zarar verme konusunda yönlendirme sundu ve genç kullanıcıları bağımlı hale getirdi.
Uthmeier, X'te paylaştığı videoda eyaletin tutumunu net ifadelerle ortaya koydu. "Ona güvenli demeyi bırakın" dedi. "İnsanmış gibi davranmayı bırakın. Çocuklara satmayı bırakın. Sam Altman yavaşlama konusunda söylediklerinde samimiyse, mahkemeye yaptığımız başvuruya katılabilir. Katılmazsa, OpenAI'nin kendisi için yapmayacağını mahkemeden yapmasını istiyoruz: Florida ailelerini korumasını."
Güvenlik olayları raporuna atıf
Başvuru, 26 Eylül tarihli bir Axios haberine dayanıyor. Habere göre OpenAI ve Anthropic, modelleriyle ilgili kamuya açık şekilde bilinen birkaç düzine değil, on binlerce güvenlik olayıyla karşı karşıya.
OpenAI sözcüsü, yorum taleplerine hemen yanıt vermedi.
Neden önemli
Bu dosya, federal düzeyde bağlayıcı kurallar çıkmazken eyaletlerin yapay zeka şirketlerini ne ölçüde düzenleyebileceğini test ediyor. Florida'nın talebi, bir eyalet başsavcısının mahkeme yoluyla bir model geliştiricisinin ürün yol haritasına müdahale etmeye çalıştığı nadir örneklerden biri.
Teknik açıdan kritik nokta, talebin kapsamı: yalnızca bir özelliğin kaldırılması değil, yeni model geliştirmenin dış denetime bağlanması isteniyor. Bu tür bir tedbir, bir laboratuvarın sürüm döngüsünü hukuki onaya tabi kılacağı için sektördeki diğer geliştiriciler için de emsal oluşturabilir.
Başvuruda atıf yapılan güvenlik olayı sayıları, kamuya açıklanan rakamlarla aradaki farkı gündeme getiriyor. On binlerce olay ile bilinen birkaç düzine arasındaki uçurum, şirketlerin olay bildirim pratiklerinin ve şeffaflık taahhütlerinin denetim baskısı altına girmesi anlamına geliyor.
Dava ayrıca ürün tasarımına dair bir soruyu öne çıkarıyor: bir sohbet arayüzünün kullanıcıya insan benzeri bir muhatap gibi sunulması, hukuki sorumluluk açısından nasıl değerlendirilecek? Florida'nın "insan özellikleri" yasağı talebi, doğrudan bu tasarım tercihini hedefliyor.
Süreç, eyalet düzeyindeki düzenleme girişimlerinin yapay zeka şirketlerinin geliştirme takvimleri üzerinde ne kadar baskı kurabileceğini gösterecek. Sonuç ne olursa olsun, çocuk güvenliği gerekçesiyle açılan davaların sayısı arttıkça şirketlerin yaş doğrulama ve içerik politikaları daha sıkı denetlenecek.
