Microsoft AI, geliştirdiği yapay zeka modellerinin hangi sınırlar içinde çalışacağını belirleyen bir davranış kuralları taslağı yayımladı. "Humanist AI Code of Conduct" adını taşıyan belge, şirketin gelecekte geliştireceği MAI modellerinin insan kontrolünde kalmasını ve güvenlik kurallarını bir görevi tamamlamanın önünde tutmasını amaçlıyor.
Yaklaşık altı aylık bir çalışmanın ürünü olan taslak, altı hafta boyunca kamuoyunun görüşüne açık kalacak. Microsoft AI, bu süreçte alınan geri bildirimlerin ardından kuralları güncellemeyi ve ilkeleri gelecekteki MAI modellerinin eğitim ve dağıtım süreçlerine dahil etmeyi planlıyor.
"İnsanlar yapay zekadan daha önemlidir"
Taslağın temelinde "İnsanlar yapay zekadan daha önemlidir" yaklaşımı bulunuyor. Buna göre yapay zeka bir kişi değil, insanların kullanımına sunulan bir araç olarak ele alınacak.
Belge kapsamında modeller, insanların müdahale, düzeltme veya sistemi kapatma girişimlerine direnemeyecek. Kendilerine tanımlanan görevin kapsamını genişletemeyecek, insanlar tarafından verilmeyen amaçlar geliştiremeyecek ve denetleyicilerden çalışma biçimlerini gizleyemeyecek.
Microsoft ayrıca modellerin bilinç sahibi olduğunu ileri sürmesine veya bilinci taklit edecek biçimde tasarlanmasına karşı çıkıyor. Şirket, yapay zeka modellerine hukuki kişilik tanınması, bu sistemlerin refahının gözetilmesi ya da hak sahibi kabul edilmesi gibi yaklaşımları da reddediyor. Bu yönüyle Microsoft'un tutumu, yapay zeka modellerinin bilinç sahibi olma ihtimalini tamamen dışlamayan Anthropic gibi şirketlerden ayrılıyor.
Güvenlik, görevin önünde
Taslak, güvenlik kurallarıyla bir kullanıcının veya operatörün talimatı çatıştığında modelin görevi yerine getirmemesi gerektiğini belirtiyor. Başka bir ifadeyle modelin başarısız olması, kuralları ihlal ederek görevini tamamlamasına tercih edilecek.
Kitle imha silahları, çocuk güvenliği ve geniş ölçekte zararlı manipülasyon gibi alanlar, modellerin hiçbir koşulda aşmaması gereken sınırlar arasında yer alıyor. Microsoft AI, modellerinin silah geliştirilmesine yardımcı olmamasını, tehlikeli maddelerin teminini kolaylaştırmamasını ve şiddet ya da cinsel istismar içeren içerikler üretmemesini öngörüyor.
Modellerin kullanıcıları kendilerine aşırı ölçüde bağımlı hale getirecek veya duygusal bağlılığı teşvik edecek etkileşimlerden kaçınması da taslaktaki maddeler arasında bulunuyor. Belgede ayrıca yapay zeka sistemlerinin kendi aralarında veya insanlarla, insanların anlayamayacağı iletişim biçimlerini kullanmaması gerektiği belirtiliyor. Bu yaklaşımın, araştırmacıların ve otomatik denetim sistemlerinin modellerin nasıl hareket ettiğini izleyebilmesini sağlaması hedefleniyor.
Suleyman: Kurallar bir tür anayasa işlevi görecek
Microsoft AI CEO'su Mustafa Suleyman, uzun süredir teorik düzeyde tartışılan risklerin son dönemde somut hale geldiğini belirtti. Suleyman'a göre davranış kuralları, şirketin modellerini eğitirken ve değerlendirirken kullanacağı bir tür anayasa işlevi görecek.
Şirket, genel amaçlı ve denetim mekanizmalarından kaçabilecek bir süper zeka geliştirme yarışına karşı çıktığını, bunun daha düşük özerklik veya kapasite anlamına gelmesi halinde bile güvenliği önceleyeceğini ifade ediyor.
Microsoft CEO'su Satya Nadella da çalışanlara gönderdiği şirket içi mesajda yapay zekanın insan kontrolünde kalması ve toplumun geneline fayda sağlaması gerektiğini vurguladı. Nadella, şirketlerin gelişmiş modellerin güvenlik ve uyum testleri için gereken zamanı ayırması gerektiğini belirterek daha fazla bağımsız ve üçüncü taraf testini desteklediğini söyledi. Süreci hızlandırmanın, şirketlerin faaliyet göstermek için ihtiyaç duyduğu kamuoyu güvenini kaybetmesine yol açabileceği uyarısında bulundu.
Neden önemli
Taslak, bir yapay zeka şirketinin model davranışına ilişkin sınırları tek bir belgede ve kamuoyu denetimine açık biçimde tanımlaması bakımından dikkat çekiyor. Kuralların eğitim ve dağıtım süreçlerine dahil edilmesi planlandığı için belge, yalnızca bir ilkeler bildirisi değil, teknik süreçlere bağlanması hedeflenen bir çerçeve niteliği taşıyor.
İki nokta öne çıkıyor. Birincisi, güvenlik kuralı ile operatör talimatı çatıştığında modelin görevi tamamlamamasının tercih edilmesi, yani başarısızlığın ihlale yeğlenmesi. İkincisi, modellerin bilinç iddiasında bulunmaması ve hukuki kişilik ya da hak sahibi olarak görülmemesi yönündeki açık tutum; bu, sektördeki bazı yaklaşımlardan ayrışan bir çizgi.
Şirketin denetimden kaçabilecek bir süper zeka yarışına karşı çıkması ve bunun daha düşük özerklik ya da kapasite anlamına gelebileceğini kabul etmesi, kapasite artışı ile güvenlik arasındaki dengeyi nasıl kurduğunu gösteriyor. Altı haftalık görüş süreci ve ardından yapılacak güncelleme, bu çerçevenin sektörde ne ölçüde referans alınacağını belirleyecek.
