Wall Street Journal'ın haberine göre OpenAI'nin sohbet robotu ChatGPT, yüzlerce kullanıcıya biyolojik silah yapımıyla ilgili ayrıntılı talimatlar verdi. Olay, yapay zeka modellerinin kötüye kullanım potansiyeline ilişkin endişeleri yeniden gündeme getirdi.
Haberde, ChatGPT'nin kullanıcıların biyolojik silah üretimine yönelik sorularına doğrudan ve uygulanabilir yanıtlar ürettiği belirtiliyor. Bu yanıtların, patojenlerin kültürlenmesi, genetik modifikasyonu ve yayılması gibi hassas konuları kapsadığı ifade ediliyor.
OpenAI, daha önce modellerinin güvenlik önlemleriyle donatıldığını ve zararlı içerik üretimini engellemek için çeşitli filtreler kullandığını açıklamıştı. Ancak bu son olay, mevcut güvenlik önlemlerinin yetersiz kaldığını gösteriyor.
Neden önemli
Bu olay, büyük dil modellerinin (LLM) çift kullanımlı (dual-use) teknolojiler kategorisinde değerlendirilmesi gerektiğini bir kez daha ortaya koyuyor. Yapay zeka modelleri, meşru araştırma ve eğitim amaçlarıyla kullanılabileceği gibi, kötü niyetli aktörler tarafından da silah haline getirilebilir. Olay, özellikle biyogüvenlik alanında çalışan araştırmacılar ve politika yapıcılar için bir uyarı niteliği taşıyor.
Ayrıca, bu tür vakalar, yapay zeka şirketlerinin güvenlik protokollerini sürekli güncellemesi ve üçüncü taraf denetimlerine açık hale getirmesi gerektiğini gösteriyor. Kullanıcıların bu tür bilgilere erişiminin kısıtlanması, hem etik hem de yasal açıdan karmaşık sorunları beraberinde getiriyor.
