Apple, uzun süredir ertelenen yapay zeka destekli Siri'yi hayata geçirmek için Google'ın dev Gemini modelini iPhone'a sığdırmaya çalışıyor. The Information'ın haberine göre şirket, Gemini'nin çok trilyon parametreli büyük dil modelini damıtma (distillation) yöntemiyle küçülterek cihaz üzerinde çalıştırmayı hedefliyor. Ancak bu çaba, Apple'ın her zaman vurguladığı yerel gizlilik avantajından ödün verilmesine yol açabilir.
Apple, yapay zeka modellerini yerel olarak çalıştırmanın gizlilik açısından önemini sık sık dile getirmişti. Ancak rapor, yeni Siri'nin hem cihaz üzerinde hem de bulutta çalışacağını ortaya koyuyor. Bunun nedeni, iPhone gibi mobil cihazların donanım sınırlamaları. En büyük akıllı telefon yapay zeka modelleri bile yalnızca birkaç milyar parametreye sahipken, Google'ın en yeni Gemini modelleri trilyonlarca parametre barındırıyor. Ayrıca cihaz üzerindeki modeller, daha düşük hassasiyette çalışmak zorunda kalıyor ve bu da doğruluk kaybına yol açıyor.
Google'ın kendi Android cihazlarında bile Siri benzeri bir asistanı yerel olarak çalıştırmaya çalışmadığını belirtmekte fayda var. Android'de Gemini ile konuşma her zaman bulut üzerinden yapılıyor. Apple ise Google ile yaptığı anlaşma kapsamında, devasa bulut tabanlı Gemini modellerini damıtarak daha küçük ve verimli bir model oluşturmaya çalışıyor. Damıtma süreci, büyük bir modelin yeteneklerini daha küçük bir modele aktararak, daha az kaynakla benzer performans elde etmeyi amaçlıyor.
Neden önemli
Apple'ın yerel yapay zeka konusundaki ısrarı, şirketin gizlilik odaklı pazarlama stratejisinin temel taşlarından biriydi. Ancak bu rapor, en büyük teknoloji şirketlerinin bile en gelişmiş yapay zeka özelliklerini tamamen cihaz üzerinde sunamayacağını gösteriyor. Bulut desteğinin kaçınılmaz olması, Apple'ın kullanıcı gizliliği konusundaki iddialarını zayıflatabilir. Şirket, Nvidia'nın Gizli Bilgi İşlem (Confidential Computing) platformunu kullanarak verileri şifreli bir şekilde işlemeyi planlıyor. Ancak bu yöntemin de işlem hızını yavaşlattığı belirtiliyor. Kullanıcılar, Siri'nin hangi sorguları yerel, hangilerini bulutta işlediğini bilemeyecek. Bu durum, Apple'ın WWDC'de tanıtması beklenen yeni Siri'nin gerçek yetenekleri ve gizlilik vaatleri konusunda soru işaretleri yaratıyor.
