OpenAI, Realtime API'sinde iki yeni model yayınladı: gpt-realtime-2.1 ve gpt-realtime-2.1-mini. Her iki model de düşük gecikme süreli ses ve çok modlu deneyimler için tasarlandı. Özellikle mini model, gerçek zamanlı ses için bir mini muhakeme modeli olarak öne çıkıyor ve önceki gpt-realtime-mini ile aynı fiyatlandırmaya sahip. OpenAI ayrıca, geliştirilmiş önbellekleme sayesinde Realtime ses modellerinde p95 gecikme süresini en az %25 oranında azalttı.

GPT-Realtime-2.1-mini Nedir?

gpt-realtime-2.1-mini, canlı bağlantı üzerinden ses ve metin girdilerine yanıt veren bir mini muhakeme modelidir. OpenAI, onu serideki daha hızlı ve daha uygun maliyetli seçenek olarak konumlandırıyor. Realtime API, sesi tek bir model aracılığıyla işleyip üreterek ayrı konuşma-metin ve metin-konuşma sistemlerini zincirleme ihtiyacını ortadan kaldırıyor. Bu tek model tasarımı, gecikme süresini azaltıyor ve konuşmadaki nüansları koruyor. Muhakeme, modelin konuşmadan önce dahili olarak düşünmesini sağlıyor. Mini kademe ayrıca Realtime API üzerinden araç kullanımını (fonksiyon çağrısı) da destekliyor.

Daha büyük kardeş model gpt-realtime-2.1 ise, gelişmiş alfanümerik tanıma, sessizlik ve gürültü yönetimi ile kesinti davranışı iyileştirmeleri sunuyor. Yapılandırılabilir muhakeme çabası, talimat takibi ve araç kullanımı ile konuşmadan konuşmaya desteği bulunuyor.

Muhakeme ve Araç Kullanımı Neden Önemli?

Sesli ajanlar genellikle araç çağrıları sırasında takılıp kalıyor. Model bir fonksiyon çağrısı yapıyor, ardından sessizleşiyor. Kullanıcılar aramanın düştüğünü düşünüp araya giriyor. Bu da kısmi sonuçlara ve karışık konuşma durumuna yol açıyor. Muhakeme ve sözlü bir giriş, bu sorunu çözüyor. Model, harekete geçmeden önce 'Şimdi siparişi kontrol ediyorum' gibi bir şey söyleyebiliyor. Bu, çok adımlı ses görevlerini tutarlı tutuyor. Muhakeme çabası, minimal, düşük, orta, yüksek veya çok yüksek seviyeleri arasında yapılandırılabiliyor. Düşük varsayılan seviye, basit turlar için gecikmeyi düşük tutuyor.

Gecikme ve Önbellekleme İyileştirmesi

p95 gecikme süresi, kullanıcıların hissettiği yavaş kuyruğu yakalayan yüzde 95'inci yanıt süresidir. En az %25'lik bir kesinti, canlı ses için önemli. Geliştirilmiş önbellekleme, bu azalmayı sağlıyor. Önbellekleme ayrıca maliyeti de düşürüyor. Önbelleğe alınmış ses girişi, gpt-realtime-2.1-mini için 1M başına 0,30 dolar iken, taze ses girişi 10,00 dolar. Uzun oturumlar, sistem isteminin ilk turdan sonra önbelleğe alınmasıyla en çok fayda sağlıyor.

Fiyatlandırma ve Karşılaştırma

Fiyatlandırma, metin, ses ve görüntü olarak ayrılmış 1M token başına yapılıyor. Mini, önceki mini ücretini korurken muhakeme ekliyor. Öne çıkan fiyatlar:

  • gpt-realtime-2.1-mini ses çıkışı: 1M başına 20 dolar.
  • gpt-realtime-2.1 ses çıkışı: 1M başına 64 dolar.
  • Metin girişi: mini için 0,60 dolar, tam model için 4 dolar.
  • Ses girişi: mini için 10 dolar, tam model için 32 dolar.

Kullanım Örnekleri

  • Müşteri hizmetleri triyajı: Arayan kişi fatura hatası bildirir. Mini model, düşük çabayla muhakeme yapar, hesap ve fatura araçlarını çağırır, her adımı anlatır.
  • Randevu planlama: Kullanıcı, rezervasyonu gelecek Salı'ya taşımak ister. Model karakter karakter tarihi yakalar, onaylar ve yeniden planlama fonksiyonunu çağırır.
  • Uygulama içi sesli asistan: Mobil uygulama, WebRTC üzerinden mikrofon sesini akışa alır. Mini model, ürün sorularını kısa cümlelerle yanıtlar.
  • Saha veri girişi: Teknisyen, parça numarasını girmesini ister. Gelişmiş alfanümerik tanıma, '8-3-5-7-1' gibi kodları yakalamaya yardımcı olur.

Neden Önemli?

OpenAI'ın mini kademeye muhakeme getirmesi, sesli ajan pazarında maliyet-performans dengesini değiştiriyor. Daha önce muhakeme yalnızca pahalı modellerde mevcutken, şimdi düşük maliyetli mini modelde de sunuluyor. Bu, girişimlerin ve geliştiricilerin, yüksek gecikme ve maliyet endişesi olmadan daha akıllı sesli asistanlar oluşturmasına olanak tanıyor. Ayrıca, p95 gecikmesindeki %25'lik iyileştirme, canlı ses deneyimlerinde kritik bir fark yaratıyor. Önbellekleme sayesinde uzun oturumların maliyeti önemli ölçüde düşüyor, bu da sesli ajanların daha yaygın kullanımını teşvik edebilir. Ancak, ses token fiyatlandırmasının çağrı başına maliyete dönüştürülmesi hala zorlu ve yüksek muhakeme çabası gecikmeyi artırıyor.