OpenAI API’leri: GPT-3.5-turbo ve GPT-4 işlevler alır ve daha ucuz hale gelir

hadicanim

Aktif Üye
OpenAI, yine ChatGPT ve Microsoft’un Bing’inin arkasındaki dil modelleri GPT-3.5-turbo ve GPT-4’ün API’leri için güncellemeler yayınlıyor. Bu, daha fazla metin işleyebilmeyi içerir. Ek olarak, gömülü modelin kullanımı çok daha ucuz ve GPT 3.5 turbo yüzde 25’e varan oranlarda daha düşük maliyetli. OpenAI, güvenlik açısından hiçbir şeyin değişmediğini vurguluyor. Girilen veriler yine de modelleri eğitmek için kullanılmayacaktır. Bu, OpenAI’nin AI hizmetlerini API aracılığıyla ürünlerine entegre eden şirketler için önemlidir.


Dil modelleri temel olarak olasılıklara dayalı otomatik cümle tamamlamaya benzer. Bu, onları belirli görevler için neredeyse işe yaramaz hale getirir. Şimdi buna karşı koymanın iki yolu var. Bir yandan, OpenAI eklentileri entegre etme imkanı sunar. Sonuç olarak, bir dil modeli oradaki bilgilere ve belirtimlere yanıt verebilir ve bunları kullanabilir. Yeni olan, geliştiricilerin modellere arayüzler veya harici araçlar aracılığıyla belirli işlevlere erişmeyi öğretebilmesidir. Bilgiler JSON aracılığıyla değiştirilir.

Dil modeli farklı görevleri ayırabilir ve gerçekleştirebilir


OpenAI, blogda örnek olarak şunu alıyor: “Anya’ya bir e-posta yazın ve Cuma günü bir kahve içmek isteyip istemediğini sorun.” Cümlede birkaç görev vardır. Artık API’ye e-posta göndermek için bir işlev olduğunu söyleyebilirsiniz. send_email() ve onun için bir endikasyona ihtiyacı var to ve için body. Daha sonra chatbot ile görüşme sırasında bir şey yazarsanız, bunun üzerine chatbot bir e-posta göndermesi gerektiğini söyler, sohbet yanıtıyla değil, bunun ne anlama geldiğiyle ilgili bilgilerle yanıt verir, şimdi bunlar send_email()aramak istediğiniz işlev.


Doğal dil, bir API çağrısına çevrilebilir. “Bu ay ilk on müşterim kimler?” sonra şöyle görünür: get_customers_by_revenue(start_date: string, end_date: string, limit: int). Diğer bir yeni özellik de adlar, doğum günleri, konumlar ve daha fazlası gibi metinlerden çıkarmadır. Tüm bunlar, yeni API parametreleri olarak kullanılabilir. /v1/chat/completions-bitiş noktası, içinde functions ve function_call erişilebilir. Geliştirici işlevleri bu nedenle bilgileri getirir ve sonucu API’ye geri gönderebilir. Eklentilere ek olarak bu, ChatGPT kullanımının kapsamını önemli ölçüde genişletmenin başka bir yoludur.

Kullanım maliyetleri azalır


GPT-4 yeni bir sürüm olarak mevcuttur ve daha fazla kişiye açılacaktır. OpenAI, önümüzdeki haftalarda bekleme listesini tamamen ortadan kaldırmayı umuyor. Yeni model, önemli ölçüde daha uzun metinleri işleyebilir. Bu, dört kat bağlam uzunluğunu iki kat fiyatla sunan yeni GPT 3.5 turbo 16k için de geçerlidir. 1000 giriş jetonunun maliyeti 0,003 USD, 1000 çıkış jetonunun maliyeti 0,004 USD’dir. “16.000 bağlam, modelin artık tek bir sorguyla yaklaşık 20 sayfalık metni işleyebileceği anlamına geliyor.”


Güncelleme yalnızca API kullanan ödeme yapan müşterileri etkiler. Şu anda mevcut, çoğu model 27 Haziran’da otomatik olarak güncellenecek. Daha eski bir model kullanmaya devam etmek istiyorsanız bunu belirtebilirsiniz ancak 13 Eylül son olacak.

Text-embedding-ada-002, OpenAI’ye göre en popüler modelidir. Yüzde 75 daha ucuz olacak: 1000 jeton 0,0001 dolara mal olacak. Sürüme bağlı olarak GPT-3.5-turbo ve GPT-4, ChatGPT’ye güç sağlar ve üçüncü taraf uygulamalar da dahil olmak üzere milyonlarca kişi tarafından kullanılır. Girdi belirteçleri onlar için yüzde 25 daha ucuz olacak: 1000 belirteç başına 0,0015 ABD Doları, verilen 1000 belirteç 0,002 ABD Doları olacaktır. Size miktar hakkında bir fikir vermesi için, 700 sayfanın maliyeti yaklaşık bir ABD dolarıdır. Tokenizer’a göre Haberler Online’ın 4 jetonu var. Gelişmiş model GPT-3.5-turbo-16k, kullanılacak 1000 giriş jetonu başına 0,003 ABD Doları ve çıkan 1000 jeton başına 0,004 ABD Doları tutarındadır. Fiyat indirimleri, dil modellerinin daha verimli olmasıyla haklı çıkarılmıştır.


(emw)



Haberin Sonu