OpenAI, uygulamaların seçenekler arasında karar vermesine yardımcı olan Decisions API'yi 22 Ekim'de genel kullanıma açtı. Araç, bir talebin hangi ekibe yönlendirileceğini ya da bir yazılımın hangi adımı izleyeceğini belirleyebiliyor. Şirket, bu tür işlemlerde bekleme süresini ve maliyeti azaltmayı amaçlıyor.
OpenAI, hizmeti GPT-6 Luna üzerine kurdu. Şirketin açıklamasına göre araç, belirli seçenekler arasından yanıt isteyen görevlerde aynı modelin standart kullanımına kıyasla 10 kata kadar hız sunuyor. Bu karşılaştırmanın yapay zekânın tüm görevlerini kapsamadığı belirtiliyor.
Decisions API'nin çalışma biçimi oldukça yalındır. Geliştirici, soruyu, olası yanıtları ve karar için gereken bilgileri tanımlıyor. Araç, bu bilgilere göre bir seçenek seçiyor, olasılık hesaplıyor ya da puanlama yapıyor.
Örneğin bir uygulama, müşteri mesajını okuyarak talebi fatura veya teknik destek ekibine yönlendirebiliyor. Bir başka uygulama ise ürün fotoğrafında hasar arayabiliyor ve hasarın düzeyini puanlayabiliyor. Sistem, seçeneklerle birlikte kararına ilişkin güven bilgisini de sunuyor.
Geliştiriciler metin, görsel ve düzenli veri girdileri kullanabiliyor. OpenAI, tek istekte soru sınırını 200'den 400'e çıkardı. GPT-Live bağlantısı da sesli görüşmeler sırasında hangi adımın geleceğini seçmeye yardımcı oluyor.
Dil öğrenme uygulaması Speak, kendi testinde iki işlem arasındaki beklemeyi 1,4 saniyeden 0,13 saniyeye düşürdüğünü açıkladı. Bu sonuç, şirketin denediği kullanım biçimini yansıtıyor. Diğer şirketler de farklı işler için aracı deniyor. Box, belgeleri sınıflandırıp ilgili işleme yönlendiriyor. Datadog, yapay zekânın çalıştırmak istediği komutların riskini değerlendiriyor. Ramp ise yapay zekâ giderlerini hangi işlerin oluşturduğunu ayırmak için hizmetten yararlanıyor.
OpenAI'ın bu alandaki rakiplerinden biri TypeSafe'in Jev modeli. Bu tür araçlar, uygulamaların sık tekrarladığı seçimlere odaklanıyor. TypeSafe, 14 Ekim'de Jev 1.14 sürümünü duyurdu. Şirket, görsel desteği ve daha uzun girdiler gibi özellikleri de denemeye açtı; ancak bu özelliklerin iş süreçlerinde kullanım için kendi güvenilirlik ölçütlerini karşılamadığını belirtiyor.
Hız, tek başına en iyi modeli belirlemiyor. AIMultiple'ın karşılaştırması, başarı puanını hız ve maliyetten ayrı hesaplıyor. Kontrol tarihindeki listede D1 Ultra ilk sırayı tutarken Jev 1.14 yedinci sırada yer alıyor. Opper AI ise karar modellerini Pac-Man oynatarak sınayan JevMan testini yürütüyor. Test, modellerin oyun sırasında peş peşe gelen yön seçimlerini nasıl yaptığını ölçüyor.
OpenAI, Decisions API için bir milyon girdi birimi başına 0,10 dolar istiyor. Sistem, metin ve diğer girdileri token adı taşıyan küçük birimlerle hesaplıyor. Şirket, yanıt için ayrı ücret almıyor. Bu fiyat, tek bir kararın sabit bedeli anlamına gelmiyor; her isteğin taşıdığı bilgi miktarı kullanım ücretini belirliyor.
