Meta, ajanlar için küçük ve ucuz bir model çıkardı: Muse Ember

Meta, 9 Kasım'da Muse Ember adlı yeni bir yapay zekâ modeli yayımladı. Şirket onu en küçük ve en verimli modeli olarak tanıtıyor. Amaç, her gün defalarca tekrar eden ajan işlerini ucuza ve hızlı yapmak.

Bu işlere örnek olarak araç çağırma, kodlamanın küçük alt görevleri, istekleri doğru yere yönlendirme, metinden bilgi ayıklama ve uzun belgeleri okuma veriliyor. Model metnin yanında görüntü, ses ve video da işleyebiliyor. Bir milyon jetonluk bağlam penceresi var; yani tek seferde çok uzun bir girdiyi okuyabiliyor.

Fiyat tarafı dikkat çekici: 200 bin jetona kadar olan istemlerde milyon girdi jetonu 10 sent, milyon çıktı jetonu 50 sent. Model Meta'nın kendi kodlama aracı Muse Code ve Meta Model API üzerinden, ayrıca Google Cloud ve Oracle Cloud'da kullanılabiliyor.

Küçük modellerin mantığı şu: her iş en büyük ve pahalı modele gitmek zorunda değil. Basit ve tekrar eden parçaları ucuz bir modele bırakıp zor kısımları güçlü modele ayırmak hem maliyeti hem süreyi düşürüyor.