Fiyatlandırma ve Faturalandırma

Hugging Face Jobs, altyapınızı kendiniz yönetmeden Hugging Face altyapısında hesaplama görevleri çalıştırmanızı sağlar. Sadece bir komut, bir Docker imajı ve çeşitli CPU ve GPU seçenekleri arasından bir donanım türü tanımlamanız yeterlidir.

Herhangi bir kullanıcı veya kuruluşun kredi bakiyesi pozitifse Jobs'a erişimi vardır. PRO, Team veya Enterprise aboneliğiyle gelen aylık hesaplama kredileri bu bakiyeye eklenir ve Jobs için harcanabilir.

Jobs'taki faturalandırma donanım kullanımına dayanır ve dakikada bir hesaplanır: istenen donanımda Jobs'un çalıştığı her dakika için ücretlendirilirsiniz.

Bir Job'un yaşam döngüsü boyunca, yalnızca Starting veya Running durumundayken faturalandırılır. Bu, derleme sırasında herhangi bir maliyetin olmadığı anlamına gelir.

Çalışan bir Job başarısız olmaya başlarsa, otomatik olarak askıya alınır ve faturalama durdurulur.

Fiyatlandırma

İşler, kullanılan donanıma göre dakikası üzerinden faturalandırılır. Örneğin, a10g-small üzerinde 10 faturalanabilir dakika yaklaşık $0,17 donanım ücreti tutar.

Harcamaları yönetmek için zaman aşımı ayarlayın, bir Job'u iptal edin veya mevcut kullanımınızı görüntüleyin.

CPU

GPU

Mevcut donanımı ve fiyatlandırmayı ayrıca GET /api/jobs/hardware adresindeki API üzerinden veya CLI aracılığıyla programatik olarak alabilirsiniz:

>>> hf jobs hardware

Açık portlar

Bir Job, çalıştığı sürece dışarıdan erişilebilir olması için bir veya daha fazla portu açık hale getirebilir. Bir veya daha fazla portun açık hale getirilmesi, donanım fiyatının yanı sıra Job başına sabit bir ücretle faturalandırılır:

Donanım gibi, yalnızca İş Başlatılıyor veya Çalışıyor durumundayken dakikaya göre faturalandırılır.

Faturalandırmayı yönet

Faturalandırma işlemini organizasyonunuza yönlendirin

Faturalandırma varsayılan olarak kullanıcının ad alanına yapılır, ancak doğru namespace değerini belirterek faturalandırmayı organizasyonunuza yönlendirebilirsiniz:

hf jobs run --namespace my-org-name ...

Bu durumda İş, organizasyon hesabı altında çalışır ve organizasyonunuzun İşler sayfasında (organizasyon sayfası > ayarlar > İşler) görebilirsiniz.

Enterprise plan ve üzeri planlarda, kuruluş yöneticileri, kuruluş adına faturalandırılan İşlerin kimler tarafından çalıştırılabileceğini ve görüntülenebileceğini yalnızca kuruluş yöneticileriyle veya seçili Kaynak Gruplarının üyeleriyle sınırlayabilir; bu, Granular feature access ayarları üzerinden yapılır.

Bir kaynak grubuna fatura kes

Bu özellik, Enterprise planı ve üzeri planlarda mevcuttur.

Kurumunuzda Resource Groups yapılandırılmışsa, iş maliyetlerini belirli bir kaynak grubuna atayabilirsiniz. Bunu yapmak için:

1. Kaynak grubunun bir üyesi olmanız gerekir.
2. Kaynak grubunun sahibi olan kuruluşu namespace olarak ve kaynak grubunun kimliğini resource_group_id olarak iletin. İkisi de zorunludur: bir kaynak grubu, yalnızca faturası kendi kuruluşuna kesilen İşler için dikkate alınır.

Kaynak grubunun kimliğini, organizasyonunuzun Kaynak Grupları ayarlar sayfasında bulabilirsiniz.

hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...

Python'da:

>>> from huggingface_hub import run_job
>>> run_job(
...     image="python:3.12",
...     command=["python", "-c", "print('Hello!')"],
...     namespace="my-org-name",
...     resource_group_id="<resource-group-id>",
... )

Organization ve Resource Group yöneticileri, gruba faturalanan İşler için aylık harcama limitleri belirleyebilir.

Mevki hesaplama kullanımını görüntüle

Jobs için mevcut faturalandırma bilgilerinizi Faturalandırma sayfanızdaki “Compute Usage” bölümünde görüntüleyebilirsiniz:

Faturalandırma hakkında ek bilgi, özel Hub belgelerinde bulunabilir.

Öneriler

Zaman aşımı sınırlarını ayarla

Job oluşturulurken belirli bir süreden fazla çalışmasını önlemek için timeout ayarlayın. timeout süresine ulaşan bir Job çalıştırması otomatik olarak durdurulur ve faturalaması da sona erer. CLI ile timeout ayarlama yöntemi aşağıdaki gibidir:

hf jobs run --timeout 3h ...

Varsayılan zaman aşımının 30 dakika olarak ayarlandığına dikkat edin. Bu nedenle, Job'unuzun çalışması için daha fazla zamana ihtiyacı varsa daha uzun bir zaman aşımı belirtmeniz gerekir.

İlgisiz İşleri İptal Et

Çalışan bir Job artık ilgili değilse, faturalandırmasını durdurmak için Job sayfası veya CLI üzerinden iptal edebilirsiniz:

hf jobs cancel <job-id>