Hub documentation

Harga dan Penagihan

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Harga dan Penagihan

Hugging Face Jobs memungkinkan Anda menjalankan tugas komputasi pada infrastruktur Hugging Face tanpa perlu mengelolanya sendiri. Cukup definisikan sebuah perintah, image Docker, dan varian hardware di antara berbagai pilihan CPU dan GPU.

Jobs tersedia untuk pengguna atau organisasi mana pun yang memiliki saldo kredit positif. Kredit komputasi bulanan yang disertakan dalam langganan PRO, Team, atau Enterprise dihitung ke dalam saldo tersebut dan dapat digunakan untuk Jobs.

Penagihan pada Jobs didasarkan pada penggunaan perangkat keras dan dihitung per menit: Anda akan dikenakan biaya untuk setiap menit Jobs berjalan pada perangkat keras yang diminta.

Selama siklus hidup Job, biaya hanya dikenakan saat Job berstatus Starting atau Running. Artinya, tidak ada biaya yang timbul selama proses build.

Jika Job yang sedang berjalan mulai gagal, Job tersebut akan ditangguhkan secara otomatis dan penagihan akan dihentikan.

Harga

Job ditagih per menit berdasarkan perangkat keras yang digunakan. Misalnya, 10 menit tagihan pada a10g-small dikenakan biaya perangkat keras sekitar $0,17.

Untuk mengelola pengeluaran, atur batas waktu, batalkan Job, atau lihat penggunaan Anda saat ini.

CPU

Perangkat KerasCPUMemoriPenyimpanan SementaraHarga per Jam
Dasar CPU2 vCPU16 GB50 GB$0.01
Upgrade CPU8 vCPU32 GB50 GB$0.03
CPU XL16 vCPU124 GB1000 GB$1.00
Kinerja CPU32 vCPU256 GB1024 GB$1.90

GPU

Perangkat KerasCPUMemoriMemori GPUPenyimpanan SementaraHarga per Jam
Nvidia T4 - kecil4 vCPU15 GB16 GB50 GB$0.40
Nvidia T4 - sedang8 vCPU30 GB16 GB100 GB$0.60
1x Nvidia L48 vCPU30 GB24 GB400 GB$0.80
4x Nvidia L448 vCPU186 GB96 GB3200 GB$3.80
1x Nvidia L40S8 vCPU62 GB48 GB380 GB$1.80
4x Nvidia L40S48 vCPU382 GB192 GB3200 GB$8.30
8x Nvidia L40S192 vCPU1534 GB384 GB6500 GB$23.50
Nvidia A10G - kecil4 vCPU15 GB24 GB110 GB$1.00
Nvidia A10G - besar12 vCPU46 GB24 GB200 GB$1.50
2x Nvidia A10G - besar24 vCPU92 GB48 GB1000 GB$3.00
4x Nvidia A10G - besar48 vCPU184 GB96 GB2000 GB$5.00
Nvidia A100 - besar12 vCPU142 GB80 GB1000 GB$2.50
4x Nvidia A100 - besar48 vCPU568 GB320 GB4000 GB$10.00
8x Nvidia A100 - besar96 vCPU1136 GB640 GB8000 GB$20.00
Nvidia H20023 vCPU256 GB141 GB3000 GB$5.00
2x Nvidia H20046 vCPU512 GB282 GB6000 GB$10.00
4x Nvidia H20092 vCPU1024 GB564 GB12000 GB$20.00
8x Nvidia H200184 vCPU2048 GB1128 GB24000 GB$40.00
Nvidia RTX PRO 600023 vCPU256 GB96 GB475 GB$2.75
2x Nvidia RTX PRO 600046 vCPU512 GB192 GB950 GB$5.50
4x Nvidia RTX PRO 600092 vCPU1024 GB384 GB1900 GB$11.00
8x Nvidia RTX PRO 6000184 vCPU2048 GB768 GB3800 GB$22.00

Anda juga dapat mengambil hardware dan harga yang tersedia secara programatik melalui API di GET /api/jobs/hardware atau melalui CLI:

>>> hf jobs hardware

Port yang diekspos

Job dapat mempublikasikan satu atau lebih port agar dapat dijangkau dari luar saat Job sedang berjalan. Publikasi satu atau lebih port dikenakan biaya tetap per Job, di samping harga perangkat keras:

ProdukHarga per Jam
Port yang diekspos$0.01

Seperti perangkat keras, biaya dihitung per menit, hanya saat Job berstatus Starting atau Running.

Kelola penagihan

Tagihan ke organisasi Anda

Penagihan secara default dilakukan ke namespace pengguna, tetapi Anda dapat menagihkan ke organisasi Anda dengan menentukan namespace yang tepat:

hf jobs run --namespace my-org-name ...

Dalam kasus ini, Job berjalan di bawah akun organisasi, dan Anda dapat melihatnya di halaman Jobs organisasi Anda (halaman organisasi > pengaturan > Jobs).

Pada paket Enterprise dan di atasnya, admin organisasi dapat membatasi siapa yang dapat menjalankan dan melihat Jobs yang ditagihkan ke organisasi — hanya untuk admin organisasi atau untuk anggota Resource Groups tertentu — melalui pengaturan Akses fitur granular.

Tagihan ke grup sumber daya

Fitur ini merupakan bagian dari paket Enterprise dan di atasnya.

Jika organisasi Anda telah mengatur Resource Groups, Anda dapat mengaitkan biaya pekerjaan dengan grup sumber daya tertentu. Untuk melakukannya:

  1. Anda harus menjadi anggota grup sumber daya.
  2. Lewatkan organisasi yang memiliki grup sumber daya sebagai namespace, dan ID grup sumber daya sebagai resource_group_id. Keduanya wajib: grup sumber daya hanya diperhitungkan untuk Jobs yang ditagihkan ke organisasinya.

Anda dapat menemukan ID grup sumber daya di halaman pengaturan Grup Sumber Daya organisasi Anda.

hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...

Dalam Python:

>>> from huggingface_hub import run_job
>>> run_job(
...     image="python:3.12",
...     command=["python", "-c", "print('Hello!')"],
...     namespace="my-org-name",
...     resource_group_id="<resource-group-id>",
... )

Admin Organization dan Resource Group dapat mengatur batasan pengeluaran bulanan untuk Jobs yang ditagihkan ke grup.

Lihat penggunaan komputasi saat ini

Anda dapat melihat informasi penagihan saat ini untuk Jobs di halaman Billing, di bagian “Compute Usage”:

Informasi tambahan tentang penagihan dapat ditemukan dalam dokumentasi Hub khusus.

Rekomendasi

Atur batas waktu

Atur timeout saat membuat Job untuk memastikan Job tidak berjalan melebihi durasi tertentu. Eksekusi Job yang mencapai durasi timeout akan dihentikan secara otomatis, begitu pula penagihannya. Berikut cara mengatur timeout dengan CLI:

hf jobs run --timeout 3h ...

Perhatikan bahwa timeout default diatur ke 30 menit. Oleh karena itu, Anda harus menentukan timeout yang lebih lama jika Job Anda membutuhkan waktu lebih lama untuk dijalankan.

Batalkan Job yang tidak relevan

Jika sebuah Job yang sedang berjalan tidak lagi relevan, Anda dapat membatalkannya lebih awal untuk menghentikan penagihannya, baik melalui halaman Job maupun CLI:

hf jobs cancel <job-id>
Update on GitHub