Hub documentation

定价与计费

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

定价与计费

Hugging Face Jobs 允许您在 Hugging Face 基础设施上运行计算任务,而无需自行管理基础设施。您只需定义一条命令、一个 Docker 镜像,并在多种 CPU 和 GPU 选项中选择一种硬件规格即可。

任何拥有正数信用额度的用户或组织均可使用 Jobs。包含在 PRO、Team 或 Enterprise 订阅中的每月计算信用额度会计入该余额,并可用于消耗 Jobs。

Jobs 的计费基于硬件使用情况,并按分钟计算:Jobs 在请求的硬件上运行的每一分钟都会产生费用。

在 Job 的生命周期中,仅在 Job 处于 Starting 或 Running 状态时才会计费。这意味着构建阶段不产生任何费用。

如果正在运行的 Job 开始失败,它将被自动暂停,并且计费将停止。

定价

作业按分钟计费,具体费用取决于所使用的硬件。例如,在 a10g-small 上运行 10 个计费分钟,硬件费用约为 0.17 美元。

为了控制支出,您可以设置超时、取消 Job或查看当前用量。

CPU

硬件CPU内存临时存储每小时价格
CPU 基础2 个 vCPU16 GB50 GB$0.01
CPU 升级8 个 vCPU32 GB50 GB$0.03
CPU XL16 个 vCPU124 GB1000 GB$1.00
CPU 性能32 个 vCPU256 GB1024 GB$1.90

GPU

硬件CPU内存GPU 内存临时存储每小时价格
Nvidia T4 - 小型4 个 vCPU15 GB16 GB50 GB$0.40
Nvidia T4 - 中等8 个 vCPU30 GB16 GB100 GB$0.60
1x Nvidia L48 个 vCPU30 GB24 GB400 GB$0.80
4x Nvidia L448 个 vCPU186 GB96 GB3200 GB$3.80
1x Nvidia L40S8 个 vCPU62 GB48 GB380 GB$1.80
4x Nvidia L40S48 个 vCPU382 GB192 GB3200 GB$8.30
8x Nvidia L40S192 vCPU1534 GB384 GB6500 GB$23.50
Nvidia A10G - 小型4 个 vCPU15 GB24 GB110 GB$1.00
Nvidia A10G - 大型12 个 vCPU46 GB24 GB200 GB$1.50
2x Nvidia A10G - 大型24 个 vCPU92 GB48 GB1000 GB$3.00
4x Nvidia A10G - 大型48 个 vCPU184 GB96 GB2000 GB$5.00
Nvidia A100 - 大型12 个 vCPU142 GB80 GB1000 GB$2.50
4x Nvidia A100 - 大型48 个 vCPU568 GB320 GB4000 GB$10.00
8x Nvidia A100 - 大型96 vCPU1136 GB640 GB8000 GB$20.00
Nvidia H20023 个 vCPU256 GB141 GB3000 GB$5.00
2x Nvidia H20046 个 vCPU512 GB282 GB6000 GB$10.00
4x Nvidia H20092 vCPU1024 GB564 GB12000 GB$20.00
8x Nvidia H200184 个 vCPU2048 GB1128 GB24000 GB$40.00
Nvidia RTX PRO 600023 个 vCPU256 GB96 GB475 GB$2.75
2x Nvidia RTX PRO 600046 个 vCPU512 GB192 GB950 GB$5.50
4x Nvidia RTX PRO 600092 vCPU1024 GB384 GB1900 GB$11.00
8x Nvidia RTX PRO 6000184 个 vCPU2048 GB768 GB3800 GB$22.00

您还可以通过 GET /api/jobs/hardware 处的 API 或 CLI 以编程方式获取可用的硬件和定价:

>>> hf jobs hardware

暴露的端口

Job 可以暴露一个或多个端口,以便在 Job 运行期间从外部访问这些端口。暴露一个或多个端口将按每个 Job 的固定费率计费,此外还需支付硬件费用:

产品每小时价格
暴露的端口$0.01

与硬件类似,仅在任务处于 Starting 或 Running 状态时按分钟计费。

管理账单

向您的组织开具账单

默认情况下,账单会记到用户的命名空间,但你可以通过指定正确的 namespace 将账单记到你的组织:

hf jobs run --namespace my-org-name ...

在这种情况下,该 Job 在组织账户下运行,您可以在组织的 Jobs 页面(组织页面 > 设置 > Jobs)中查看它。

在企业版及以上套餐中,组织管理员可以通过细粒度功能访问设置,限制谁可以运行和查看由组织付费的 Jobs——仅限组织管理员,或仅限所选资源组的成员。

将费用计入资源组

此功能包含在 Enterprise 套餐及以上版本中。

如果您的组织已设置 Resource Groups,您可以将作业成本归因到特定的资源组。操作方法如下:

  1. 您必须是资源组的成员。
  2. 将拥有该资源组的组织作为 namespace 传入,并将资源组的 ID 作为 resource_group_id 传入。两者均为必填项:资源组仅在其所属组织的 Jobs 计费时才会被纳入考虑。

您可以在组织的资源组设置页面中找到资源组的 ID。

hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...

在 Python 中:

>>> from huggingface_hub import run_job
>>> run_job(
...     image="python:3.12",
...     command=["python", "-c", "print('Hello!')"],
...     namespace="my-org-name",
...     resource_group_id="<resource-group-id>",
... )

Organization 和 Resource Group 管理员可以为按组计费的 Jobs 设置每月支出限额。

查看当前计算资源使用情况

您可以在 Billing 页面的“Compute Usage”部分查看 Jobs 的当前账单信息:

有关账单的更多信息,请参阅Hub 专用文档。

建议

设置超时限制

在创建 Job 时设置 timeout,以确保其运行时间不会超过特定时长。 达到 timeout 时长的 Job 运行会自动停止,计费也随之停止。 以下是使用 CLI 设置超时的方法:

hf jobs run --timeout 3h ...

请注意,默认超时时间设置为 30 分钟。 因此,如果您的 Job 需要更长的运行时间,您必须指定更长的超时时间。

取消无关的 Jobs

如果正在运行的 Job 不再相关,您可以提前取消它以停止计费,可以通过 Job 页面或 CLI 操作:

hf jobs cancel <job-id>
Update on GitHub