# Points de terminaison d'inférence

Inference Endpoints offre une solution de production sécurisée pour déployer facilement des modèles sur une infrastructure dédiée et à mise à l'échelle automatique, gérée par Hugging Face. Un Inference Endpoint est construit à partir d'un modèle du [Hub](https://huggingface.co/models). Cette page est une référence pour l'intégration de `huggingface_hub` avec Inference Endpoints. Pour plus d'informations sur le produit Inference Endpoints, consultez sa [documentation officielle](https://huggingface.co/docs/inference-endpoints/index).

> [!TIP]
> Consultez le [guide associé](../guides/inference_endpoints) pour apprendre à utiliser `huggingface_hub` afin de gérer vos Inference Endpoints de manière programmatique.

Les Inference Endpoints peuvent être entièrement gérés via l'API. Les endpoints sont documentés avec [Swagger](https://api.endpoints.huggingface.cloud/). La classe [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint) est un simple wrapper construit sur la base de cette API.

## Méthodes

Un sous-ensemble des fonctionnalités de l’Inference Endpoint est implémenté dans [HfApi](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi) :

- [get_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.get_inference_endpoint) et [list_inference_endpoints()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.list_inference_endpoints) pour obtenir des informations sur vos Inference Endpoints
- [list_inference_endpoints_hardware()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.list_inference_endpoints_hardware) pour lister le matériel sur lequel vous pouvez déployer un Inference Endpoint
- [create_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint), [update_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.update_inference_endpoint) et [delete_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.delete_inference_endpoint) pour déployer et gérer les Inference Endpoints
- [list_inference_catalog()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.list_inference_catalog) et [create_inference_endpoint_from_catalog()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint_from_catalog) pour parcourir et déployer le Model Catalog curaté
- [pause_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.pause_inference_endpoint) et [resume_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.resume_inference_endpoint) pour mettre en pause et reprendre un Inference Endpoint
- [scale_to_zero_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.scale_to_zero_inference_endpoint) pour mettre manuellement un Endpoint à 0 répliques

## InferenceEndpoint[[huggingface_hub.InferenceEndpoint]]

La principale dataclass est [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint). Elle contient des informations sur un `InferenceEndpoint` déployé, y compris sa configuration et son état actuel. Une fois déployé, vous pouvez exécuter de l'inférence sur l'Endpoint à l'aide des propriétés [InferenceEndpoint.client](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.client) et [InferenceEndpoint.async_client](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.async_client), qui renvoient respectivement un objet [InferenceClient](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_client#huggingface_hub.InferenceClient) et un objet [AsyncInferenceClient](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_client#huggingface_hub.AsyncInferenceClient).

#### huggingface_hub.InferenceEndpoint[[huggingface_hub.InferenceEndpoint]]

```python
huggingface_hub.InferenceEndpoint(namespace: str, raw: dict, _token: str | bool | None, _api: HfApi)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L116)

**Paramètres :**

name (`str`) : Le nom unique du point de terminaison d'inférence.

namespace (`str`) : L'espace de noms où se trouve le point de terminaison d'inférence.

repository (`str`) : Le nom du dépôt de modèle déployé sur ce point de terminaison d'inférence.

status ([InferenceEndpointStatus](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointStatus)) : L'état actuel du point de terminaison d'inférence.

url (`str`, *facultatif*) : L'URL du point de terminaison d'inférence, si disponible. Seul un point de terminaison d'inférence déployé possède une URL.

framework (`str`) : Le framework d'apprentissage automatique utilisé pour le modèle.

revision (`str`) : La révision spécifique du modèle déployée sur le point d'accès d'inférence.

task (`str`) : La tâche associée au modèle déployé.

created_at (`datetime.datetime`) : Horodatage de la création du point de terminaison d'inférence.

updated_at (`datetime.datetime`) : Horodatage de la dernière mise à jour du point de terminaison d'inférence.

type ([InferenceEndpointType](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointType)) : Le type de l'Inference Endpoint (public, authentifié, privé).

raw (`dict`) : Les données brutes du dictionnaire renvoyées par l'API.

token (`str` ou `bool`, *facultatif*) : Jeton d’authentification pour le point de terminaison d’inférence, s’il est défini lors de la requête à l’API. Par défaut, le jeton enregistré localement est utilisé s’aucun n’est fourni. Passez `token=False` si vous ne souhaitez pas envoyer votre jeton au serveur.

Contient des informations sur un point de terminaison d’inférence déployé.

Exemple :
```python
>>> from huggingface_hub import get_inference_endpoint
>>> endpoint = get_inference_endpoint("my-text-to-image")
>>> endpoint
InferenceEndpoint(name='my-text-to-image', ...)

# Get status
>>> endpoint.status
'running'
>>> endpoint.url
'https://68a0f3b5c6ee5c9dcc0e0a01.endpoints.huggingface.cloud'

# Run inference
>>> endpoint.client.text_to_image(...)

# Pause endpoint to save $$$
>>> endpoint.pause()

# ...
# Resume and wait for deployment
>>> endpoint.resume()
>>> endpoint.wait()
>>> endpoint.client.text_to_image(...)
```

#### from_raw[[huggingface_hub.InferenceEndpoint.from_raw]]

```python
from_raw(raw: dict, namespace: str, token: str | bool | None = None, api: typing.Optional[ForwardRef('HfApi')] = None)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L199)

Initialiser l'objet à partir d'un dictionnaire brut.

#### client[[huggingface_hub.InferenceEndpoint.client]]

```python
client()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L220)

**Retourne :** [InferenceClient](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_client#huggingface_hub.InferenceClient)

un client d'inférence pointant vers le point de terminaison déployé.

**Levée :** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError)

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si l'Inference Endpoint n'est pas encore déployé.

Retourne un client pour effectuer des prédictions sur ce point d'inférence.

#### async_client[[huggingface_hub.InferenceEndpoint.async_client]]

```python
async_client()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L242)

**Retourne :** [AsyncInferenceClient](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_client#huggingface_hub.AsyncInferenceClient)

un client d'inférence compatible asyncio pointant vers le point de terminaison déployé.

**Levée :** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError)

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si l'Inference Endpoint n'est pas encore déployé.

Retourne un client pour effectuer des prédictions sur ce point d'inférence.

#### supprimer[[huggingface_hub.InferenceEndpoint.delete]]

```python
delete()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L487)

Supprimez le point de terminaison d'inférence.

Cette opération n'est pas réversible. Si vous ne souhaitez pas être facturé pour un Inference Endpoint, il est préférable de le mettre en pause avec [InferenceEndpoint.pause()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.pause) ou de le réduire à zéro avec [InferenceEndpoint.scale_to_zero()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.scale_to_zero).

Ceci est un alias de [HfApi.delete_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.delete_inference_endpoint).

#### fetch[[huggingface_hub.InferenceEndpoint.fetch]]

```python
fetch()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L317)

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

Récupérer les dernières informations sur le point d'accès d'inférence.

#### pause[[huggingface_hub.InferenceEndpoint.pause]]

```python
pause()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L430)

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

Mettez l'Endpoint d'inférence en pause.

Un Inference Endpoint en pause n’est pas facturé. Il peut être repris à tout moment à l’aide de [InferenceEndpoint.resume()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.resume). Cela diffère du redimensionnement de l’Inference Endpoint à zéro via [InferenceEndpoint.scale_to_zero()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.scale_to_zero), qui est automatiquement redémarré lorsqu’une requête lui est adressée.

Ceci est un alias de [HfApi.pause_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.pause_inference_endpoint). L'objet actuel est modifié en place avec les dernières données du serveur.

#### résumer[[huggingface_hub.InferenceEndpoint.resume]]

```python
resume(running_ok: bool = True)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L448)

**Paramètres :**

running_ok (`bool`, *facultatif*) : Si `True`, la méthode ne lèvera pas d'erreur si le point de terminaison d'inférence est déjà en cours d'exécution. La valeur par défaut est `True`.

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

Reprendre le point de terminaison d’inférence.

Ceci est un alias de [HfApi.resume_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.resume_inference_endpoint). L'objet actuel est modifié en place avec les dernières données du serveur.

#### scale_to_zero[[huggingface_hub.InferenceEndpoint.scale_to_zero]]

```python
scale_to_zero()
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L469)

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

Mettre à l’échelle le point de terminaison d’inférence à zéro.

Un Inference Endpoint mis à l’échelle zéro ne sera pas facturé. Il sera repris à la prochaine requête qui lui est adressée, avec un délai de démarrage à froid. Cela diffère de la mise en pause de l’Inference Endpoint via [InferenceEndpoint.pause()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.pause), qui nécessiterait une reprise manuelle via [InferenceEndpoint.resume()](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.resume).

Ceci est un alias de [HfApi.scale_to_zero_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.scale_to_zero_inference_endpoint). L'objet actuel est modifié en place avec les dernières données du serveur.

#### mettre à jour[[huggingface_hub.InferenceEndpoint.update]]

```python
update(accelerator: str | None = None, instance_size: str | None = None, instance_type: str | None = None, min_replica: int | None = None, max_replica: int | None = None, scale_to_zero_timeout: int | None = None, repository: str | None = None, framework: str | None = None, revision: str | None = None, task: str | None = None, custom_image: dict | None = None, container_command: list[str] | None = None, container_args: list[str] | None = None, tensor_parallel_size: int | None = None, data_parallel_size: int | None = None, secrets: dict[str, str] | None = None)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L328)

**Paramètres :**

accelerator (`str`, *facultatif*) : L'accélérateur matériel à utiliser pour l'inférence (par exemple `"cpu"`).

instance_size (`str`, *facultatif*) : La taille ou le type de l'instance à utiliser pour l'hébergement du modèle (par exemple `"x4"`).

instance_type (`str`, *facultatif*) : Le type d'instance cloud sur lequel le point de terminaison d'inférence sera déployé (par exemple `"intel-icl"`).

min_replica (`int`, *facultatif*) : Le nombre minimal de répliques (instances) à maintenir en cours d'exécution pour le point de terminaison d'inférence.

max_replica (`int`, *facultatif*) : Le nombre maximal de répliques (instances) vers lequel mettre à l'échelle le point de terminaison d'inférence.

scale_to_zero_timeout (`int`, *facultatif*) : La durée, en minutes, avant qu'un point de terminaison inactif ne soit mis à l'échelle zéro.

repository (`str`, *facultatif*) : Le nom du dépôt de modèle associé au point de terminaison d'inférence (par exemple `"gpt2"`).

framework (`str`, *facultatif*) : Le framework d'apprentissage automatique utilisé pour le modèle (par exemple `"custom"`).

revision (`str`, *facultatif*) : La révision spécifique du modèle à déployer sur le point d'inférence (par exemple `"6c0e6080953db56375760c0471a8c5f2929baf11"`).

task (`str`, *facultatif*) : La tâche sur laquelle déployer le modèle (par exemple `"text-classification"`).

custom_image (`dict`, *facultatif*) : L’image conteneur à exécuter. Soit un dictionnaire indexé par variante d’image (par ex. `{"vLLM": {"url": "vllm/vllm-openai:v0.23.0", "port": 8000}}`, également `sGLang`, `tgi`, `tei`, `llamacpp`, `hfServe`, ...), qui est transmis tel quel, soit un dictionnaire plat décrivant un conteneur personnalisé (par ex. `{"url": ..., "port": ...}`), qui est envoyé sous la forme `{"custom": ...}`.

container_command (`list[str]`, *facultatif*) : Remplace la commande d’entrée du conteneur (correspond à `model.command` dans la charge utile de l’API). Fonctionne avec les images de moteur gérées (par exemple vLLM, SGLang) et les images personnalisées.

container_args (`list[str]`, *facultatif*) : Arguments ajoutés à l'entrypoint du conteneur (correspond à `model.args` dans la charge utile de l'API). Fonctionne avec les images de moteur gérées (par exemple vLLM, SGLang) et les images personnalisées.

tensor_parallel_size (`int`, *facultatif*) : Nombre d'accélérateurs sur lesquels répartir une copie unique du modèle (images vLLM et SGLang). Lorsque `custom_image` n'est pas fourni, l'image actuellement configurée sur le point de terminaison est récupérée et mise à jour sur place, car l'API exige `model.image` dans son ensemble.

data_parallel_size (`int`, *facultatif*) : Nombre de copies du modèle à exécuter, une par accélérateur (images vLLM).

secrets (`dict[str, str]`, *facultatif*) : Valeurs secrètes à injecter dans l'environnement du conteneur.

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

Mettre à jour le point de terminaison d’inférence.

Cette méthode permet de mettre à jour la configuration de calcul, le modèle déployé, ou les deux. Tous les arguments sont facultatifs, mais au moins un doit être fourni.

Ceci est un alias de [HfApi.update_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.update_inference_endpoint). L'objet actuel est modifié en place avec les dernières données du serveur.

#### attendre[[huggingface_hub.InferenceEndpoint.wait]]

```python
wait(timeout: int | None = None, refresh_every: int = 5)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L264)

**Paramètres :**

timeout (`int`, *facultatif*) : Le temps maximal d'attente pour le déploiement du point de terminaison d'inférence, en secondes. Si `None`, l'attente est indéfinie.

refresh_every (`int`, *facultatif*) : Le temps d'attente entre chaque récupération de l'état du point de terminaison d'inférence, en secondes. Valeur par défaut : 5 s.

**Retourne :** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

le même Inference Endpoint, modifié sur place avec les données les plus récentes.

**Exceptions levées :** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) ou `InferenceEndpointTimeoutError`

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si l'Inference Endpoint est passé dans un état d'échec.
- `InferenceEndpointTimeoutError` -- Si l'Inference Endpoint n'est pas déployé après `timeout` secondes.

Attendez que le point de terminaison d'inférence soit déployé.

Les informations du serveur seront récupérées toutes les 1 s. Si le point de terminaison d'inférence n'est pas déployé après `timeout` secondes, une `InferenceEndpointTimeoutError` sera levée. Le [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/fr/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint) sera modifié sur place avec les données les plus récentes.

## InferenceEndpointHardware[[huggingface_hub.InferenceEndpointHardware]]

#### huggingface_hub.InferenceEndpointHardware[[huggingface_hub.InferenceEndpointHardware]]

```python
huggingface_hub.InferenceEndpointHardware(id: str, vendor: str, region: str, accelerator: str, instance_type: str, instance_size: str, architecture: str, num_accelerators: int, num_cpus: int | None, memory_gb: float, gpu_memory_gb: int | None, price_per_hour: float, status: str, max_accelerators: int, used_accelerators: int)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L519)

**Paramètres :**

id (`str`) : Identifiant matériel unique, par exemple `"aws-us-east-1-nvidia-l4-x1"`.

vendor (`str`) : Le fournisseur cloud qui héberge le matériel, par exemple `"aws"`.

region (`str`) : La région cloud dans laquelle le matériel est disponible, par exemple `"us-east-1"`.

accelerator (`str`) : Le type d'accélérateur matériel, par exemple `"cpu"`, `"gpu"` ou `"neuron"`.

instance_type (`str`) : Le type d'instance cloud, par exemple `"nvidia-l4"`.

instance_size (`str`) : Le multiplicateur de taille de l'instance, par exemple `"x1"`.

architecture (`str`) : Description du matériel lisible par l'homme, par exemple `"Nvidia L4"`.

num_accelerators (`int`) : Nombre d'unités d'accélérateur par réplique.

num_cpus (`int`, *facultatif*) : Nombre de vCPU par réplique.

memory_gb (`float`) : RAM par réplique, en Go.

gpu_memory_gb (`int`, *facultatif*) : Mémoire GPU totale par réplique, en Go (c'est-à-dire la somme sur `num_accelerators`). `None` pour le matériel non-GPU.

price_per_hour (`float`) : Coût par réplique et par heure, en USD.

status (`str`) : Disponibilité du matériel : `"available"`, `"low_availability"`, `"not_available"`, `"reserved"` ou `"deprecated"`.

max_accelerators (`int`) : Nombre maximal d'accélérateurs de ce type que l'espace de noms est autorisé à exécuter.

used_accelerators (`int`) : Nombre d'accélérateurs de ce type actuellement utilisés par l'espace de noms.

Contient des informations sur une configuration matérielle disponible pour les Inference Endpoints.

Les champs `vendor`, `region`, `accelerator`, `instance_type` et `instance_size` correspondent exactement aux valeurs à passer à [create_inference_endpoint()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint) (ou `hf endpoints deploy`) pour déployer sur ce matériel.

Exemple :
```python
>>> from huggingface_hub import list_inference_endpoints_hardware
>>> hardware = list_inference_endpoints_hardware()
>>> hardware[0]
InferenceEndpointHardware(id='aws-us-east-1-nvidia-l4-x1', vendor='aws', region='us-east-1', ...)
```

#### from_raw[[huggingface_hub.InferenceEndpointHardware.from_raw]]

```python
from_raw(raw: dict, vendor: str, region: str)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L584)

Initialise l'objet à partir d'un dictionnaire de calcul brut, imbriqué sous un fournisseur et une région dans la réponse de l'API.

## InferenceCatalogModel[[huggingface_hub.InferenceCatalogModel]]

#### huggingface_hub.InferenceCatalogModel[[huggingface_hub.InferenceCatalogModel]]

```python
huggingface_hub.InferenceCatalogModel(repo_id: str, name: str, author: str, license: str, task: str, created_at: datetime, recipes: list)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L647)

**Paramètres :**

repo_id (`str`) : L'identifiant du dépôt de modèle sur le Hub, par exemple `"meta-llama/Llama-3.1-8B-Instruct"`.

name (`str`) : Le nom du modèle, c'est-à-dire la partie de `repo_id` située après l'auteur, par exemple `"Llama-3.1-8B-Instruct"`.

author (`str`) : L'auteur du dépôt de modèle, par exemple `"meta-llama"`.

license (`str`) : La licence du modèle, par exemple `"Apache 2.0"`.

task (`str`) : La tâche sur laquelle le modèle est déployé, par exemple `"text-generation"`.

created_at (`datetime`) : La date à laquelle le modèle a été ajouté au catalogue.

recipes (`list[InferenceCatalogRecipe]`) : Les méthodes de déploiement de ce modèle qui ont été testées.

Contient des informations sur un modèle disponible dans le catalogue d’inférence.

Exemple :
```python
>>> from huggingface_hub import list_inference_catalog
>>> catalog = list_inference_catalog(engine="vllm")
>>> catalog[0]
InferenceCatalogModel(repo_id='Qwen/Qwen2.5-Coder-7B-Instruct', name='Qwen2.5-Coder-7B-Instruct', ...)
```

#### from_raw[[huggingface_hub.InferenceCatalogModel.from_raw]]

```python
from_raw(raw: dict)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L684)

Initialiser un objet à partir d'un dictionnaire d'élément de catalogue brut.

## InferenceCatalogRecipe[[huggingface_hub.InferenceCatalogRecipe]]

#### huggingface_hub.InferenceCatalogRecipe[[huggingface_hub.InferenceCatalogRecipe]]

```python
huggingface_hub.InferenceCatalogRecipe(id: str, accelerator: str, engine: str, gguf_file: str | None, revision: str | None)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L608)

**Paramètres :**

id (`str`) : L'identifiant public de la recette, à passer à [create_inference_endpoint_from_catalog()](/docs/huggingface_hub/v2.4.0/fr/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint_from_catalog) en tant que `recipe_id`.

accelerator (`str`) : Le type d'accélérateur matériel sur lequel la recette s'exécute, par exemple `"cpu"`, `"gpu"` ou `"neuron"`.

engine (`str`) : Le moteur d'inférence utilisé par la recette, par exemple `"vllm"`, `"llamacpp"`, `"tei"` ou `"sglang"`.

gguf_file (`str`, *facultatif*) : Le fichier GGUF déployé par la recette. Défini uniquement pour les recettes `"llamacpp"`.

revision (`str`, *facultatif*) : La révision du modèle à laquelle la recette est liée, le cas échéant.

Contient des informations sur une méthode de déploiement d'un modèle du catalogue d'inférence, testée à l'avance.

Une recette est une combinaison de matériel et de moteur que l'équipe Inference Endpoints a testée pour un modèle donné. Un modèle possède généralement une seule recette, mais il peut en avoir plusieurs (par exemple, une pour GPU et une pour Neuron, ou une par quantification GGUF).

#### from_raw[[huggingface_hub.InferenceCatalogRecipe.from_raw]]

```python
from_raw(raw: dict)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L634)

Initialiser un objet à partir d'un dictionnaire de recette brut, imbriqué sous un modèle dans la réponse de l'API.

## InferenceEndpointStatus[[huggingface_hub.InferenceEndpointStatus]]

#### huggingface_hub.InferenceEndpointStatus[[huggingface_hub.InferenceEndpointStatus]]

```python
huggingface_hub.InferenceEndpointStatus(value, names = None, module = None, qualname = None, type = None, start = 1)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L93)

Une énumération.

## InferenceEndpointType[[huggingface_hub.InferenceEndpointType]]

#### huggingface_hub.InferenceEndpointType[[huggingface_hub.InferenceEndpointType]]

```python
huggingface_hub.InferenceEndpointType(value, names = None, module = None, qualname = None, type = None, start = 1)
```

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L104)

Une énumération.

## InferenceEndpointError[[huggingface_hub.InferenceEndpointError]]

#### huggingface_hub.InferenceEndpointError[[huggingface_hub.InferenceEndpointError]]

[Source](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/errors.py#L162)

Exception générique lors de la gestion des Inference Endpoints.