# 骨干

Backbone（骨干网络）是一种用于更高级计算机视觉任务（如目标检测和图像分类）的特征提取模型。Transformers 提供了一个 [AutoBackbone](/docs/transformers/v5.24.0/zh/main_classes/backbones#transformers.AutoBackbone) 类，用于从预训练模型权重初始化 Transformers 骨干网络，以及两个实用类：

* [BackboneMixin](/docs/transformers/v5.24.0/zh/main_classes/backbones#transformers.BackboneMixin) 支持从 Transformers 或 [timm](https://hf.co/docs/timm/index) 初始化 backbone，并包含用于返回输出特征和索引的函数。
* [BackboneConfigMixin](/docs/transformers/v5.24.0/zh/main_classes/backbones#transformers.BackboneConfigMixin) 用于设置骨干网络配置的输出特征和索引。

[timm](https://hf.co/docs/timm/index) 模型通过 [TimmBackbone](/docs/transformers/v5.24.0/zh/main_classes/backbones#transformers.TimmBackbone) 和 [TimmBackboneConfig](/docs/transformers/v5.24.0/zh/main_classes/backbones#transformers.TimmBackboneConfig) 类进行加载。

以下模型支持骨干网络：

* [BEiT](../model_doc/beit)
* [BiT](../model_doc/bit)
* [ConvNext](../model_doc/convnext)
* [ConvNextV2](../model_doc/convnextv2)
* [DiNAT](../model_doc/dinat)
* [DINOV2](../model_doc/dinov2)
* [FocalNet](../model_doc/focalnet)
* [MaskFormer](../model_doc/maskformer)
* [ResNet](../model_doc/resnet)
* [Swin Transformer](../model_doc/swin)
* [Swin Transformer v2](../model_doc/swinv2)
* [ViTDet](../model_doc/vitdet)

## AutoBackbone[[transformers.AutoBackbone]]

#### transformers.AutoBackbone[[transformers.AutoBackbone]]

```python
transformers.AutoBackbone(*args, **kwargs)
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/models/auto/modeling_auto.py#L2674)

## BackboneMixin[[transformers.BackboneMixin]]

#### transformers.BackboneMixin[[transformers.BackboneMixin]]

```python
transformers.BackboneMixin(*args, **kwargs)
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L189)

#### post_init[[transformers.BackboneMixin.post_init]]

```python
post_init()
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L215)

重写 `post_init` 以始终安装捕获钩子，因为 backbone 总是会捕获输出。我们需要在 `post_init` 中执行此操作，因为模块必须已经实例化。这样可以避免与 `torch.compile` 产生一些混淆，因为首次安装钩子时需要/创建一个图断点，这可能会与外部用户调用（例如 `model = torch.compile(model...)`）发生冲突。

## BackboneConfigMixin[[transformers.BackboneConfigMixin]]

#### transformers.BackboneConfigMixin[[transformers.BackboneConfigMixin]]

```python
transformers.BackboneConfigMixin()
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L37)

一个 Mixin，用于支持处理骨干网络配置中的 `out_features` 和 `out_indices` 属性。

#### set_output_features_output_indices[[transformers.BackboneConfigMixin.set_output_features_output_indices]]

```python
set_output_features_output_indices(out_features: list | None, out_indices: list | None)
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L42)

**参数：**

out_features (`list[str]`，*可选*) : 主干网络要输出的特征名称。如果未提供，则默认为 `config._out_features`。

out_indices (`list[int]` 或 `tuple[int]`，*可选*) : 骨干网络需要输出的特征索引。如果未提供，则默认为 `config._out_indices`。

将输出索引和特征设置为新值，并与给定的 `stage_names` 对齐。如果未提供其中一个输入，则根据给定的 `stage_names` 查找对应的 `out_features` 或 `out_indices`。

#### to_dict[[transformers.BackboneConfigMixin.to_dict]]

```python
to_dict()
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L151)

将此实例序列化为 Python 字典。重写 `PreTrainedConfig` 中默认的 `to_dict()`，以包含 `out_features` 和 `out_indices` 属性。

#### verify_out_features_out_indices[[transformers.BackboneConfigMixin.verify_out_features_out_indices]]

```python
verify_out_features_out_indices()
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/backbone_utils.py#L78)

验证 out_indices 和 out_features 对于给定的 stage_names 是否有效。

## TimmBackbone[[transformers.TimmBackbone]]

#### transformers.TimmBackbone[[transformers.TimmBackbone]]

```python
transformers.TimmBackbone(config: TimmBackboneConfig, **kwargs)
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/models/timm_backbone/modeling_timm_backbone.py#L35)

用于作为骨干网络的 timm 模型的包装类。这使得 timm 模型可以与库中的其他模型互换使用，同时保持相同的 API。

## TimmBackboneConfig[[transformers.TimmBackboneConfig]]

#### transformers.TimmBackboneConfig[[transformers.TimmBackboneConfig]]

```python
transformers.TimmBackboneConfig(transformers_version: str | None = None, architectures: list[str] | None = None, output_hidden_states: bool | None = False, return_dict: bool | None = True, dtype: str | torch.dtype | None = None, chunk_size_feed_forward: int = 0, is_encoder_decoder: bool = False, id2label: dict[int, str] | dict[str, str] | None = None, label2id: dict[str, int] | dict[str, str] | None = None, problem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = None, backbone: str | None = None, num_channels: int = 3, features_only: bool = True, _out_indices: list[int] | None = None, freeze_batch_norm_2d: bool = False, output_stride: int | None = None)
```

[来源](https://github.com/huggingface/transformers/blob/v5.24.0/src/transformers/models/timm_backbone/configuration_timm_backbone.py#L26)

**参数：**

backbone (`str`，*可选*)：要加载的 timm 检查点。

num_channels (`int`，*可选*，默认为 `3`)：输入通道数。

features_only (`bool`，*可选*，默认为 `True`)：是否仅输出特征，还是同时输出 logits。

freeze_batch_norm_2d (`bool`，*可选*，默认为 `False`)：将所提供模块中的所有 `BatchNorm2d` 和 `SyncBatchNorm` 层转换为 `FrozenBatchNorm2d`。

output_stride (`int`, *可选*) : 输入与输出特征图的空间分辨率之比。

这是用于存储 TimmBackbone 配置的类。它根据指定的参数实例化 Timm Backbone 模型，并定义模型架构。使用默认值实例化配置将得到与 [](https://huggingface.co/) 类似的配置。

配置对象继承自 [PreTrainedConfig](/docs/transformers/v5.24.0/zh/main_classes/configuration#transformers.PreTrainedConfig)，可用于控制模型输出。有关更多信息，请参阅 [PreTrainedConfig](/docs/transformers/v5.24.0/zh/main_classes/configuration#transformers.PreTrainedConfig) 的文档。

示例：
```python
>>> from transformers import TimmBackboneConfig, TimmBackbone

>>> # Initializing a timm backbone
>>> configuration = TimmBackboneConfig("resnet50")

>>> # Initializing a model from the configuration
>>> model = TimmBackbone(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config
```

