快捷方式

vit_b_16

torchvision.models.vit_b_16(*, weights: Optional[ViT_B_16_Weights] = None, progress: bool = True, **kwargs: Any) VisionTransformer[source]

根據《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》構建 vit_b_16 架構。

引數:
  • weights (ViT_B_16_Weights, 可選) – 要使用的預訓練權重。有關詳細資訊和可能的值,請參見下方的ViT_B_16_Weights。預設情況下,不使用預訓練權重。

  • progress (bool, 可選) – 如果為 True,則在 stderr 中顯示下載進度條。預設值為 True。

  • **kwargs – 傳遞給torchvision.models.vision_transformer.VisionTransformer基類的引數。有關此類的更多詳細資訊,請參閱原始碼

class torchvision.models.ViT_B_16_Weights(value)[source]

上面的模型構建器接受以下值作為weights引數。ViT_B_16_Weights.DEFAULT等同於ViT_B_16_Weights.IMAGENET1K_V1。您也可以使用字串,例如weights='DEFAULT'weights='IMAGENET1K_V1'

ViT_B_16_Weights.IMAGENET1K_V1:

這些權重是使用DeIT訓練方案的修改版本從頭開始訓練的。也可用作ViT_B_16_Weights.DEFAULT

acc@1 (在 ImageNet-1K 上)

81.072

acc@5 (在 ImageNet-1K 上)

95.318

類別

丁鯛、金魚、大白鯊,…… (省略了 997 個)

引數數量

86567656

最小尺寸

高度=224,寬度=224

方案

連結

GFLOPS

17.56

檔案大小

330.3 MB

推理變換可透過ViT_B_16_Weights.IMAGENET1K_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BILINEAR被重塑為resize_size=[256],然後進行中心裁剪,大小為crop_size=[224]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]std=[0.229, 0.224, 0.225]進行歸一化。

ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1:

這些權重是透過遷移學習獲得的,方法是對原始SWAG權重在 ImageNet-1K 資料上進行端到端微調。

acc@1 (在 ImageNet-1K 上)

85.304

acc@5 (在 ImageNet-1K 上)

97.65

類別

丁鯛、金魚、大白鯊,…… (省略了 997 個)

方案

連結

許可證

連結

引數數量

86859496

最小尺寸

高度=384,寬度=384

GFLOPS

55.48

檔案大小

331.4 MB

推理變換可透過ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BICUBIC被重塑為resize_size=[384],然後進行中心裁剪,大小為crop_size=[384]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]std=[0.229, 0.224, 0.225]進行歸一化。

ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:

這些權重由原始凍結的SWAG主幹權重以及在其之上訓練的線性分類器組成,訓練資料為 ImageNet-1K。

acc@1 (在 ImageNet-1K 上)

81.886

acc@5 (在 ImageNet-1K 上)

96.18

類別

丁鯛、金魚、大白鯊,…… (省略了 997 個)

方案

連結

許可證

連結

引數數量

86567656

最小尺寸

高度=224,寬度=224

GFLOPS

17.56

檔案大小

330.3 MB

推理變換可透過ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BICUBIC被重塑為resize_size=[224],然後進行中心裁剪,大小為crop_size=[224]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]std=[0.229, 0.224, 0.225]進行歸一化。


© 版權所有 2017-present, Torch Contributors.

使用 Sphinx 構建,主題由 Read the Docs 提供。

文件

訪問 PyTorch 的全面開發者文件

檢視文件

教程

獲取面向初學者和高階開發者的深度教程

檢視教程

資源

查詢開發資源並獲得問題解答

檢視資源