vit_b_16¶
- torchvision.models.vit_b_16(*, weights: Optional[ViT_B_16_Weights] = None, progress: bool = True, **kwargs: Any) VisionTransformer[source]¶
根據《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》構建 vit_b_16 架構。
- 引數:
weights (
ViT_B_16_Weights, 可選) – 要使用的預訓練權重。有關詳細資訊和可能的值,請參見下方的ViT_B_16_Weights。預設情況下,不使用預訓練權重。progress (bool, 可選) – 如果為 True,則在 stderr 中顯示下載進度條。預設值為 True。
**kwargs – 傳遞給
torchvision.models.vision_transformer.VisionTransformer基類的引數。有關此類的更多詳細資訊,請參閱原始碼。
- class torchvision.models.ViT_B_16_Weights(value)[source]¶
上面的模型構建器接受以下值作為
weights引數。ViT_B_16_Weights.DEFAULT等同於ViT_B_16_Weights.IMAGENET1K_V1。您也可以使用字串,例如weights='DEFAULT'或weights='IMAGENET1K_V1'。ViT_B_16_Weights.IMAGENET1K_V1:
這些權重是使用DeIT訓練方案的修改版本從頭開始訓練的。也可用作
ViT_B_16_Weights.DEFAULT。acc@1 (在 ImageNet-1K 上)
81.072
acc@5 (在 ImageNet-1K 上)
95.318
類別
丁鯛、金魚、大白鯊,…… (省略了 997 個)
引數數量
86567656
最小尺寸
高度=224,寬度=224
方案
GFLOPS
17.56
檔案大小
330.3 MB
推理變換可透過
ViT_B_16_Weights.IMAGENET1K_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BILINEAR被重塑為resize_size=[256],然後進行中心裁剪,大小為crop_size=[224]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]進行歸一化。ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1:
這些權重是透過遷移學習獲得的,方法是對原始SWAG權重在 ImageNet-1K 資料上進行端到端微調。
acc@1 (在 ImageNet-1K 上)
85.304
acc@5 (在 ImageNet-1K 上)
97.65
類別
丁鯛、金魚、大白鯊,…… (省略了 997 個)
方案
許可證
引數數量
86859496
最小尺寸
高度=384,寬度=384
GFLOPS
55.48
檔案大小
331.4 MB
推理變換可透過
ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BICUBIC被重塑為resize_size=[384],然後進行中心裁剪,大小為crop_size=[384]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]進行歸一化。ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:
這些權重由原始凍結的SWAG主幹權重以及在其之上訓練的線性分類器組成,訓練資料為 ImageNet-1K。
acc@1 (在 ImageNet-1K 上)
81.886
acc@5 (在 ImageNet-1K 上)
96.18
類別
丁鯛、金魚、大白鯊,…… (省略了 997 個)
方案
許可證
引數數量
86567656
最小尺寸
高度=224,寬度=224
GFLOPS
17.56
檔案大小
330.3 MB
推理變換可透過
ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms獲取,並執行以下預處理操作:接受PIL.Image、批處理(B, C, H, W)和單個(C, H, W)影像torch.Tensor物件。影像使用interpolation=InterpolationMode.BICUBIC被重塑為resize_size=[224],然後進行中心裁剪,大小為crop_size=[224]。最後,值首先被重新縮放到[0.0, 1.0],然後使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]進行歸一化。