VIPTransform

class torchrl.envs.transforms.VIPTransform(*args, **kwargs)

VIP Transform 類。

VIP 提供了預訓練的 ResNet 權重，旨在方便機器人任務的視覺嵌入和獎勵計算。這些模型使用 Ego4d 進行訓練。請參閱論文

VIP: 透過價值隱式預訓練實現通用視覺獎勵和表示 (Jason Ma

Shagun Sodhani, Dinesh Jayaraman, Osbert Bastani, Vikash Kumar*, Amy Zhang*)

引數：

• model_name (str) – resnet50 之一

• in_keys (str 列表， 可選) – 輸入鍵列表。如果留空，則假定使用“pixels”鍵。

• out_keys (str 列表， 可選) – 輸出鍵列表。如果留空，則假定使用“vip_vec”。

• size (int， 可選) – 輸入 resnet 的影像尺寸。預設為 244。

• stack_images (bool， 可選) – 如果為 False，in_keys 引數中給定的影像將單獨處理，並且每個影像在輸出 tensordict 中會有一個獨立的條目。預設為 True。

• download (bool、torchvision Weights 配置或相應的字串) – 如果為 True，將使用 torch.hub 下載 API 下載權重（即權重將快取以供將來使用）。這些權重是來自 VIP 論文的原始權重。如果需要 torchvision 權重，有兩種獲取方式：download=ResNet50_Weights.IMAGENET1K_V1 或 download="IMAGENET1K_V1"，其中 ResNet50_Weights 可以透過 from torchvision.models import resnet50, ResNet50_Weights 匯入。預設為 False。

• download_path (str， 可選) – 模型下載路徑。預設為 None（由 torch.hub 工具確定的快取路徑）。

• tensor_pixels_keys (str 列表， 可選) – 可選地，可以將原始影像（從環境中收集的）保留在輸出 tensordict 中。如果未提供值，則不會收集此項。

to(dest: Union[device, str, int,dtype])

移動和/或轉換引數和緩衝區。

可以按如下方式呼叫

to(device=None, dtype=None, non_blocking=False)

to(dtype, non_blocking=False)

to(tensor, non_blocking=False)

to(memory_format=torch.channels_last)

其簽名類似於 torch.Tensor.to()，但只接受浮點或複數 dtype。此外，此方法僅將浮點或複數引數和緩衝區轉換為 dtype（如果給定）。整數引數和緩衝區將被移動到 device（如果給定），但 dtype 不會改變。當設定了 non_blocking 時，如果可能，它會嘗試相對於主機進行非同步轉換/移動，例如將帶有固定記憶體的 CPU Tensor 移動到 CUDA 裝置。

請參閱下面的示例。

注意

此方法會原地修改模組。

引數：

• device (torch.device) – 此模組中引數和緩衝區的目標裝置

• dtype (torch.dtype) – 此模組中引數和緩衝區的目標浮點或複數 dtype

• tensor (torch.Tensor) – Tensor，其 dtype 和 device 是此模組中所有引數和緩衝區的目標 dtype 和 device

• memory_format (torch.memory_format) – 此模組中 4D 引數和緩衝區的目標記憶體格式（僅關鍵字引數）

返回值：

self

返回型別：

Module

示例

>>> # xdoctest: +IGNORE_WANT("non-deterministic")
>>> linear = nn.Linear(2, 2)
>>> linear.weight
Parameter containing:
tensor([[ 0.1913, -0.3420],
        [-0.5113, -0.2325]])
>>> linear.to(torch.double)
Linear(in_features=2, out_features=2, bias=True)
>>> linear.weight
Parameter containing:
tensor([[ 0.1913, -0.3420],
        [-0.5113, -0.2325]], dtype=torch.float64)
>>> # xdoctest: +REQUIRES(env:TORCH_DOCTEST_CUDA1)
>>> gpu1 = torch.device("cuda:1")
>>> linear.to(gpu1, dtype=torch.half, non_blocking=True)
Linear(in_features=2, out_features=2, bias=True)
>>> linear.weight
Parameter containing:
tensor([[ 0.1914, -0.3420],
        [-0.5112, -0.2324]], dtype=torch.float16, device='cuda:1')
>>> cpu = torch.device("cpu")
>>> linear.to(cpu)
Linear(in_features=2, out_features=2, bias=True)
>>> linear.weight
Parameter containing:
tensor([[ 0.1914, -0.3420],
        [-0.5112, -0.2324]], dtype=torch.float16)

>>> linear = nn.Linear(2, 2, bias=None).to(torch.cdouble)
>>> linear.weight
Parameter containing:
tensor([[ 0.3741+0.j,  0.2382+0.j],
        [ 0.5593+0.j, -0.4443+0.j]], dtype=torch.complex128)
>>> linear(torch.ones(3, 2, dtype=torch.cdouble))
tensor([[0.6122+0.j, 0.1150+0.j],
        [0.6122+0.j, 0.1150+0.j],
        [0.6122+0.j, 0.1150+0.j]], dtype=torch.complex128)