執行時 Python API 參考

Python executorch.runtime 模組封裝了 C++ ExecuTorch 執行時。它可以載入和執行序列化的 .pte 程式檔案：請參閱匯出到 ExecuTorch 教程，瞭解如何將 PyTorch nn.Module 轉換為 ExecuTorch .pte 程式檔案。執行接受並返回 torch.Tensor 值，這是一種快速驗證程式正確性的方法。

有關 API 如何演變以及棄用過程的詳細資訊，請參閱ExecuTorch API 生命週期和棄用策略。

示例用法

from pathlib import Path

import torch
from executorch.runtime import Verification, Runtime, Program, Method

et_runtime: Runtime = Runtime.get()
program: Program = et_runtime.load_program(
    Path("/tmp/program.pte"),
    verification=Verification.Minimal,
)
print("Program methods:", program.method_names)
forward: Method = program.load_method("forward")

inputs = (torch.ones(2, 2), torch.ones(2, 2))
outputs = forward.execute(inputs)
print(f"Ran forward({inputs})")
print(f"  outputs: {outputs}")

示例輸出

Program methods: ('forward', 'forward2')
Ran forward((tensor([[1., 1.],
        [1., 1.]]), tensor([[1., 1.],
        [1., 1.]])))
  outputs: [tensor([[1., 1.],
        [1., 1.]])]

class executorch.runtime.Runtime(*, legacy_module)

ExecuTorch 執行時環境的一個例項。

它可用於併發載入和執行任意數量的 ExecuTorch 程式和方法。

static get()

獲取 Runtime 單例。

load_program(data, *, verification=<Verification.InternalConsistency: 1>)

從 PTE 二進位制檔案載入 ExecuTorch 程式。

引數

• data – 要載入的二進位制程式資料；通常是 PTE 資料。

• verification – 要執行的程式驗證級別。

返回

已載入的程式。

class executorch.runtime.OperatorRegistry(legacy_module)

執行時可用的運算子登錄檔。

property operator_names

將所有已註冊運算子的名稱作為字串集合返回。

class executorch.runtime.Program(module, data)

ExecuTorch 程式，從二進位制 PTE 資料載入。

它可用於載入程式定義的方法/模型。

load_method(name)

從程式載入方法。

引數

name – 要載入的方法名稱。

返回

已載入的方法。

property method_names

將 Program 的方法名稱作為字串集合返回。

class executorch.runtime.Method(method_name, module)

ExecuTorch 方法，從 Program 載入。它可用於使用輸入執行方法。

execute(inputs)

使用給定輸入執行方法。

引數

inputs – 方法的輸入。

返回

方法的輸出。

property metadata

獲取方法的元資料。

返回

方法的元資料。