Torch-TensorRT C++ API

類層次結構

• • 名稱空間 torch_tensorrt
    • 名稱空間 torch_tensorrt::logging
      • 列舉 Level
    • 名稱空間 torch_tensorrt::ptq
      • 模板類 Int8CacheCalibrator
      • 模板類 Int8Calibrator
    • 名稱空間 torch_tensorrt::torchscript
      • 結構體 CompileSpec
    • 結構體 Device
      • 類 Device::DeviceType
    • 結構體 GraphInputs
    • 結構體 Input
    • 類 DataType
    • 類 TensorFormat
    • 列舉 EngineCapability

檔案層次結構

• • 目錄 cpp
    • 目錄 include
      • 目錄 torch_tensorrt
        • 檔案 logging.h
        • 檔案 macros.h
        • 檔案 ptq.h
        • 檔案 torch_tensorrt.h

完整 API

名稱空間

• 名稱空間 torch_tensorrt
  • 名稱空間
  • 類
  • 列舉
  • 函式

• 名稱空間 torch_tensorrt::logging
  • 列舉
  • 函式

• 名稱空間 torch_tensorrt::ptq
  • 類
  • 函式

• 名稱空間 torch_tensorrt::torchscript
  • 類
  • 函式

類和結構體

• 結構體 Device
  • 巢狀關係
    • 巢狀型別
  • 結構體文件

• 結構體 GraphInputs
  • 結構體文件

• 結構體 Input
  • 繼承關係
    • 基型別
  • 結構體文件

• 結構體 CompileSpec
  • 結構體文件

• 類 DataType
  • 類文件

• 類 Device::DeviceType
  • 巢狀關係
  • 類文件

• 模板類 Int8CacheCalibrator
  • 繼承關係
    • 基型別
  • 類文件

• 模板類 Int8Calibrator
  • 繼承關係
    • 基型別
  • 類文件

• 類 TensorFormat
  • 類文件

列舉

• 列舉 EngineCapability
  • 列舉文件

• 列舉 Level
  • 列舉文件

函式

• 函式 torch_tensorrt::dump_build_info
  • 函式文件

• 函式 torch_tensorrt::get_build_info
  • 函式文件

• 函式 torch_tensorrt::logging::get_is_colored_output_on
  • 函式文件

• 函式 torch_tensorrt::logging::get_logging_prefix
  • 函式文件

• 函式 torch_tensorrt::logging::get_reportable_log_level
  • 函式文件

• 函式 torch_tensorrt::logging::log
  • 函式文件

• 函式 torch_tensorrt::logging::set_is_colored_output_on
  • 函式文件

• 函式 torch_tensorrt::logging::set_logging_prefix
  • 函式文件

• 函式 torch_tensorrt::logging::set_reportable_log_level
  • 函式文件

• 模板函式 torch_tensorrt::ptq::make_int8_cache_calibrator
  • 函式文件

• 模板函式 torch_tensorrt::ptq::make_int8_calibrator
  • 函式文件

• 函式 torch_tensorrt::set_device
  • 函式文件

• 函式 torch_tensorrt::torchscript::check_method_operator_support
  • 函式文件

• 函式 torch_tensorrt::torchscript::compile
  • 函式文件

• 函式 torch_tensorrt::torchscript::convert_method_to_trt_engine
  • 函式文件

• 函式 torch_tensorrt::torchscript::embed_engine_in_new_module
  • 函式文件

宏定義

• 宏定義 STR
  • 宏定義文件

• 宏定義 TORCH_TENSORRT_MAJOR_VERSION
  • 宏定義文件

• 宏定義 TORCH_TENSORRT_MINOR_VERSION
  • 宏定義文件

• 宏定義 TORCH_TENSORRT_PATCH_VERSION
  • 宏定義文件

• 宏定義 TORCH_TENSORRT_PTQ_DEPRECATION
  • 宏定義文件

• 宏定義 TORCH_TENSORRT_VERSION
  • 宏定義文件

• 宏定義 TORCHTRT_API
  • 宏定義文件

• 宏定義 TORCHTRT_HIDDEN
  • 宏定義文件

• 宏定義 XSTR
  • 宏定義文件