服務 API

• TorchServe gRPC API
  • gRPC API 的 Python 客戶端示例
  • GRPC 伺服器端流
• 推理 API
  • API 描述
  • 健康檢查 API
  • 預測 API
    • curl 示例
    • curl 示例
  • 解釋 API
    • curl 示例
  • KServe 推理 API
    • curl 示例
  • KServe 解釋 API
    • curl 示例
• 管理 API
  • 註冊模型
    • 加密模型服務
  • 擴充套件工作程序
  • 描述模型
  • 登出模型
  • 列出模型
  • API 描述
  • 設定預設版本
  • 令牌授權 API
• 指標 API
  • Prometheus 伺服器
  • Grafana
• TorchServe REST API
• 工作流推理 API
  • 預測 API
    • curl 示例
• 管理 API
  • 註冊工作流
  • 描述工作流
  • 登出工作流
  • 列出工作流