⚠️ 通知：有限維護

此專案不再積極維護。現有版本仍可使用，但沒有計劃的更新、錯誤修復、新功能或安全補丁。使用者應注意漏洞可能不會得到解決。

TorchServe REST API

TorchServe 對推理和管理呼叫都使用了 RESTful API。此 API 符合 OpenAPI 規範 3.0。您可以使用 swagger codegen 輕鬆生成適用於 Java、Scala、C# 或 Javascript 的客戶端程式碼。

TorchServe 啟動時，會啟動兩個 Web 服務

• 推理 API

• 管理 API

• 指標 API

• 工作流推理 API

• 工作流管理 API

預設情況下，TorchServe 在埠 8080 監聽推理 API，在埠 8081 監聽管理 API。預設情況下，這兩個 API 都只能從 localhost 訪問。要啟用從遠端主機訪問，請參閱 TorchServe 配置。