我想使用一個端點創建一個 API,但在我的應用程式中,第一個模型輸出是第二個模型輸出。是否可以使用 SageMaker 實作?

據我了解model_fn,prediction_fn一次output_fn只能使用一個模型。
uj5u.com熱心網友回復:
管道模型(順序模型)
SageMaker 中有一個特定的模式:查看PipelineModel。
您可以按照您希望推理發生的順序傳遞一個 sagemaker.Model 物件串列。
這是要遵循的官方 AWS 示例: 訓練注冊和部署管道模型
from sagemaker import PipelineModel
pipeline_model = PipelineModel(
models=[model_0, model_1, ...],
role=role,
sagemaker_session=pipeline_session
)
它就像一個普通的 SageMaker 模型,實際上你有正常的部署方法。
您還可以遵循本指南,該指南展示了如何部署為開發人員構建的 Xgboost 模型二進制檔案,其中通過 sagemaker 中的推理管道添加后處理層,部署端點。
轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/528377.html
