我正在使用NVIDIA CUDA 多行程服務 (MPS)來使用相同的 GPU 運行多個 TensorFlow 推理作業。對于我的用例，當 GPU 被多個行程共享時，我有時需要優先執行一個行程的內核而不是另一個。這是支持的嗎？
為了更詳細地解釋這個問題，請考慮一個示例，其中我們有兩個行程 p1 和 p2（每個行程只有一個內核執行流）共享一個 GPU。
場景：當 p1 和 p2 的就緒佇列中有一個或多個內核時。
默認 MPS 行為（我的理解）：
如果有足夠的資源，同時從 p1 和 p2 執行多個內核。
期望的行為：在以下情況下 能夠根據優先級做出決定：
- 先執行p1的內核，然后再執行p2。
- 先執行p2的內核，然后再執行p1。
- 如果有足夠的資源，從 p1 和 p2 同時執行多個內核。
如果不支持這種自定義調度，如果有人可以指導需要更改哪些代碼才能使其作業，那就太好了。
uj5u.com熱心網友回復：
我有時需要優先執行一個行程的內核而不是另一個。這是支持的嗎？
不它不是。
轉載請註明出處，本文鏈接：https://www.uj5u.com/caozuo/330644.html
上一篇：沒有這樣的檔案或目錄：'Tensorflow/workspace/annotations\\label_map.pbtxtonJupyter為什么我的代碼不起作用？