使用GPU第一次预测时特别慢，如何调整RPC服务的等待时间避免超时？
收藏
使用GPU第一次预测时特别慢，如何调整RPC服务的等待时间避免超时？
旧鸱c_
已解决
2#
回复于2021-08
GPU第一次预测需要初始化。使用set_rpc_timeout_ms设置更长的等待时间，单位为毫秒，默认时间为20秒。 示例： from paddle_serving_client import Client client = Client() client.load_client_config(sys.argv[1]) client.set_rpc_timeout_ms(100000) client.connect(["127.0.0.1:9393"])
0
收藏
请登录后评论
GPU第一次预测需要初始化。使用set_rpc_timeout_ms设置更长的等待时间，单位为毫秒，默认时间为20秒。
示例：
from paddle_serving_client import Client
client = Client()
client.load_client_config(sys.argv[1])
client.set_rpc_timeout_ms(100000)
client.connect(["127.0.0.1:9393"])