如何构建其他语言的客户端如Go、C#等
收藏
文档只有c++、java、python的客户端,如何构建其他语言的客户端呢?想通过grpc去实现,但是不知该使用哪些proto文件,以及如何封装成类似官方提供的客户端,还请各位大佬多多指教
0
收藏
请登录后评论
您好,如果要实现其他编程语言的Serving Client SDK,可参考Java SDK的proto格式,无论是C++ Serving还是 Python Pipeline Server均支持gRPC协议,实现gRPC stub发送推理请求即可。如果多线程/写成并发的诉求时,要考虑并发性的设计。欢迎您实现多语言客户端并为开源社区贡献代码。有问题也可以在github issue里提,我们会第一时间答复。
prot格式参考:(https://github.com/PaddlePaddle/Serving/tree/v0.7.0/java/src/main/proto)
1)C++ Serving Server:general_model_config.proto,general_model_service.proto
2)Python Pipeline Server: pipeline_service.proto