Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

能不能实现C++语言tensorrt离线部署SDK #3335

Open
1 of 4 tasks
zw1765 opened this issue Feb 14, 2025 · 3 comments
Open
1 of 4 tasks

能不能实现C++语言tensorrt离线部署SDK #3335

zw1765 opened this issue Feb 14, 2025 · 3 comments
Assignees

Comments

@zw1765
Copy link

zw1765 commented Feb 14, 2025

Checklist:

描述问题

复现

  1. 高性能推理

  2. 服务化部署

    • 您是否完全按照服务化部署文档教程跑通了流程?

    • 您在服务化部署中是否有使用高性能推理插件,如果是,您使用的是离线激活方式还是在线激活方式?

    • 如果是多语言调用的问题,请给出调用示例子。

  3. 端侧部署

    • 您是否完全按照端侧部署文档教程跑通了流程?

    • 您使用的端侧设备是?对应的PaddlePaddle版本和PaddleLite版本分别是什么?

  4. 您使用的模型数据集是?

  5. 请提供您出现的报错信息及相关log

环境

  1. 请提供您使用的PaddlePaddle、PaddleX版本号、Python版本号

  2. 请提供您使用的操作系统信息,如Linux/Windows/MacOS

  3. 请问您使用的CUDA/cuDNN的版本号是?

@Bobholamovic
Copy link
Member

你好,目前我们暂时没有提供C++ SDK。请问使用Python部署本地服务,在C++代码中调用服务,可以满足你的需求吗?

@zw1765
Copy link
Author

zw1765 commented Feb 14, 2025

你好,目前我们暂时没有提供C++ SDK。请问使用Python部署本地服务,在C++代码中调用服务,可以满足你的需求吗?

你好,目前paddlex训练出来的模型,Python部署无法满足需求。

@Bobholamovic
Copy link
Member

具体是哪方面不能满足需求呢?

@Bobholamovic Bobholamovic self-assigned this Feb 17, 2025
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants