Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

模型直接推理没错,服务化部署后,客户端请求后结果不对 #2514

Open
IceHowe opened this issue Aug 27, 2024 · 0 comments
Assignees

Comments

@IceHowe
Copy link

IceHowe commented Aug 27, 2024


温馨提示:根据社区不完全统计,按照模板提问,可以加快回复和解决问题的速度


环境

  • 【FastDeploy版本】: fastdeploy:1.0.7-cpu-only-21.10
  • 【系统平台】: Linux x64(Ubuntu 22.04)
  • 【硬件】: VM虚拟机中
  • 【编译语言】: C++ / Python3.9

问题日志及出现问题的操作流程

  • 附上详细的问题日志有助于快速定位分析
  • 【模型跑不通】
    • 先执行examples下的部署示例,包括使用examples提供的模型,确认是否可以正确执行
    • 如若examples下的代码可以运行,但自己的模型,或自己的代码不能运行
      • 提供复现问题的 代码+模型+错误log,供工程师快速定位问题
  • 这是用别人写的Http请求,结果错误:
    image
    如果用官方示例的rpc请求,报错,没有结果,好像是越界之类的
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants