快速上手用Bolt部署Caffe模型

目录

---

    bolt部署     常见问题         caffe添加自定义算子         bolt转换和推理添加新算子

bolt部署

• 下载和编译bolt项目

  请参考INSTALL.md。

• 使用X2bolt转换caffe格式模型到bolt格式模型

  详细请参考USER_HANDBOOK.md或者 --help。

  • 示例：转换./example.prototxt和./example.caffemodel到./example_f32.bolt

  ./X2bolt -d ./ -m example -i FP32
  

• 通用benchmark测试

  详细请参考USER_HANDBOOK.md或者 --help。

  • 示例：CPU推理./example_f32.bolt，查看模型输入输出信息和推理时间。

  ./benchmark -m ./example_f32.bolt
  

• C/C++/Java API开发

  详细请参考DEVELOPER.md。

常见问题

• caffe添加自定义算子

  caffe支持修改third_party/proto/caffe.proto添加自定义算子，可以参照开源项目或已有定义实现。

• bolt转换和推理添加新算子

  详细请参考DEVELOPER.md。