学习使用 docker TensorFlow/Saving 部署，显存满了，实际上应该用不了这么多显存（猜的）。使用 docker TensorFlow/Saving 可以配置显存大小吗？有没有方法去预估部署的模型应该是多少显存呢？
This topic created in 2198 days ago, the information mentioned may be changed or developed.
3 replies • 2020-05-08 09:00:43 +08:00
 |
1
c0xt30a May 7, 2020
TF 默认占用所有显存。
如果运行时不足，可以试着 1. 修改 batch size 2. 如果是图片之类的数据，divide and conquer |
 |
2
joyme May 7, 2020
你想打的是 tensorflow serving 吗？有个这个参数可以试试：--per_process_gpu_memory_fraction=0.5
|
Select Language