Merge pull request #62 from joey12300/release/v0.1.0

update linux_build.md and CMakeLists.txt

Merge pull request #62 from joey12300/release/v0.1.0
update linux_build.md and CMakeLists.txt
33da06ea · Bin Long · GitHub · f038529f · 0b3b5dd6 · 33da06ea
12 changed file
--- a/inference/CMakeLists.txt
+++ b/inference/CMakeLists.txt
@@ -69,6 +69,7 @@ link_directories("${CMAKE_CURRENT_BINARY_DIR}/ext/yaml-cpp/lib")
 link_directories("${CMAKE_CURRENT_BINARY_DIR}")
 if (WIN32)
  include_directories("${PADDLE_DIR}/paddle/fluid/inference")
+  include_directories("${PADDLE_DIR}/paddle/include")
  link_directories("${PADDLE_DIR}/paddle/fluid/inference")
  include_directories("${OPENCV_DIR}/build/include")
  include_directories("${OPENCV_DIR}/opencv/build/include")
@@ -133,6 +134,7 @@ if(WITH_MKL)
  else ()
    set(MATH_LIB ${PADDLE_DIR}/third_party/install/mklml/lib/libmklml_intel${CMAKE_SHARED_LIBRARY_SUFFIX}
            ${PADDLE_DIR}/third_party/install/mklml/lib/libiomp5${CMAKE_SHARED_LIBRARY_SUFFIX})
+    execute_process(COMMAND cp -r ${PADDLE_DIR}/third_party/install/mklml/lib/libmklml_intel${CMAKE_SHARED_LIBRARY_SUFFIX} /usr/lib)
  endif ()
  set(MKLDNN_PATH "${PADDLE_DIR}/third_party/install/mkldnn")
  if(EXISTS ${MKLDNN_PATH})
@@ -147,22 +149,22 @@ else()
  set(MATH_LIB ${PADDLE_DIR}/third_party/install/openblas/lib/libopenblas${CMAKE_STATIC_LIBRARY_SUFFIX})
 endif()

+if (WIN32)
+    if(EXISTS "${PADDLE_DIR}/paddle/fluid/inference/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX}")
+        set(DEPS
+            ${PADDLE_DIR}/paddle/fluid/inference/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX})
+    else()
+	    set(DEPS
+            ${PADDLE_DIR}/paddle/lib/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX})
+    endif()
+endif()
+
 if(WITH_STATIC_LIB)
-  if (WIN32)
-    set(DEPS
-        ${PADDLE_DIR}/paddle/fluid/inference/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX})
-  else ()
    set(DEPS
        ${PADDLE_DIR}/paddle/lib/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX})
-  endif()
 else()
-  if (WIN32)
-    set(DEPS
-        ${PADDLE_DIR}/paddle/fluid/inference/libpaddle_fluid${CMAKE_STATIC_LIBRARY_SUFFIX})
-  else ()
    set(DEPS
        ${PADDLE_DIR}/paddle/lib/libpaddle_fluid${CMAKE_SHARED_LIBRARY_SUFFIX})
-  endif()
 endif()

 if (NOT WIN32)
@@ -237,6 +239,8 @@ if (WIN32)
        COMMAND ${CMAKE_COMMAND} -E copy_if_different ${PADDLE_DIR}/third_party/install/mkldnn/lib/mkldnn.dll ./mkldnn.dll
        COMMAND ${CMAKE_COMMAND} -E copy_if_different ${PADDLE_DIR}/third_party/install/mklml/lib/mklml.dll ./release/mklml.dll
        COMMAND ${CMAKE_COMMAND} -E copy_if_different ${PADDLE_DIR}/third_party/install/mklml/lib/libiomp5md.dll ./release/libiomp5md.dll
-        COMMAND ${CMAKE_COMMAND} -E copy_if_different ${PADDLE_DIR}/third_party/install/mkldnn/lib/mkldnn.dll ./mkldnn.dll
+        COMMAND ${CMAKE_COMMAND} -E copy_if_different ${PADDLE_DIR}/third_party/install/mkldnn/lib/mkldnn.dll ./release/mkldnn.dll
    )
 endif()
+
+execute_process(COMMAND cp -r ${CMAKE_SOURCE_DIR}/images ${CMAKE_SOURCE_DIR}/conf ${CMAKE_CURRENT_BINARY_DIR})
--- a/inference/README.md
+++ b/inference/README.md
 # PaddleSeg C++预测部署方案

-## 说明
+
+[1.说明](#1说明)
+
+[2.主要目录和文件](#2主要目录和文件)
+
+[3.编译](#3编译)
+
+[4.预测并可视化结果](#4预测并可视化结果)
+
+## 1.说明

 本目录提供一个跨平台的图像分割模型的C++预测部署方案，用户通过一定的配置，加上少量的代码，即可把模型集成到自己的服务中，完成图像分割的任务。

@@ -11,7 +20,7 @@
 - 高性能，除了`PaddlePaddle`自身带来的性能优势，我们还针对图像分割的特点对关键步骤进行了性能优化


-## 主要目录和文件
+## 2.主要目录和文件

 ```
 inference
@@ -22,7 +31,7 @@ inference
 ├── images
 │   └── humanseg # 示例人像分割模型测试图片目录
 ├── tools
-│   └── visualize.py # 示例人像分割模型结果可视化脚本
+│   └── visualize.py # 示例分割模型结果可视化脚本
 ├── docs
 |   ├── linux_build.md # Linux 编译指南
 |   ├── windows_vs2015_build.md # windows VS2015编译指南
@@ -40,7 +49,7 @@ inference

 ```

-## 编译
+## 3.编译
 支持在`Windows`和`Linux`平台编译和使用：
 - [Linux 编译指南](./docs/linux_build.md)
 - [Windows 使用 Visual Studio 2019 Community 编译指南](./docs/windows_vs2019_build.md)
@@ -48,11 +57,11 @@ inference

 `Windows`上推荐使用最新的`Visual Studio 2019 Community`直接编译`CMake`项目。

-## 预测并可视化结果
+## 4.预测并可视化结果

 完成编译后，便生成了需要的可执行文件和链接库，然后执行以下步骤：

-### 1. 下载模型文件
+### 4.1. 下载模型文件
 我们提供了一个人像分割模型示例用于测试，点击右侧地址下载：[示例模型下载地址](https://paddleseg.bj.bcebos.com/inference_model/deeplabv3p_xception65_humanseg.tgz)

 下载并解压，解压后目录结构如下：
@@ -69,7 +78,7 @@ deeplabv3p_xception65_humanseg
 **假设**`Linux`上对应的路径则为`/root/projects/models/deeplabv3p_xception65_humanseg`。


-### 2. 修改配置
+### 4.2. 修改配置

 基于`PaddleSeg`训练的模型导出时，会自动生成对应的预测模型配置文件，请参考文档：[模型导出](../docs/model_export.md)。

@@ -90,7 +99,7 @@ DEPLOY:
    # 均值
    MEAN: [0.40787450980392154, 0.4575254901960784, 0.481078431372549]
    # 方差
-    STD: [1.0, 1.0, 1.0]
+    STD: [0.00392156862745098, 0.00392156862745098, 0.00392156862745098]
    # 图片类型, rgb 或者 rgba
    IMAGE_TYPE: "rgb"
    # 分类类型数
@@ -106,7 +115,9 @@ DEPLOY:
 ```
 修改字段`MODEL_PATH`的值为你在**上一步**下载并解压的模型文件所放置的目录即可。

-### 3. 执行预测
+**注意**在使用CPU版本预测库时，`USE_GPU`的值必须设为0，否则无法正常预测。
+
+### 4.3. 执行预测

 在终端中切换到生成的可执行文件所在目录为当前目录(Windows系统为`cmd`)。

@@ -128,9 +139,7 @@ D:\projects\PaddleSeg\inference\build\Release>demo.exe --conf=D:\\projects\\Padd
 | input_dir | 需要预测的图片目录 |


-配置文件说明请参考上一步，样例程序会扫描input_dir目录下的所有图片，并生成对应的预测结果图片：
-
-文件`demo.jpg`预测的结果存储在`demo_jpg.png`中，可视化结果在`demo_jpg_scoremap.png`中， 原始尺寸的预测结果在`demo_jpg_recover.png`中。
+配置文件说明请参考上一步，样例程序会扫描input_dir目录下的所有以**jpg或jpeg**为后缀的图片，并生成对应的预测结果（若input_dir目录下没有以**jpg或jpeg**为后缀的图片，程序会报错）。图像分割会对`demo.jpg`的每个像素进行分类，其预测的结果保存在`demo_jpg.png`中。分割预测结果的图不能直接看到效果，必须经过可视化处理。对于二分类的图像分割模型，样例程序自动将预测结果转换成可视化结果，保存在`demo_jpg_scoremap.png`中， 原始尺寸的预测结果在`demo_jpg_recover.png`中，如下图。对于**多分类**的图像分割模型，请参考[可视化脚本使用方法](./docs/vis.md)。

 输入原图  
 ![avatar](images/humanseg/demo2.jpeg)

--- a/inference/docs/demo.jpg
+++ b/inference/docs/demo.jpg
--- a/inference/docs/demo_jpg.png
+++ b/inference/docs/demo_jpg.png
--- a/inference/docs/linux_build.md
+++ b/inference/docs/linux_build.md
 # Linux平台 编译指南

 ## 说明
-本文档在 `Linux`平台使用`GCC 4.8.5` 和 `GCC 4.9.4`测试过，如果需要使用更高G++版本编译使用，则需要重新编译Paddle预测库，请参考: [从源码编译Paddle预测库](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/advanced_usage/deploy/inference/build_and_install_lib_cn.html#id15)。
+本文档在 `Linux`平台使用`GCC 4.8.5` 和 `GCC 4.9.4`测试过，如果需要使用更高版本的GCC编译使用，则需要重新编译PaddlePaddle预测库，请参考: [从源码编译Paddle预测库](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/advanced_usage/deploy/inference/build_and_install_lib_cn.html#id15)。

 ## 前置条件
 * G++ 4.8.2 ~ 4.9.4
-* CUDA 8.0/ CUDA 9.0
 * CMake 3.0+
+* CUDA 8.0 / CUDA 9.0 / CUDA 10.0, cudnn 7+ （仅在使用GPU版本的预测库时需要）

 请确保系统已经安装好上述基本软件，**下面所有示例以工作目录为 `/root/projects/`演示**。

@@ -20,7 +20,17 @@

 ### Step2: 下载PaddlePaddle C++ 预测库 fluid_inference

-目前仅支持`CUDA 8` 和 `CUDA 9`，请点击 [PaddlePaddle预测库下载地址](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/advanced_usage/deploy/inference/build_and_install_lib_cn.html)下载对应的版本。
+PaddlePaddle C++ 预测库主要分为CPU版本和GPU版本。其中，针对不同的CUDA版本，GPU版本预测库又分为三个版本预测库：CUDA 8、CUDA 9和CUDA 10版本预测库。以下为各版本C++预测库的下载链接：
+
+|  版本   | 链接  |
+|  ----  | ----  |
+| CPU版本  | [fluid_inference.tgz](https://paddle-inference-lib.bj.bcebos.com/latest-cpu-avx-mkl/fluid_inference.tgz) |
+| CUDA 8版本  | [fluid_inference.tgz](https://paddle-inference-lib.bj.bcebos.com/latest-gpu-cuda8-cudnn7-avx-mkl/fluid_inference.tgz) |
+| CUDA 9版本  | [fluid_inference.tgz](https://paddle-inference-lib.bj.bcebos.com/latest-gpu-cuda9-cudnn7-avx-mkl/fluid_inference.tgz) |
+| CUDA 10版本  | [fluid_inference.tgz](https://paddle-inference-lib.bj.bcebos.com/latest-gpu-cuda10-cudnn7-avx-mkl/fluid_inference.tgz) |
+
+
+针对不同的CPU类型、不同的指令集，官方提供更多可用的预测库版本，目前已经推出1.6版本的预测库，具体请参考以下链接:[C++预测库下载列表](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/advanced_usage/deploy/inference/build_and_install_lib_cn.html)


 下载并解压后`/root/projects/fluid_inference`目录包含内容为：
@@ -44,7 +54,7 @@ wget -c https://paddleseg.bj.bcebos.com/inference/opencv-3.4.6.zip
 unzip opencv-3.4.6.zip && cd opencv-3.4.6
 # 3. 创建build目录并编译, 这里安装到/usr/local/opencv3目录
 mkdir build && cd build
-cmake .. -DCMAKE_INSTALL_PREFIX=/root/projects/opencv3 -DCMAKE_BUILD_TYPE=Release -DBUILD_SHARED_LIBS=OFF -DWITH_ZLIB=ON -DBUILD_ZLIB=ON -DWITH_JPEG=ON -DBUILD_JPEG=ON -DWITH_PNG=ON -DBUILD_PNG=ON -DWITH_TIFF=ON -DBUILD_TIFF=ON
+cmake .. -DCMAKE_INSTALL_PREFIX=/root/projects/opencv3 -DCMAKE_BUILD_TYPE=Release -DBUILD_SHARED_LIBS=OFF -DWITH_IPP=OFF -DBUILD_IPP_IW=OFF -DWITH_LAPACK=OFF -DWITH_EIGEN=OFF -DCMAKE_INSTALL_LIBDIR=lib64 -DWITH_ZLIB=ON -DBUILD_ZLIB=ON -DWITH_JPEG=ON -DBUILD_JPEG=ON -DWITH_PNG=ON -DBUILD_PNG=ON -DWITH_TIFF=ON -DBUILD_TIFF=ON
 make -j4
 make install
 ```
@@ -53,24 +63,31 @@ make install

 ### Step4: 编译

-`CMake`编译时，涉及到四个编译参数用于指定核心依赖库的路径, 他们的定义如下:
+`CMake`编译时，涉及到四个编译参数用于指定核心依赖库的路径, 他们的定义如下:（带*表示仅在使用**GPU版本**预测库时指定）

 |  参数名   | 含义  |
 |  ----  | ----  |
-| CUDA_LIB  | cuda的库路径 |
-| CUDNN_LIB | cuDnn的库路径|
-| OPENCV_DIR  | OpenCV的安装路径， |
+| * CUDA_LIB  | CUDA的库路径 |
+| * CUDNN_LIB | cudnn的库路径|
+| OPENCV_DIR  | OpenCV的安装路径 |
 | PADDLE_DIR | Paddle预测库的路径 |

-执行下列操作时，**注意**把对应的参数改为你的上述依赖库实际路径：
+在使用**GPU版本**预测库进行编译时，可执行下列操作。**注意**把对应的参数改为你的上述依赖库实际路径：

 ```shell
 cd /root/projects/PaddleSeg/inference
 mkdir build && cd build
-cmake .. -DWITH_GPU=ON  -DPADDLE_DIR=/root/projects/fluid_inference -DCUDA_LIB=/usr/local/cuda/lib64/ -DOPENCV_DIR=/root/projects/opencv3/ -DCUDNN_LIB=/usr/local/cuda/lib64/
+cmake .. -DWITH_GPU=ON  -DPADDLE_DIR=/root/projects/fluid_inference -DCUDA_LIB=/usr/local/cuda/lib64/ -DOPENCV_DIR=/root/projects/opencv3/ -DCUDNN_LIB=/usr/local/cuda/lib64/ -DWITH_STATIC_LIB=OFF
 make
 ```

+在使用**CPU版本**预测库进行编译时，可执行下列操作。
+```shell
+cd /root/projects/PaddleSeg/inference
+mkdir build && cd build
+cmake .. -DWITH_GPU=OFF  -DPADDLE_DIR=/root/projects/fluid_inference -DOPENCV_DIR=/root/projects/opencv3/ -DWITH_STATIC_LIB=OFF
+make
+```

 ### Step5: 预测及可视化

@@ -80,6 +97,4 @@ make
 ./demo --conf=/path/to/your/conf --input_dir=/path/to/your/input/data/directory
 ```

-更详细说明请参考ReadMe文档： [预测和可视化部分](../README.md)
-
-
+更详细说明请参考README文档： [预测和可视化部分](../README.md)
--- a/inference/docs/vis.md
+++ b/inference/docs/vis.md
+# 图像分割结果可视化说明
+
+本文档介绍如何使用可视化脚本对图像分割结果进行可视化处理。**注意：可视化脚本处理仅针对PaddleSeg C++预测部署方案生成的预测结果。**
+
+## 说明
+图像分割模型会对预测的图像的每个像素进行分类，所以图像分割模型的预测结果是图像里每个像素的标签，我们将预测结果以图片格式保存。例如预测图片`demo.jpg`，其预测的结果以图片格式保存在`demo_jpg.png`中。保存分割预测结果的图片并不能直接看到效果（一张全黑的图），必须经过可视化处理。以下为使用方法。
+
+```bash
+# 假设当前路径为PaddleSeg根目录
+# 切换到脚本所在目录
+cd inference/tools/
+# 拷贝保存分割预测结果的图片到本目录
+cp XXX/demo_jpg.png .
+# 运行可视化脚本
+python visualize.py demo.jpg demo_jpg.png vis_result.png
+```
+
+以下为上述运行可视化脚本例子中每个参数的含义，请根据测试机器中图片的**实际路径**修改对应参数。
+
+| 参数 | 含义 |
+|-------|----------|
+| demo.jpg | 原图路径 |
+| demo_jpg.png | 保存预测结果的图片的路径 |
+| vis_result.png| 可视化后的效果图路径|
+
+
+**可视化结果展示：**
+
+以下以cityscape模型的预测结果进行展示。
+
+原图(`demo.jpg`):
+![avatar](demo.jpg)
+
+预测结果图(`demo_jpg.png`, 仅用来保存预测的结果，需经过可视化处理):
+![avatar](demo_jpg.png)
+
+效果图(`vis_result.png`)：
+![avatar](vis_result.png)
+
--- a/inference/docs/vis_result.png
+++ b/inference/docs/vis_result.png
--- a/inference/docs/windows_vs2015_build.md
+++ b/inference/docs/windows_vs2015_build.md
@@ -5,7 +5,7 @@

 ## 前置条件
 * Visual Studio 2015
-* CUDA 8.0/ CUDA 9.0
+* CUDA 8.0/ CUDA 9.0/ CUDA 10.0，cudnn 7+ （仅在使用GPU版本的预测库时需要）
 * CMake 3.0+

 请确保系统已经安装好上述基本软件，**下面所有示例以工作目录为 `D:\projects`演示**。
@@ -20,12 +20,14 @@

 ### Step2: 下载PaddlePaddle C++ 预测库 fluid_inference

-根据Windows环境，下载相应版本的PaddlePaddle预测库，并解压到`D:\projects\`目录
+PaddlePaddle C++ 预测库主要分为两大版本：CPU版本和GPU版本。其中，针对不同的CUDA版本，GPU版本预测库又分为三个版本预测库：CUDA 8、CUDA 9和CUDA 10版本预测库。根据Windows环境，下载相应版本的PaddlePaddle预测库，并解压到`D:\projects\`目录。以下为各版本C++预测库（CUDA 8版本基于1.5版本的预测库，其余均基于1.6版本的预测库）的下载链接：

-| CUDA | GPU | 下载地址 |
-|------|------|--------|
-| 8.0 | Yes | [fluid_inference.zip](https://bj.bcebos.com/v1/paddleseg/fluid_inference_win.zip) |
-| 9.0 | Yes | [fluid_inference_cuda90.zip](https://paddleseg.bj.bcebos.com/fluid_inference_cuda9_cudnn7.zip) |
+|  版本   | 链接  |
+|  ----  | ----  |
+| CPU版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/cpu/fluid_inference_install_dir.zip) |
+| CUDA 8版本  | [fluid_inference_install_dir.zip](https://paddle-inference-lib.bj.bcebos.com/1.5.1-win/gpu_mkl_avx_8.0/fluid_inference_install_dir.zip) |
+| CUDA 9版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/post97/fluid_inference_install_dir.zip) |
+| CUDA 10版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/post107/fluid_inference_install_dir.zip) |

 解压后`D:\projects\fluid_inference`目录包含内容为：
 ```
@@ -57,11 +59,12 @@ fluid_inference
 call "C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\vcvarsall.bat" amd64
 ```
    
-* CMAKE编译工程
+* CMAKE编译工程 （带*表示仅在使用**GPU版本**预测库时指定）
    * PADDLE_DIR: fluid_inference预测库路径
-    * CUDA_LIB: CUDA动态库目录, 请根据实际安装情况调整
+    * *CUDA_LIB: CUDA动态库目录, 请根据实际安装情况调整
    * OPENCV_DIR: OpenCV解压目录

+在使用**GPU版本**预测库进行编译时，可执行下列操作。
 ```
 # 切换到预测库所在目录
 cd /d D:\projects\PaddleSeg\inference\
@@ -72,6 +75,17 @@ cd build
 D:\projects\PaddleSeg\inference\build> cmake .. -G "Visual Studio 14 2015 Win64" -DWITH_GPU=ON -DPADDLE_DIR=D:\projects\fluid_inference -DCUDA_LIB=D:\projects\cudalib\v8.0\lib\x64 -DOPENCV_DIR=D:\projects\opencv -T host=x64
 ```

+在使用**CPU版本**预测库进行编译时，可执行下列操作。
+```
+# 切换到预测库所在目录
+cd /d D:\projects\PaddleSeg\inference\
+# 创建构建目录, 重新构建只需要删除该目录即可
+mkdir build
+cd build
+# cmake构建VS项目
+D:\projects\PaddleSeg\inference\build> cmake .. -G "Visual Studio 14 2015 Win64" -DWITH_GPU=ON -DPADDLE_DIR=D:\projects\fluid_inference -DOPENCV_DIR=D:\projects\opencv -T host=x64
+```
+
 这里的`cmake`参数`-G`, 表示生成对应的VS版本的工程，可以根据自己的`VS`版本调整，具体请参考[cmake文档](https://cmake.org/cmake/help/v3.15/manual/cmake-generators.7.html)

 * 生成可执行文件

--- a/inference/docs/windows_vs2019_build.md
+++ b/inference/docs/windows_vs2019_build.md
@@ -5,8 +5,8 @@ Windows 平台下，我们使用`Visual Studio 2015` 和 `Visual Studio 2019 Com
 你也可以使用和`VS2015`一样，通过把`CMake`项目转化成`VS`项目来编译，其中**有差别的部分**在文档中我们有说明，请参考：[使用Visual Studio 2015 编译指南](./windows_vs2015_build.md)

 ## 前置条件
-* Visual Studio 2019
-* CUDA 8.0/ CUDA 9.0
+* Visual Studio 2019 
+* CUDA 8.0/ CUDA 9.0/ CUDA 10.0，cudnn 7+ （仅在使用GPU版本的预测库时需要）
 * CMake 3.0+

 请确保系统已经安装好上述基本软件，我们使用的是`VS2019`的社区版。
@@ -23,12 +23,14 @@ Windows 平台下，我们使用`Visual Studio 2015` 和 `Visual Studio 2019 Com

 ### Step2: 下载PaddlePaddle C++ 预测库 fluid_inference

-根据Windows环境，下载相应版本的PaddlePaddle预测库，并解压到`D:\projects\`目录
+PaddlePaddle C++ 预测库主要分为两大版本：CPU版本和GPU版本。其中，针对不同的CUDA版本，GPU版本预测库又分为三个版本预测库：CUDA 8、CUDA 9和CUDA 10版本预测库。根据Windows环境，下载相应版本的PaddlePaddle预测库，并解压到`D:\projects\`目录。以下为各版本C++预测库（CUDA 8版本基于1.5版本的预测库，其余均基于1.6版本的预测库）的下载链接：

-| CUDA | GPU | 下载地址 |
-|------|------|--------|
-| 8.0 | Yes | [fluid_inference.zip](https://bj.bcebos.com/v1/paddleseg/fluid_inference_win.zip) |
-| 9.0 | Yes | [fluid_inference_cuda90.zip](https://paddleseg.bj.bcebos.com/fluid_inference_cuda9_cudnn7.zip) |
+|  版本   | 链接  |
+|  ----  | ----  |
+| CPU版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/cpu/fluid_inference_install_dir.zip) |
+| CUDA 8版本  | [fluid_inference_install_dir.zip](https://paddle-inference-lib.bj.bcebos.com/1.5.1-win/gpu_mkl_avx_8.0/fluid_inference_install_dir.zip) |
+| CUDA 9版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/post97/fluid_inference_install_dir.zip) |
+| CUDA 10版本  | [fluid_inference_install_dir.zip](https://paddle-wheel.bj.bcebos.com/1.6.0/win-infer/mkl/post107/fluid_inference_install_dir.zip) |

 解压后`D:\projects\fluid_inference`目录包含内容为：
 ```
@@ -39,7 +41,6 @@ fluid_inference
 |
 └── version.txt # 版本和编译信息
 ```
-**注意：** `CUDA90`版本解压后目录名称为`fluid_inference_cuda90`。

 ### Step3: 安装配置OpenCV

@@ -67,15 +68,15 @@ fluid_inference

 4. 点击`浏览`，分别设置编译选项指定`CUDA`、`OpenCV`、`Paddle预测库`的路径

-![step4](https://paddleseg.bj.bcebos.com/inference/vs2019_step5.png)
-
-三个编译参数的含义说明如下：
+三个编译参数的含义说明如下（带*表示仅在使用**GPU版本**预测库时指定）：

 |  参数名   | 含义  |
 |  ----  | ----  |
-| CUDA_LIB  | cuda的库路径 |
+| *CUDA_LIB  | cuda的库路径 |
 | OPENCV_DIR  | OpenCV的安装路径， |
 | PADDLE_DIR | Paddle预测库的路径 |
+**注意**在使用CPU版本预测库时，需要把CUDA_LIB的勾去掉。
+![step4](https://paddleseg.bj.bcebos.com/inference/vs2019_step5.png)

 **设置完成后**, 点击上图中`保存并生成CMake缓存以加载变量`。


--- a/inference/predictor/seg_predictor.cpp
+++ b/inference/predictor/seg_predictor.cpp
 #include "seg_predictor.h"
 #include <unsupported/Eigen/CXX11/Tensor>
-
+#undef min
 namespace PaddleSolution {

        int Predictor::init(const std::string& conf) {
@@ -237,7 +237,7 @@ namespace PaddleSolution {
                    imgs_batch.push_back(imgs[idx]);
                }

-                if (!_preprocessor->batch_process(imgs_batch, input_buffer.data(), org_height.data(), org_width.data())) {
+                if (!_preprocessor->batch_process(imgs_batch, input_buffer.data(), org_width.data(), org_height.data())) {
                    return -1;
                }
                auto im_tensor = _main_predictor->GetInputTensor("image");

--- a/inference/tools/visualize.py
+++ b/inference/tools/visualize.py
@@ -7,14 +7,20 @@ color_map = [[128, 64, 128], [244, 35, 231], [69, 69, 69], [102, 102, 156],
             [106, 142, 35], [152, 250, 152], [69, 129, 180], [219, 19, 60],
             [255, 0, 0], [0, 0, 142], [0, 0, 69], [0, 60, 100], [0, 79, 100],
             [0, 0, 230], [119, 10, 32]]
-
-im = cv2.imread(sys.argv[1])
-
-# Please note (224, 224) just for daheng model
-print("visualizing...")
-for i in range(0, 224):
-    for j in range(0, 224):
-        im[i, j] = color_map[im[i, j, 0]]
-
-cv2.imwrite(sys.argv[1], im)
-print("visualizing done!")
+# python visualize.py demo1.jpg demo1_jpg.png vis_result.png
+if __name__ == "__main__": 
+    if len(sys.argv) != 4:
+        print("Usage: python visualize.py demo1.jpg demo1_jpg.png vis_result.png")
+    else:
+        ori_im = cv2.imread(sys.argv[1])
+        ori_shape = ori_im.shape
+        print(ori_shape) 
+        im = cv2.imread(sys.argv[2])
+        shape = im.shape
+        print("visualizing...")
+        for i in range(0, shape[0]):
+            for j in range(0, shape[1]):
+                im[i, j] = color_map[im[i, j, 0]]
+        im = cv2.resize(im, (ori_shape[1], ori_shape[0]))
+        cv2.imwrite(sys.argv[3], im)
+        print("visualizing done!")
--- a/serving/seg-serving/op/reader_op.cpp
+++ b/serving/seg-serving/op/reader_op.cpp
@@ -123,31 +123,21 @@ int ReaderOp::inference() {
    const int HH = _image_8u_tmp.rows;
    const int WW = _image_8u_tmp.cols;
    const int CC = _image_8u_tmp.channels();
+
   //HH: cols WW:rows 
    in_width_vec->push_back(HH);
    in_height_vec->push_back(WW);

-    // resize/crop
+    // resize
    if (_image_8u_tmp.cols != resize.width ||
        _image_8u_tmp.rows != resize.height) {
-//      int short_egde = std::min<int>(_image_8u_tmp.cols, _image_8u_tmp.rows);
-//      int yy = static_cast<int>((_image_8u_tmp.rows - short_egde) / 2);
-//      int xx = static_cast<int>((_image_8u_tmp.cols - short_egde) / 2);
-//      _image_8u_tmp =
-//          cv::Mat(_image_8u_tmp, cv::Rect(xx, yy, short_egde, short_egde));
-//      if (_image_8u_tmp.cols != resize.width ||
-//          _image_8u_tmp.rows != resize.height) {
          cv::Mat resize_image;
-//        cv::resize(_image_8u_tmp, resize_image, resize);
-//        _image_8u_tmp = resize_image;
-//      }
-//
-      cv::resize(_image_8u_tmp, resize_image, resize);
-      _image_8u_tmp = resize_image;
-      LOG(INFO) << "Succ crop one image[CHW=" << _image_8u_tmp.channels()
-                << ", " << _image_8u_tmp.cols << ", " << _image_8u_tmp.rows
-                << "]"
-                << " from image[CHW=" << CC << ", " << HH << ", " << WW << "]";
+          cv::resize(_image_8u_tmp, resize_image, resize);
+          _image_8u_tmp = resize_image;
+          LOG(INFO) << "Succ crop one image[CHW=" << _image_8u_tmp.channels()
+                    << ", " << _image_8u_tmp.cols << ", " << _image_8u_tmp.rows
+                    << "]"
+                    << " from image[CHW=" << CC << ", " << HH << ", " << WW << "]";
    }

    // BGR->RGB transformer