README.md 11.2 KB
Newer Older
S
Steffy-zxf 已提交
1 2 3
<p align="center">
 <img src="./docs/imgs/paddlehub_logo.jpg" align="middle"  
</p>
Z
Zeyu Chen 已提交
4

Z
Zeyu Chen 已提交
5
[![Build Status](https://travis-ci.org/PaddlePaddle/PaddleHub.svg?branch=release/v1.3)](https://travis-ci.org/PaddlePaddle/PaddleHub)
W
wuzewu 已提交
6
[![License](https://img.shields.io/badge/license-Apache%202-blue.svg)](LICENSE)
Z
Zeyu Chen 已提交
7
[![Version](https://img.shields.io/github/release/PaddlePaddle/PaddleHub.svg)](https://github.com/PaddlePaddle/PaddleHub/releases)
W
wuzewu 已提交
8

Z
Zeyu Chen 已提交
9
PaddleHub是飞桨预训练模型应用工具,通过PaddleHub开发者可以使用高质量的预训练模型结合Fine-tune API快速完成迁移学习到应用部署的全流程工作。其提供了飞桨生态下的高质量预训练模型,涵盖了图像分类、目标检测、词法分析、语义模型、情感分析、视频分类、图像生成、图像分割、文本审核、关键点检测等主流模型。更多模型详情请查看官网:https://www.paddlepaddle.org.cn/hub
K
kinghuin 已提交
10 11


S
Steffy-zxf 已提交
12
基于预训练模型,PaddleHub支持以下功能:  
K
kinghuin 已提交
13

S
Steffy-zxf 已提交
14 15
* **[模型即软件](#模型即软件)**,通过Python API或命令行实现快速预测,更方便地使用PaddlePaddle模型库。

S
Steffy-zxf 已提交
16
* **[迁移学习](#迁移学习)**,用户通过Fine-tune API,只需要少量代码即可完成自然语言处理和计算机视觉场景的深度迁移学习。
S
Steffy-zxf 已提交
17

S
Steffy-zxf 已提交
18
* **[服务化部署](#服务化部署paddlehub-serving)**,简单一行命令即可搭建属于自己的模型的API服务。
S
Steffy-zxf 已提交
19 20

* **[超参优化](#超参优化autodl-finetuner)**,自动搜索最优超参,得到更好的模型效果。
Z
Zeyu Chen 已提交
21

S
Steffy-zxf 已提交
22

Z
zhangxuefei 已提交
23
**PaddleHub发布最新版本1.5.0**
S
Steffy-zxf 已提交
24 25


S
Steffy-zxf 已提交
26

S
Steffy-zxf 已提交
27
<p align="center">
S
Steffy-zxf 已提交
28 29 30 31 32
 <img src="./docs/imgs/paddlehub_finetune.gif" align="middle"  
</p>

<p align='center'>
 十行代码完成ERNIE工业级文本分类
S
Steffy-zxf 已提交
33
</p>
Z
Zeyu Chen 已提交
34

S
Steffy-zxf 已提交
35

Z
Zeyu Chen 已提交
36 37
## 目录

W
wuzewu 已提交
38
* [安装](#%E5%AE%89%E8%A3%85)
S
Steffy-zxf 已提交
39
* [特性](#特性)
W
wuzewu 已提交
40 41 42
* [FAQ](#faq)
* [用户交流群](#%E7%94%A8%E6%88%B7%E4%BA%A4%E6%B5%81%E7%BE%A4)
* [更新历史](#%E6%9B%B4%E6%96%B0%E5%8E%86%E5%8F%B2)
Z
Zeyu Chen 已提交
43 44


Z
Zeyu Chen 已提交
45
## 安装
Z
Zeyu Chen 已提交
46 47

### 环境依赖
K
kinghuin 已提交
48 49 50
* Python==2.7 or Python>=3.5 for Linux or Mac

  **Python>=3.6 for Windows**
走神的阿圆's avatar
走神的阿圆 已提交
51

K
kinghuin 已提交
52
* PaddlePaddle>=1.5
Z
Zeyu Chen 已提交
53

S
Steffy-zxf 已提交
54
除上述依赖外,PaddleHub的预训练模型和预置数据集需要连接服务端进行下载,请确保机器可以正常访问网络。若本地已存在相关的数据集和预训练模型,则可以离线运行PaddleHub。
W
wuzewu 已提交
55

56
**NOTE:**
S
Steffy-zxf 已提交
57
1. 若是出现离线运行PaddleHub错误,请更新PaddleHub 1.1.1版本之上。
S
Steffy-zxf 已提交
58 59 60 61 62
pip安装方式如下:

```shell
$ pip install paddlehub
```
S
Steffy-zxf 已提交
63
2. 使用PaddleHub下载数据集、预训练模型等,要求机器可以访问外网。可以使用`server_check()`可以检查本地与远端PaddleHub-Server的连接状态,使用方法如下:
S
Steffy-zxf 已提交
64 65 66 67

```python
import paddlehub
paddlehub.server_check()
S
Steffy-zxf 已提交
68 69
# 如果可以连接远端PaddleHub-Server,则显示Request Hub-Server successfully。
# 如果无法连接远端PaddleHub-Server,则显示Request Hub-Server unsuccessfully。
S
Steffy-zxf 已提交
70 71
```

S
Steffy-zxf 已提交
72
## 特性
S
Steffy-zxf 已提交
73

S
Steffy-zxf 已提交
74
### 模型即软件
S
Steffy-zxf 已提交
75

Z
Zeyu Chen 已提交
76
PaddleHub采用 **模型即软件** 的理念,通过Python API或命令行实现快速预测,更方便地使用PaddlePaddle预训练模型。
77
安装PaddleHub成功后,执行命令[hub run](./docs/tutorial/cmdintro.md),可以快速体验PaddleHub无需代码、一键预测的命令行功能,如下三个示例:
S
Steffy-zxf 已提交
78

S
Steffy-zxf 已提交
79 80
* 使用[目标检测](http://www.paddlepaddle.org.cn/hub?filter=category&value=ObjectDetection)模型pyramidbox_lite_mobile_mask对图片进行口罩检测
```shell
S
Steffy-zxf 已提交
81 82
$ wget https://paddlehub.bj.bcebos.com/resources/test_mask_detection.jpg
$ hub run pyramidbox_lite_mobile_mask --input_path test_mask_detection.jpg
S
Steffy-zxf 已提交
83
```
S
Steffy-zxf 已提交
84
![人脸识别结果](docs/imgs/test_mask_detection_result.jpg)
S
Steffy-zxf 已提交
85

S
Steffy-zxf 已提交
86
* 使用[词法分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=LexicalAnalysis)模型LAC进行分词
S
Steffy-zxf 已提交
87 88 89 90 91
```shell
$ hub run lac --input_text "今天是个好日子"
[{'word': ['今天', '是', '个', '好日子'], 'tag': ['TIME', 'v', 'q', 'n']}]
```

S
Steffy-zxf 已提交
92
* 使用[情感分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=SentimentAnalysis)模型Senta对句子进行情感预测
S
Steffy-zxf 已提交
93
```shell
S
Steffy-zxf 已提交
94 95
$ hub run senta_bilstm --input_text "今天天气真好"
{'text': '今天天气真好', 'sentiment_label': 1, 'sentiment_key': 'positive', 'positive_probs': 0.9798, 'negative_probs': 0.0202}]
S
Steffy-zxf 已提交
96 97
```

98 99 100 101 102 103
* 使用[目标检测](http://www.paddlepaddle.org.cn/hub?filter=category&value=ObjectDetection)模型Ultra-Light-Fast-Generic-Face-Detector-1MB对图片进行人脸识别
```shell
$ wget https://paddlehub.bj.bcebos.com/resources/test_image.jpg
$ hub run ultra_light_fast_generic_face_detector_1mb_640 --input_path test_image.jpg
```
![人脸识别结果](docs/imgs/face_detection_result.jpeg)
104

Z
Zeyu Chen 已提交
105
* 使用[图像分割](https://www.paddlepaddle.org.cn/hubdetail?name=ace2p&en_category=ImageSegmentation)模型ACE2P对进行人体部件分割
S
Steffy-zxf 已提交
106
```shell
107 108
$ wget https://paddlehub.bj.bcebos.com/resources/test_image.jpg
$ hub run ace2p --input_path test_image.jpg
S
Steffy-zxf 已提交
109
```
Z
Zeyu Chen 已提交
110
![人体部件分割结果](docs/imgs/img_seg_result.jpeg)
S
Steffy-zxf 已提交
111

Z
Zeyu Chen 已提交
112
PaddleHub还提供图像分类、语义模型、视频分类、图像生成、图像分割、文本审核、关键点检测等主流模型,更多模型介绍,请前往 [https://www.paddlepaddle.org.cn/hub](https://www.paddlepaddle.org.cn/hub) 查看
K
kinghuin 已提交
113

S
Steffy-zxf 已提交
114
### 迁移学习
S
Steffy-zxf 已提交
115

Z
Zeyu Chen 已提交
116
通过PaddleHub的Fine-tune API,只需要少量代码即可完成深度学习模型在自然语言处理和计算机视觉场景下的迁移学习。
S
Steffy-zxf 已提交
117 118 119

* 示例合集

Z
Zeyu Chen 已提交
120
  PaddleHub提供了使用Fine-tune API和预训练模型完成[文本分类](./demo/text_classification)[序列标注](./demo/sequence_labeling)[多标签分类](./demo/multi_label_classification)[图像分类](./demo/image_classification)[检索式问答任务](./demo/qa_classification)[回归任务](./demo/regression)[句子语义相似度计算](./demo/sentence_similarity)[阅读理解任务](./demo/reading_comprehension)等迁移任务的使用示例,详细参见[demo](./demo)
S
Steffy-zxf 已提交
121 122

* 场景化使用
S
Steffy-zxf 已提交
123

S
Steffy-zxf 已提交
124
  PaddleHub在AI Studio上提供了IPython NoteBook形式的demo。用户可以直接在平台上在线体验,链接如下:
W
wuzewu 已提交
125

K
kinghuin 已提交
126 127
|预训练模型|任务类型|数据集|AIStudio链接|备注|
|-|-|-|-|-|
128
|pyramidbox_lite_mobile_mask|口罩检测|N/A|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/267322)|
S
Steffy-zxf 已提交
129 130 131 132 133
|ResNet|图像分类|猫狗数据集DogCat|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/147010)||
|ERNIE|文本分类|中文情感分类数据集ChnSentiCorp|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/147006)||
|ERNIE|文本分类|中文新闻分类数据集THUNEWS|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/221999)|本教程讲述了如何将自定义数据集加载,并利用Fine-tune API完成文本分类迁移学习。|
|ERNIE|序列标注|中文序列标注数据集MSRA_NER|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/147009)||
|ERNIE|序列标注|中文快递单数据集Express|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/184200)|本教程讲述了如何将自定义数据集加载,并利用Fine-tune API完成序列标注迁移学习。|
S
Steffy-zxf 已提交
134
|ERNIE Tiny|文本分类|中文情感分类数据集ChnSentiCorp|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/186443)||
S
Steffy-zxf 已提交
135 136 137 138
|Senta|文本分类|中文情感分类数据集ChnSentiCorp|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/216846)|本教程讲述了任何利用Senta和Fine-tune API完成情感分类迁移学习。|
|Senta|情感分析预测|N/A|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/215814)||
|LAC|词法分析|N/A|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/215711)||
|Ultra-Light-Fast-Generic-Face-Detector-1MB|人脸检测|N/A|[点击体验](https://aistudio.baidu.com/aistudio/projectdetail/215962)||
W
wuzewu 已提交
139

Z
Zeyu Chen 已提交
140
**NOTE:** [`飞桨PaddleHub`](https://aistudio.baidu.com/aistudio/personalcenter/thirdview/79927)是AI Studio的官方账号。
S
Steffy-zxf 已提交
141

S
Steffy-zxf 已提交
142
关于PaddleHub快捷完成迁移学习,更多信息参考:
K
kinghuin 已提交
143

144
[Fine-tune API](./docs/reference)
K
kinghuin 已提交
145

Z
Zeyu Chen 已提交
146
[如何对自定义数据集进行Fine-tuning](./docs/tutorial/how_to_load_data.md)
S
Steffy-zxf 已提交
147

Z
Zeyu Chen 已提交
148
[如何自定义迁移任务](./docs/tutorial/how_to_define_task.md)
S
Steffy-zxf 已提交
149

150
[ULMFiT优化策略](./docs/tutorial/strategy_exp.md)
S
Steffy-zxf 已提交
151

Z
Zeyu Chen 已提交
152
### PaddleHub一键模型服务化部署
S
Steffy-zxf 已提交
153

Z
Zeyu Chen 已提交
154
PaddleHub提供便捷的模型转服务的能力,只需简单一行命令即可实现预训练模型的HTTP服务部署。
S
Steffy-zxf 已提交
155

156
**PaddleHub 1.5.0版本增加文本Embedding服务[Bert Service](./docs/tutorial/bert_service.md), 轻松获取文本embedding**
S
Steffy-zxf 已提交
157

Z
Zeyu Chen 已提交
158
一键服务化启动方式有两种:
S
Steffy-zxf 已提交
159 160 161 162 163 164 165

* 命令行方式:

```shell
$ hub serving start --modules [Module1==Version1, Module2==Version2, ...]
```

S
Steffy-zxf 已提交
166
其中选项参数`--modules/-m`表示待部署模型。
S
Steffy-zxf 已提交
167 168 169 170 171 172 173 174 175

* 配置文件方式:

```shell
$ hub serving start --config config.json
```

config.json文件包含待部署模型信息等,

Z
Zeyu Chen 已提交
176
关于模型服务化使用说明参见[PaddleHub模型服务化服务化部署](./docs/tutorial/serving.md)
S
Steffy-zxf 已提交
177

S
Steffy-zxf 已提交
178
### 超参优化AutoDL Finetuner
K
kinghuin 已提交
179

S
Steffy-zxf 已提交
180
深度学习模型往往包含许多的超参数,而这些超参数的取值对模型性能起着至关重要的作用。因为模型参数空间大,目前超参调整都是通过手动,依赖人工经验或者不断尝试,且不同模型、样本数据和场景下不尽相同,所以需要大量尝试,时间成本和资源成本非常浪费。PaddleHub AutoDL Finetuner可以实现自动调整超参数,使得模型性能达到最优水平。它通过多种调优的算法来搜索最优超参。
S
Steffy-zxf 已提交
181

182
AutoDL Finetuner详细信息参见[PaddleHub超参优化](./docs/tutorial/autofinetune.md)
S
Steffy-zxf 已提交
183

S
Steffy-zxf 已提交
184
## FAQ
S
Steffy-zxf 已提交
185

S
Steffy-zxf 已提交
186
**Q:** 利用PaddleHub Fine-tune如何适配自定义数据集?
K
kinghuin 已提交
187

S
Steffy-zxf 已提交
188
**A:** 参考[PaddleHub适配自定义数据集完成Fine-tune](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E9%80%82%E9%85%8D%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E5%AE%8C%E6%88%90FineTune)
S
Steffy-zxf 已提交
189 190


S
Steffy-zxf 已提交
191
**Q:** 使用PaddleHub时,无法下载预置数据集、Module的等现象。
S
Steffy-zxf 已提交
192

K
kinghuin 已提交
193
**A:** 下载数据集、module等,PaddleHub要求机器可以访问外网。可以使用server_check()可以检查本地与远端PaddleHub-Server的连接状态,使用方法如下:
S
Steffy-zxf 已提交
194 195

```python
K
kinghuin 已提交
196 197
import paddlehub
paddlehub.server_check()
S
Steffy-zxf 已提交
198 199
# 如果可以连接远端PaddleHub-Server,则显示Request Hub-Server successfully。
# 如果无法连接远端PaddleHub-Server,则显示Request Hub-Server unsuccessfully。
K
kinghuin 已提交
200
```
S
Steffy-zxf 已提交
201

S
Steffy-zxf 已提交
202
**Q:** 利用PaddleHub ernie/bert进行Fine-tune时,运行出错并提示`paddle.fluid.core_avx.EnforceNotMet: Input ShapeTensor cannot be found in Op reshape2`等信息。
S
Steffy-zxf 已提交
203

K
kinghuin 已提交
204 205 206 207
**A:** 因为ernie/bert module的创建时和此时运行环境中PaddlePaddle版本不对应。可以将PaddlePaddle和PaddleHub升级至最新版本,同时将ernie卸载。
```shell
$ pip install --upgrade paddlehub
$ hub uninstall ernie
S
Steffy-zxf 已提交
208 209 210
```


K
kinghuin 已提交
211
**NOTE**: PaddleHub 1.1.1版本已支持离线运行Module
S
Steffy-zxf 已提交
212 213


S
Steffy-zxf 已提交
214
**更多问题**
S
Steffy-zxf 已提交
215 216

当安装或者使用遇到问题时,可以通过[FAQ](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub-FAQ)查找解决方案。
S
Steffy-zxf 已提交
217
如果在FAQ中没有找到解决方案,欢迎您将问题和bug报告以[Github Issues](https://github.com/PaddlePaddle/PaddleHub/issues)的形式提交给我们,我们会第一时间进行跟进。
S
Steffy-zxf 已提交
218

S
Steffy-zxf 已提交
219
## 用户交流群
Z
Zeyu Chen 已提交
220

S
Steffy-zxf 已提交
221
* 飞桨PaddlePaddle 交流群:796771754(QQ群)
S
Steffy-zxf 已提交
222
* 飞桨 ERNIE交流群:760439550(QQ群)
Z
Zeyu Chen 已提交
223

W
wuzewu 已提交
224

S
Steffy-zxf 已提交
225 226
## 更新历史

Z
Zeyu Chen 已提交
227
PaddleHub v1.6.0已发布!
K
kinghuin 已提交
228

S
Steffy-zxf 已提交
229
详情参考[更新历史](./RELEASE.md)