README.md 9.0 KB
Newer Older
Z
Zeyu Chen 已提交
1 2
# PaddleHub

W
wuzewu 已提交
3 4
[![Build Status](https://travis-ci.org/PaddlePaddle/PaddleHub.svg?branch=develop)](https://travis-ci.org/PaddlePaddle/PaddleHub)
[![License](https://img.shields.io/badge/license-Apache%202-blue.svg)](LICENSE)
Z
Zeyu Chen 已提交
5
[![Version](https://img.shields.io/github/release/PaddlePaddle/PaddleHub.svg)](https://github.com/PaddlePaddle/PaddleHub/releases)
W
wuzewu 已提交
6

W
wuzewu 已提交
7
PaddleHub是基于PaddlePaddle生态下的预训练模型管理和迁移学习工具,可以结合预训练模型更便捷地开展迁移学习工作。通过PaddleHub,您可以:
Z
Zeyu Chen 已提交
8

Z
Zeyu Chen 已提交
9
* 便捷地获取PaddlePaddle生态下的所有预训练模型,涵盖了图像分类、目标检测、词法分析、语义模型、情感分析、语言模型、视频分类、图像生成八类主流模型。
Z
Zeyu Chen 已提交
10
  * 更多详情可查看官网:https://www.paddlepaddle.org.cn/hub
Z
Zeyu Chen 已提交
11
* 通过PaddleHub Fine-tune API,结合少量代码即可完成**大规模预训练模型**的迁移学习,具体Demo可参考以下链接:
S
Steffy-zxf 已提交
12 13 14 15 16
  * [文本分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/text-classification)
  * [序列标注](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/sequence-labeling)
  * [多标签分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/multi-label-classification)
  * [图像分类](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/image-classification)
  * [检索式问答任务](https://github.com/PaddlePaddle/PaddleHub/tree/release/v1.1.0/demo/qa_classification)
S
Steffy-zxf 已提交
17 18 19
  * [回归任务](https://github.com/PaddlePaddle/PaddleHub/tree/develop/demo/sentence_similarity)
  * [句子语义相似度计算](https://github.com/PaddlePaddle/PaddleHub/tree/develop/demo/sentence_similarity)
  * [阅读理解任务](https://github.com/PaddlePaddle/PaddleHub/tree/develop/demo/reading-comprehension)
Z
Zeyu Chen 已提交
20
* PaddleHub引入『**模型即软件**』的设计理念,支持通过Python API或者命令行工具,一键完成预训练模型地预测,更方便的应用PaddlePaddle模型库。
W
wuzewu 已提交
21
  * [PaddleHub命令行工具介绍](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E5%91%BD%E4%BB%A4%E8%A1%8C%E5%B7%A5%E5%85%B7)
Z
Zeyu Chen 已提交
22

Z
Zeyu Chen 已提交
23 24 25 26 27 28 29 30 31 32 33

## 目录

* [安装](https://github.com/paddlepaddle/paddlehub#%E5%AE%89%E8%A3%85)
* [快速体验](https://github.com/paddlepaddle/paddlehub#%E5%BF%AB%E9%80%9F%E4%BD%93%E9%AA%8C)
* [教程](https://github.com/paddlepaddle/paddlehub#%E6%95%99%E7%A8%8B)
* [FAQ](https://github.com/paddlepaddle/paddlehub#faq)
* [用户交流群](https://github.com/paddlepaddle/paddlehub#%E7%94%A8%E6%88%B7%E4%BA%A4%E6%B5%81%E7%BE%A4)
* [更新历史](https://github.com/paddlepaddle/paddlehub#%E6%9B%B4%E6%96%B0%E5%8E%86%E5%8F%B2)


Z
Zeyu Chen 已提交
34
## 安装
Z
Zeyu Chen 已提交
35 36

### 环境依赖
W
wuzewu 已提交
37
* Python==2.7 or Python>=3.5
Z
Zeyu Chen 已提交
38
* PaddlePaddle>=1.4.0
Z
Zeyu Chen 已提交
39

W
wuzewu 已提交
40 41
除上述依赖外,PaddleHub的预训练模型和预置数据集需要连接服务端进行下载,请确保机器可以正常访问网络

S
Steffy-zxf 已提交
42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77
pip安装方式如下:

```shell
$ pip install paddlehub
```

## 快速体验
安装成功后,执行下面的命令,可以快速体验PaddleHub无需代码、一键预测的命令行功能:

`示例一`

使用[词法分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=LexicalAnalysis)模型LAC进行分词
```shell
$ hub run lac --input_text "今天是个好日子"
[{'word': ['今天', '是', '个', '好日子'], 'tag': ['TIME', 'v', 'q', 'n']}]
```

`示例二`

使用[情感分析](http://www.paddlepaddle.org.cn/hub?filter=category&value=SentimentAnalysis)模型Senta对句子进行情感预测
```shell
$ hub run senta_bilstm --input_text "今天是个好日子"
[{'text': '今天是个好日子', 'sentiment_label': 2, 'sentiment_key': 'positive', 'positive_probs': 0.6065, 'negative_probs': 0.3935}]
```

`示例三`

使用[目标检测](http://www.paddlepaddle.org.cn/hub?filter=category&value=ObjectDetection)模型 SSD/YOLO v3/Faster RCNN 对图片进行目标检测
```shell
$ wget --no-check-certificate https://paddlehub.bj.bcebos.com/resources/test_object_detection.jpg
$ hub run ssd_mobilenet_v1_pascal --input_path test_object_detection.jpg
$ hub run yolov3_coco2017 --input_path test_object_detection.jpg
$ hub run faster_rcnn_coco2017 --input_path test_object_detection.jpg
```
![SSD检测结果](https://raw.githubusercontent.com/PaddlePaddle/PaddleHub/release/v1.0.0/docs/imgs/object_detection_result.png)

S
Steffy-zxf 已提交
78
除了上述三类模型外,PaddleHub还发布了语言模型、语义模型、图像分类、生成模型、视频分类等业界主流模型,更多PaddleHub已经发布的模型,请前往 https://www.paddlepaddle.org.cn/hub 查看
S
Steffy-zxf 已提交
79

S
Steffy-zxf 已提交
80
同时,我们在AI Studio和AIBook上提供了IPython NoteBook形式的demo,您可以直接在平台上在线体验,链接如下:
S
Steffy-zxf 已提交
81 82
* ERNIE文本分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79380)
Z
Zeyu Chen 已提交
83
  * [AI Book](https://console.bce.baidu.com/bml/?_=1562072915183#/bml/aibook/ernie_txt_cls)
S
Steffy-zxf 已提交
84 85
* ERNIE序列标注:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79377)
Z
Zeyu Chen 已提交
86
  * [AI Book](https://console.bce.baidu.com/bml/?_=1562072915183#/bml/aibook/ernie_seq_label)
S
Steffy-zxf 已提交
87 88
* ELMo文本分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79400)
Z
Zeyu Chen 已提交
89
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/elmo_txt_cls)
S
Steffy-zxf 已提交
90 91
* senta情感分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79398)
Z
Zeyu Chen 已提交
92
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/senta_bilstm)
S
Steffy-zxf 已提交
93 94
* 图像分类:
  * [AI Studio](https://aistudio.baidu.com/aistudio/projectDetail/79378)
Z
Zeyu Chen 已提交
95
  * [AI Book](https://console.bce.baidu.com/bml/#/bml/aibook/img_cls)
S
Steffy-zxf 已提交
96

S
Steffy-zxf 已提交
97 98
## 教程

S
Steffy-zxf 已提交
99
PaddleHub Fine-tune API 详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub-Finetune-API)
S
Steffy-zxf 已提交
100

S
Steffy-zxf 已提交
101
PaddleHub如何完成迁移学习,详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E4%B8%8E%E8%BF%81%E7%A7%BB%E5%AD%A6%E4%B9%A0)
S
Steffy-zxf 已提交
102

S
Steffy-zxf 已提交
103
PaddleHub如何自定义迁移任务,详情参考[wiki教程](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub:-%E8%87%AA%E5%AE%9A%E4%B9%89Task)
S
Steffy-zxf 已提交
104

S
Steffy-zxf 已提交
105
## FAQ
S
Steffy-zxf 已提交
106

S
Steffy-zxf 已提交
107
**Q:** 利用PaddleHub ernie/bert进行Finetune时,运行出错并提示`paddle.fluid.core_avx.EnforceNotMet: Input ShapeTensor cannot be found in Op reshape2`等信息
S
Steffy-zxf 已提交
108

S
Steffy-zxf 已提交
109
**A:** 因为ernie/bert module的创建时和此时运行环境中PaddlePaddle版本不对应。可以将PaddlePaddle和PaddleHub升级至最新版本,同时将ernie卸载。
S
Steffy-zxf 已提交
110
```shell
S
Steffy-zxf 已提交
111
# 若是CPU环境,则 pip install --upgrade paddlepaddle
S
Steffy-zxf 已提交
112 113 114 115 116
$ pip install --upgrade paddlepaddle-gpu
$ pip install --upgrade paddlehub
$ hub uninstall ernie
```

S
Steffy-zxf 已提交
117
**Q:** 使用PaddleHub时,无法下载预置数据集、Module的等现象
S
Steffy-zxf 已提交
118

S
Steffy-zxf 已提交
119
**A:** PaddleHub中的预训练模型和预置数据集都需要通过服务端进行下载,因此PaddleHub默认用户访问外网权限。
S
Steffy-zxf 已提交
120 121 122 123 124 125 126 127 128 129 130
可以通过以下命令确认是否可以访问外网。

```python
import requests

res = requests.get('http://paddlepaddle.org.cn/paddlehub/search', {'word': 'ernie', 'type': 'Module'})
print(res)

# the common result is like this:
# <Response [200]>
```
S
Steffy-zxf 已提交
131
**Note:** PaddleHub 1.1.1版本已支持离线运行Module
S
Steffy-zxf 已提交
132

S
Steffy-zxf 已提交
133
**Q:** 利用PaddleHub Finetune如何适配自定义数据集
S
Steffy-zxf 已提交
134

S
Steffy-zxf 已提交
135
**A:** 参考[PaddleHub适配自定义数据集完成Finetune](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub%E9%80%82%E9%85%8D%E8%87%AA%E5%AE%9A%E4%B9%89%E6%95%B0%E6%8D%AE%E5%AE%8C%E6%88%90FineTune)
S
Steffy-zxf 已提交
136 137


S
Steffy-zxf 已提交
138
**更多问题**
S
Steffy-zxf 已提交
139 140 141 142

当安装或者使用遇到问题时,可以通过[FAQ](https://github.com/PaddlePaddle/PaddleHub/wiki/PaddleHub-FAQ)查找解决方案。
如果在FAQ中没有找到解决方案,欢迎您将问题和bug报告以[Github Issues](https://github.com/PaddlePaddle/PaddleHub/issues)的形式提交给我们,我们会第一时间进行跟进

S
Steffy-zxf 已提交
143
## 用户交流群
Z
Zeyu Chen 已提交
144

S
Steffy-zxf 已提交
145 146
* 飞桨PaddlePaddle 交流群:432676488(QQ群)
* 飞桨 ERNIE交流群:760439550(QQ群)
Z
Zeyu Chen 已提交
147

W
wuzewu 已提交
148

S
Steffy-zxf 已提交
149 150 151 152
## 更新历史

### PaddleHub v1.1.1

S
Steffy-zxf 已提交
153
* PaddleHub支持离线运行
S
Steffy-zxf 已提交
154 155 156 157
* 修复python2安装PaddleHub失败问题

### PaddleHub v1.1.0

K
kinghuin 已提交
158 159
* PaddleHub 新增 ERNIE 2.0

S
Steffy-zxf 已提交
160 161 162 163 164 165
### PaddleHub v1.0.1

* 安装模型时自动选择与paddlepaddle版本适配的模型

### PaddleHub v1.0.0

S
Steffy-zxf 已提交
166
* 全新发布[PaddleHub官网](https://www.paddlepaddle.org.cn/hub),易用性全面提升
S
Steffy-zxf 已提交
167 168
* 新增29个预训练模型,覆盖文本、图像、视频三大领域;目前官方提供40个预训练模型
* Fine-tune API升级,灵活性与性能全面提升
K
kinghuin 已提交
169

S
Steffy-zxf 已提交
170 171 172 173 174 175 176 177 178 179
### PaddleHub v0.5.0

正式发布PaddleHub预训练模型管理工具,旨在帮助用户更高效的管理模型并开展迁移学习的工作。

* 预训练模型管理: 通过hub命令行可完成PaddlePaddle生态的预训练模型下载、搜索、版本管理等功能。

* 命令行一键使用: 无需代码,通过命令行即可直接使用预训练模型进行预测,快速调研训练模型效果。
                目前版本支持以下模型:词法分析LAC;情感分析Senta;目标检测SSD;图像分类ResNet, MobileNet, NASNet等。

* 迁移学习: 提供了基于预训练模型的Finetune API,用户通过少量代码即可完成迁移学习,包括BERT/ERNIE文本分类、序列标注、图像分类迁移等。