提交 426b0808 编写于 作者: mliaukz's avatar mliaukz

Update README.md

上级 403d48b6
......@@ -3,3 +3,12 @@
> 完成采集后的数据还不足以作为直接的数据源供大数据系统食用,主要是因为这些数据的格式、编码规则、内容五花八门,都不一样,而各种数据分析工具与框架都需要统一格式、统一标准的更「干净」的数据。在正式应用于数据科学的核心算法和可视化之前,这些数据往往还需要经过抽取、迁移、压缩、清洗、打散、分片以及其他多种转换处理过程。
## 知识点
- 理解数据采集与清洗的意义和目标,了解常见的文件格式、类型与编码方式
- 能通过所学的编程语言实现自动化的Web访问并保存页面内容
- 能使用至少一种常见Web爬虫工具实现Web页面的批量自动下载
- 掌握XML文件的使用与解析,能熟练的生成与解析XML文件
- 能熟练使用正则表达式,能快速的匹配和处理文本
- 掌握至少一种HTML解析工具(如jsoup,htmlparser等),并从HTML中提取指定的内容
- 能通过编码处理各类文本及文档数据格式,包括但不限于:office文档、pdf、csv、log、rar、zip等
- 熟悉ETL的基本概念,了解常见的ETL工具,如Datastage、Informatica、Kettle等
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册