Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
C站(CSDN)能力认证中心
C任务-数据采集与清洗
提交
426b0808
C
C任务-数据采集与清洗
项目概览
C站(CSDN)能力认证中心
/
C任务-数据采集与清洗
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
C
C任务-数据采集与清洗
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
提交
426b0808
编写于
3月 26, 2021
作者:
mliaukz
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update README.md
上级
403d48b6
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
9 addition
and
0 deletion
+9
-0
README.md
README.md
+9
-0
未找到文件。
README.md
浏览文件 @
426b0808
...
...
@@ -3,3 +3,12 @@
> 完成采集后的数据还不足以作为直接的数据源供大数据系统食用,主要是因为这些数据的格式、编码规则、内容五花八门,都不一样,而各种数据分析工具与框架都需要统一格式、统一标准的更「干净」的数据。在正式应用于数据科学的核心算法和可视化之前,这些数据往往还需要经过抽取、迁移、压缩、清洗、打散、分片以及其他多种转换处理过程。
## 知识点
-
理解数据采集与清洗的意义和目标,了解常见的文件格式、类型与编码方式
-
能通过所学的编程语言实现自动化的Web访问并保存页面内容
-
能使用至少一种常见Web爬虫工具实现Web页面的批量自动下载
-
掌握XML文件的使用与解析,能熟练的生成与解析XML文件
-
能熟练使用正则表达式,能快速的匹配和处理文本
-
掌握至少一种HTML解析工具(如jsoup,htmlparser等),并从HTML中提取指定的内容
-
能通过编码处理各类文本及文档数据格式,包括但不限于:office文档、pdf、csv、log、rar、zip等
-
熟悉ETL的基本概念,了解常见的ETL工具,如Datastage、Informatica、Kettle等
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录