README.md 8.0 KB
Newer Older
Z
init  
zengqiao 已提交
1 2

---
P
Peng 已提交
3
![KnowStreaing](https://user-images.githubusercontent.com/71620349/183546097-71451983-d00e-4ad4-afb0-43fb597c69a9.png)
Z
init  
zengqiao 已提交
4

P
Peng 已提交
5
**一站式`Apache Kafka`管控平台**
zhangliangmike's avatar
zhangliangmike 已提交
6

P
Peng 已提交
7
`LogiKM开源至今备受关注,考虑到开源项目应该更贴合Apache Kafka未来发展方向,经项目组慎重考虑,我们将其品牌升级成Know Streaming,新的大版本更新马上就绪,感谢大家一如既往的支持!也欢迎Kafka爱好者一起共建社区`
Z
init  
zengqiao 已提交
8

P
Peng 已提交
9
阅读本README文档,您可以了解到滴滴Know Streaming的用户群体、产品定位等信息,并通过体验地址,快速体验Kafka集群指标监控与运维管控的全流程。
Z
ZQKC 已提交
10

Z
init  
zengqiao 已提交
11

Z
ZHAOYINRUI 已提交
12
## 1 产品简介
P
Peng 已提交
13
滴滴Know Streaming脱胎于滴滴内部多年的Kafka运营实践经验,是面向Kafka用户、Kafka运维人员打造的共享多租户Kafka云平台。专注于Kafka运维管控、监控告警、资源治理等核心场景,经历过大规模集群、海量大数据的考验。内部满意度高达90%的同时,还与多家知名企业达成商业化合作。
Z
init  
zengqiao 已提交
14

Z
ZHAOYINRUI 已提交
15
### 1.1 快速体验地址
E
EricZeng 已提交
16

P
Peng 已提交
17
- 体验地址(新的体验地址马上就来) http://117.51.150.133:8080  账号密码 admin/admin
Z
init  
zengqiao 已提交
18

Z
ZHAOYINRUI 已提交
19 20
### 1.2 体验地图
相比较于同类产品的用户视角单一(大多为管理员视角),滴滴Logi-KafkaManager建立了基于分角色、多场景视角的体验地图。分别是:**用户体验地图、运维体验地图、运营体验地图**
Z
init  
zengqiao 已提交
21

Z
ZHAOYINRUI 已提交
22 23 24 25 26 27 28
#### 1.2.1 用户体验地图
- 平台租户申请  :申请应用(App)作为Kafka中的用户名,并用 AppID+password作为身份验证
- 集群资源申请  :按需申请、按需使用。可使用平台提供的共享集群,也可为应用申请独立的集群
- Topic        :可根据应用(App)创建Topic,或者申请其他topic的读写权限
- Topic        :Topic数据采样、调整配额、申请分区等操作
-          :基于Topic生产消费各环节耗时统计,监控不同分位数性能指标
-     :支持将消费偏移重置至指定时间或指定位置
Z
init  
zengqiao 已提交
29

Z
ZHAOYINRUI 已提交
30 31 32 33 34 35
#### 1.2.2 运维体验地图
- 多版本集群管控  :支持从`0.10.2``2.x`版本
-             :集群Topic、Broker等多维度历史与实时关键指标查看,建立健康分体系
-             :划分部分Broker作为Region,使用Region定义资源划分单位,并按照业务、保障能力区分逻辑集群
- Broker          :包括优先副本选举等操作
- Topic            :包括创建、查询、扩容、修改属性、迁移、下线等
Z
init  
zengqiao 已提交
36 37


Z
ZHAOYINRUI 已提交
38 39 40 41
#### 1.2.3 运营体验地图
-        :沉淀资源治理方法。针对Topic分区热点、分区不足等高频常见问题,沉淀资源治理方法,实现资源治理专家化
-        :工单体系。Topic创建、调整配额、申请分区等操作,由专业运维人员审批,规范资源使用,保障平台平稳运行
-        :成本控制。Topic资源、集群资源按需申请、按需使用。根据流量核算费用,帮助企业建设大数据成本核算体系
Z
zengqiao 已提交
42

Z
ZHAOYINRUI 已提交
43 44 45 46
### 1.3 核心优势
-        :监控多项核心指标,统计不同分位数据,提供种类丰富的指标监控报表,帮助用户、运维人员快速高效定位问题
- 便        :按照Region定义集群资源划分单位,将逻辑集群根据保障等级划分。在方便资源隔离、提高扩展能力的同时,实现对服务端的强管控
-        :基于滴滴内部多年运营实践,沉淀资源治理方法,建立健康分体系。针对Topic分区热点、分区不足等高频常见问题,实现资源治理专家化
P
Peng 已提交
47
-        :与Prometheus、Grafana、滴滴夜莺监控告警系统打通,集成指标分析、监控告警、集群部署、集群升级等能力。形成运维生态,凝练专家服务,使运维更高效
Z
init  
zengqiao 已提交
48

Z
ZHAOYINRUI 已提交
49
### 1.4 滴滴Logi-KafkaManager架构图
Z
init  
zengqiao 已提交
50

Z
ZQKC 已提交
51
![kafka-manager-arch](https://img-ys011.didistatic.com/static/dicloudpub/do1_xgDHNDLj2ChKxctSuf72)
52

Z
init  
zengqiao 已提交
53

Z
ZHAOYINRUI 已提交
54
## 2 相关文档
Z
init  
zengqiao 已提交
55

Z
ZHAOYINRUI 已提交
56
### 2.1 产品文档
P
Peng 已提交
57 58 59 60
- [滴滴Know Streaming 安装手册](docs/install_guide/install_guide_cn.md)
- [滴滴Know Streaming 接入集群](docs/user_guide/add_cluster/add_cluster.md)
- [滴滴Know Streaming 用户使用手册](docs/user_guide/user_guide_cn.md)
- [滴滴Know Streaming FAQ](docs/user_guide/faq.md)
Z
init  
zengqiao 已提交
61

Z
ZHAOYINRUI 已提交
62 63 64
### 2.2 社区文章
- [滴滴云官网产品介绍](https://www.didiyun.com/production/logi-KafkaManager.html)
- [7年沉淀之作--滴滴Logi日志服务套件](https://mp.weixin.qq.com/s/-KQp-Qo3WKEOc9wIR2iFnw)
P
Peng 已提交
65 66 67
- [滴滴Know Streaming 一站式Kafka管控平台](https://mp.weixin.qq.com/s/9qSZIkqCnU6u9nLMvOOjIQ)
- [滴滴Know Streaming 开源之路](https://xie.infoq.cn/article/0223091a99e697412073c0d64)
- [滴滴Know Streaming 系列视频教程](https://space.bilibili.com/442531657/channel/seriesdetail?sid=571649)
Z
zengqiao 已提交
68
- [kafka最强最全知识图谱](https://www.szzdzhp.com/kafka/)
P
Peng 已提交
69 70 71
- [滴滴Know Streaming新用户入门系列文章专栏 --石臻臻](https://www.szzdzhp.com/categories/LogIKM/)
- [kafka实践(十五):滴滴开源Kafka管控平台 Know Streaming研究--A叶子叶来](https://blog.csdn.net/yezonggang/article/details/113106244)
- [基于云原生应用管理平台Rainbond安装 滴滴Know Streaming](https://www.rainbond.com/docs/opensource-app/logikm/?channel=logikm)
S
shirenchuang 已提交
72

P
Peng 已提交
73
## 3 Know Streaming开源用户交流群
zhangliangmike's avatar
zhangliangmike 已提交
74 75

![image](https://user-images.githubusercontent.com/5287750/111266722-e531d800-8665-11eb-9242-3484da5a3099.png)  
石臻臻的杂货铺 已提交
76 77 78

想跟各个大佬交流Kafka Es 等中间件/大数据相关技术请 加微信进群。

P
Peng 已提交
79
微信加群:添加<font color=red>mike_zhangliang</font><font color=red>PenceXie</font>的微信号备注Know Streaming加群或关注公众号 云原生可观测性 回复 "Know Streaming加群"
zhangliangmike's avatar
zhangliangmike 已提交
80

81
## 4 知识星球
Z
init  
zengqiao 已提交
82

P
Peng 已提交
83
<img width="447" alt="image" src="https://user-images.githubusercontent.com/71620349/147314042-843a371a-48c0-4d9a-a65e-ca40236f3300.png">
Z
init  
zengqiao 已提交
84

石臻臻的杂货铺 已提交
85 86 87 88 89 90 91 92 93
<br>
<center>
  ✅我们正在组建国内最大最权威的
</center>
<br>
<center>
<font color=red size=5><b>【Kafka中文社区】</b></font>
</center>
  
P
Peng 已提交
94
在这里你可以结交各大互联网Kafka大佬以及3000+Kafka爱好者,一起实现知识共享,实时掌控最新行业资讯,期待您的加入中~https://z.didi.cn/5gSF9  
石臻臻的杂货铺 已提交
95 96 97 98 99

<font color=red size=5>有问必答~!  </font>

<font color=red size=5>互动有礼~!  </font>

P
Peng 已提交
100
PS:提问请尽量把问题一次性描述清楚,并告知环境信息情况哦~!如使用版本、操作步骤、报错/警告信息等,方便大V们快速解答~
101 102 103 104

## 5 项目成员

### 5.1 内部核心人员
Z
init  
zengqiao 已提交
105

E
EricZeng 已提交
106
`iceyuhui``liuyaguang``limengmonty``zhangliangmike``zhaoqingrong``xiepeng``nullhuangyiming``zengqiao``eilenexuzhe``huangjiaweihjw``zhaoyinrui``marzkonglingxu``joysunchao``石臻臻`
Z
init  
zengqiao 已提交
107 108


109
### 5.2 外部贡献者
Z
init  
zengqiao 已提交
110 111 112 113

`fangjunyu``zhoutaiyang`


114
## 6 协议
Z
init  
zengqiao 已提交
115

P
Peng 已提交
116
`Know Streaming`基于`Apache-2.0`协议进行分发和使用,更多信息参见[协议文件](./LICENSE)
P
Peng 已提交
117 118 119

## 7 Star History

P
Peng 已提交
120 121
[![Star History Chart](https://api.star-history.com/svg?repos=didi/KnowStreaming&type=Date)](https://star-history.com/#didi/KnowStreaming&Date)