共 86 小节 已有 17000 人学过 2020.12.2 推出
本课程讲解的是当下大数据最流行的框架之一的flink框架,并且教程版本也使用的是最新的1.11版本,给大家详细讲解了flink相关的概念,环境的搭建及其API的使用,本教程使用的每一个算子都是使用最新的API 编写,能够使大家学习到flink最新的特性,学习完了flink基础知识后,通过两个案例,使大家更加熟练掌握每个算子能够完成哪些功能,并且使用flink table api 和flink sql结合datastream完成案例开发,当我们学会flink框架之后就能够完成公司中离线和实时场景的业务开发了。
- 第一章:Apache Flink介绍
1-1 Flink是什么(应用场景和地位)
1-2. 传统数据架构和大数据架构
1-3 Flink特性介绍和基本架构
1-4 Flink的Parallelism和Slot
1-5 Flink的组件栈
- 第二章:环境的准备
2-1 flink项目模板搭建之dataStream模版(java版本)
2-2 flink项目模板搭建之dataSet模版(java版本)
2-3 模板搭建之scala编写dataStream和dataSet
2-4 Flink单机运行环境搭建和任务测试
2-5 多机standalone模式环境搭建和测试
2-6 多机standalone模式HA部署和配置
2-7 Flink on yarn 模式运行任务
2-8 Flink scala-shell 交互式编程
- 第三章:Flink编程模型
3-1 数据集类型
3-2 数据集类型(kafka环境搭建)
3-3 Flink数据集(Kafka)
3-4 Flink编程接口
3-5 Flink程序结构
3-6 Flink数据类型
- 第四章:DataStream API 介绍与使用
4-1 环境初始化和简单算子使用
4-2 Kafka Source的使用(自定义序列解析器)
4-3 自定义Source算子
4-4 常用数据处理算子
4-5 聚合算子和reduce算子
4-6 多流之间的转换算子分流,合流,映射
4-7 富函数
4-8 Kafka sink的序列化器
4-9 redis sink
4-10 es sink讲解
4-11 自定义jdbc sink
4-12 Window的概念和类型
4-13 Flink的时间语义
4-14 Flink Watermark讲解
4-15 Flink新版本watermark Api编程
4-16 window窗口编程
4-17 窗口触发器和剔除器
4-18 窗口函数
4-19 Flink中的allowedLateness
- 第五章:Flink状态管理和容错
5-1 Flink算子状态和键控状态
5-2 keyedstate
5-3 operatorState
5-4 Checkpoints
5-5 Checkpints
5-6 StateBackend类别
5-7 Flink状态配置和查询方法
- 第六章:DataSet API介绍与使用
6-1 Flink批处理程序
6-2 Csv数据读取
6-3 map和filter算子的基本操作
6-4 distinct和cross算子
6-5 union和firstN算子
6-6 partition算子
6-7 累加器操作
6-8 inner join操作
6-9 outerjoin操作
6-10 广播变量
6-11 分布式缓存
- 第七章:Table API&SQL介绍与使用
7-1 Flink table和sql api的介绍
7-2 Stream sql编程案例
7-3 batch sql编程案例
7-4 动态表和连续表查询
7-5 Append模式
7-6 Retract模式
7-7 Flink sql读取Kafka案例
- 第八章:Flink组件栈介绍与使用
8-1 用户行为分析的意义
8-2 统计实时热门商品需求介绍
8-3 统计实时热门商品1
8-4 统计实时热门商品2
8-5 统计网站PV总量
8-6 统计网站UV总量
8-7 渠道统计数据源准备
8-8 分渠道统计
8-9 不分渠道统计
8-10 页面广告点击量统计数据准备
8-11 页面广告点击量统计
8-12 黑名单数据过滤
- 第九章:Flink监控与性能优化
9-1 实时数仓介绍
9-2 架构设计
9-3 mysql bingo和canal的介绍
9-4 masql相关环境配置
9-5 canal的搭建和验证
9-6 商品数据准备
9-7 订单数据的准备
9-8 通过flink table全量拉取数据
9-9 bingo数据格式介绍
9-10 增量数据的拉取
9-11 项目总结
本课程讲解的是当下大数据最流行的框架之一的flink框架,并且教程版本也使用的是最新的1.11版本,给大家详细讲解了flink相关的概念,环境的搭建及其API的使用,本教程使用的每一个算子都是使用最新的API 编写,能够使大家学习到flink最新的特性,学习完了flink基础知识后,通过两个案例,使大家更加熟练掌握每个算子能够完成哪些功能,并且使用flink table api 和flink sql结合datastream完成案例开发,当我们学会flink框架之后就能够完成公司中离线和实时场景的业务开发了。