新一代大数据计算引擎 Flink从入门到实战 (热点内容更新)
〖课程介绍〗:
- 随着Flink社区的快速发展,很多公司采用以Flink为核心技术栈来打造统一的大数据处理平台 ,此时学习,正当其时。课程中从核心知识的多语言(Java-Scala)讲解到部署实战,循序渐进,助力系统入门Flink企业级应用。
〖课程目录〗:
- 第1章 初识Flink 试看10 节 | 50分钟
- 了解Flink是什么,Flink应用程序运行的多样化,对比业界常用的流处理框架,Flink的发展趋势,Flink生态圈,Flink应用场景及Flink如何进行高效的Flink学习。
- 收起列表
-
- 视频:1-1 课程导学 (12:01)试看
- 图文:1-2 ***学前必读***(助你平稳踩坑,畅学无忧,课程学习与解决问题指南)
- 视频:1-3 课程目录 (01:28)
- 视频:1-4 Flink概述 (12:52)试看
- 视频:1-5 Flink Layered API (05:13)
- 视频:1-6 Flink运行多样化 (04:49)
- 视频:1-7 业界流处理框架对比 (03:21)
- 视频:1-8 Flink Use Cases (03:18)
- 视频:1-9 Flink发展趋势 (02:12)
- 视频:1-10 如何以正确的姿势来学习Flink (04:00)
- 第2章 快速上手开发第一个Flink应用程序 试看15 节 | 83分钟
- 动手搭建Flink的开发环境,快速使用Java和Scala语言开发第一个基于Flink的批处理和流式处理的应用程序。
- 收起列表
-
- 视频:2-1 课程目录 (01:36)
- 视频:2-2 开发环境准备之JDK安装 (02:55)
- 视频:2-3 开发环境准备之Maven安装 (05:08)
- 视频:2-4 开发环境准备之IDEA安装 (01:58)
- 视频:2-5 Flink批处理应用开发之需求描述 (03:29)
- 视频:2-6 Flink批处理应用Java开发之环境准备 (13:40)
- 视频:2-7 Flink批处理应用开发之八股文编程 (03:06)
- 视频:2-8 Flink批处理应用Java开发之功能实现 (14:35)试看
- 视频:2-9 Flink批处理应用Scala开发之环境准备 (05:03)
- 视频:2-10 Flink批处理应用Scala开发之功能实现 (04:34)
- 视频:2-11 使用Java和Scala开发Flink应用程序对比 (04:04)
- 视频:2-12 Flink实时处理应用Java开发之功能实现 (08:30)
- 视频:2-13 Flink实时处理应用Java开发之代码重构 (05:22)
- 视频:2-14 Flink实时处理应用Scala开发之代码重构 (04:11)
- 视频:2-15 开发过程中依赖的注意事项 (04:04)
- 第3章 编程模型及核心概念10 节 | 70分钟
- 掌握Flink的核心概念及编程模型,如何在编程中执行key及转换函数,Flink支持的数据类型。
- 收起列表
-
- 视频:3-1 课程目录 (02:05)
- 视频:3-2 核心概念概述 (05:19)
- 视频:3-3 DataSet和DataStream (05:59)
- 视频:3-4 Flink编程模型 (11:33)
- 视频:3-5 延迟执行 (04:00)
- 视频:3-6 指定key之Tuple (07:15)
- 视频:3-7 指定key之字段表达式 (15:04)
- 视频:3-8 指定key之key选择器函数 (04:29)
- 视频:3-9 指定转换函数 (04:58)
- 视频:3-10 Flink支持的数据类型 (08:35)
- 第4章 DataSet API编程38 节 | 200分钟
- 掌握Flink批处理开发的DataSet API的编程,包括数据源、转换函数、Sink、计数器以及分布式缓存的编程。
- 收起列表
-
- 视频:4-1 课程目录 (03:03)
- 视频:4-2 DataSet API开发概述 (08:26)
- 视频:4-3 Flink综合Java和Scala开发的项目构建creenflow (04:41)
- 视频:4-4 Data Source宏观概述 (05:39)
- 视频:4-5 从集合创建DataSet之Scala实现 (03:52)
- 视频:4-6 从集合创建DataSet之Java实现 (03:03)
- 视频:4-7 从文件或者文件夹创建DataSet之Scala实现 (04:34)
- 视频:4-8 从文件或者文件夹创建DataSet之Java实现 (02:11)
- 视频:4-9 从csv文件创建Dataset之Scala实现 (12:58)
- 视频:4-10 从递归文件夹的内容创建DataSet之Scala实现 (05:16)
- 视频:4-11 从压缩文件中创建DataSet之Scala实现 (06:39)
- 视频:4-12 Transformation概述 (03:24)
- 视频:4-13 Transformation函数map之Scala实现 (06:17)
- 视频:4-14 Transformation函数map之Java实现 (04:32)
- 视频:4-15 Transformation函数filter之Scala实现 (03:02)
- 视频:4-16 Transformation函数filter之Java实现 (01:48)
- 视频:4-17 Transformation函数mapPartition之Scala实现 (08:15)
- 视频:4-18 Transformation函数mapPartition之Java实现 (04:09)
- 视频:4-19 Transformation函数first之Scala实现 (06:13)
- 视频:4-20 Transformation函数first之Java实现 (04:39)
- 视频:4-21 Transformation函数flatMap之Scala实现 (04:03)
- 视频:4-22 Transformation函数flatMap之Java实现 (04:10)
- 视频:4-23 Transformation函数distinct之Scala和Java实现 (02:47)
- 视频:4-24 Transformation函数join之Scala实现 (05:29)
- 视频:4-25 Transformation函数outerJoin之Scala实现 (04:49)
- 视频:4-26 Transformation函数join之Java实现 (03:48)
- 视频:4-27 Transformation函数outerJoin之Java实现 (02:43)
- 视频:4-28 Transformation函数cross之Scala实现 (03:34)
- 视频:4-29 Transformation函数cross之Java实现 (02:02)
- 视频:4-30 Transformation小结 (05:56)
- 视频:4-31 Sink函数Scala实现 (11:06)
- 视频:4-32 Sink函数Java实现 (03:10)
- 视频:4-33 通过案例引入Flink的计数器 (05:36)
- 视频:4-34 基于Flink编程的计时器之Scala实现 (08:09)
- 视频:4-35 基于Flink编程的计时器之Java实现 (03:53)
- 视频:4-36 基于Flink的分布式缓存功能的Scala实现 (15:46)
- 视频:4-37 基于Flink的分布式缓存功能的Java实现 (04:27)
- 视频:4-38 本章节小结及作业 (04:58)
- 第5章 DataStream API编程16 节 | 88分钟
- 掌握Flink流处理开发的DataStream API的编程,包括数据源、转换函数、Sink的用法,以及如何自定义数据源和自定义Sink的实现。
- 收起列表
-
- 视频:5-1 DataStream API编程概述 (09:56)
- 视频:5-2 从Socket创建DataStream之Java实现 (02:21)
- 视频:5-3 从Socket创建DataStream之Scala实现 (09:26)
- 视频:5-4 自定义数据源方式SourceFunction之Scala实现 (12:09)
- 视频:5-5 自定义数据源方式ParallelSourceFunction之Scala实现 (03:19)
- 视频:5-6 自定义数据源方式RichParallelSourceFunction之Scala实现 (03:38)
- 视频:5-7 自定义数据源方式之Java实现 (05:47)
- 视频:5-8 Transformation函数map和filter之Scala实现 (06:19)
- 视频:5-9 Transformation函数map和filter之Java实现 (02:47)
- 视频:5-10 Transformation函数union之Scala和Java实现 (03:02)
- 视频:5-11 Transformation函数split和select之Scala实现 (05:07)
- 视频:5-12 Transformation函数split和select之Java实现 (02:35)
- 视频:5-13 自定义Sink之需求描述及表创建 (05:48)
- 视频:5-14 自定义Sink之功能测试 (11:47)
- 视频:5-15 DataStream API开发小结 (02:58)
- 作业:5-16 【讨论题】谈谈你对Flink中并行度的认识
- 第6章 Flink Table API & SQL编程6 节 | 38分钟
- 了解Flink中统一编程模式的编程Table API以及SQL API的开发及使用。
- 收起列表
-
- 视频:6-1 课程目录 (01:48)
- 视频:6-2 什么是Flink关系型API (09:05)
- 视频:6-3 Table API&SQL概述 (06:04)
- 视频:6-4 使用Scala完成Table API&SQL功能的开发 (10:32)
- 视频:6-5 使用Java完成Table API&SQL功能的开发 (07:59)
- 视频:6-6 Table API&SQL其他功能介绍 (01:39)
- 第7章 Flink中的Time及Windows的使用18 节 | 90分钟
- 掌握Flink中三种常用的Time处理方式,掌握Flink中滚动窗口以及滑动窗口的使用,了解Flink中的watermark。
- 收起列表
-
- 视频:7-1 课程目录 (02:21)
- 视频:7-2 Processing Time详解 (11:21)
- 视频:7-3 Event Time详解 (09:35)
- 视频:7-4 Ingestion Time详解 (03:49)
- 视频:7-5 如何在Flink中指定Time的类型 (02:39)
- 视频:7-6 Windows概述 (07:00)
- 视频:7-7 Window Assigners详解 (07:16)
- 视频:7-8 基于Time和Count的Windows (03:24)
- 视频:7-9 Tumbling Windows详解及Scala编程 (07:50)
- 视频:7-10 Tumbling Windows Java编程 (04:33)
- 视频:7-11 Sliding Windows详解及Scala编程 (06:28)
- 视频:7-12 Window Functions之ReduceFunction的Scala实现 (10:33)
- 视频:7-13 Window Functions之ReduceFunction的Java实现 (03:12)
- 视频:7-14 Window Functions之ProcessWindowFunction的Java实现 (05:48)
- 视频:7-15 作业–Window Functions之ProcessWindowFunction的Scala实现 (01:19)
- 视频:7-16 Flink watermark概述 (02:32)
- 作业:7-17 【讨论题】谈谈你对Watermark的认识
- 作业:7-18 【讨论题】谈谈你对Flink中Window的认识
- 第8章 Flink Connectors12 节 | 67分钟
- 了解Flink中常用的Connector有哪些,了解HDFS Connector的用户,掌握Flink和Kafka对接的Connnector用法。
- 收起列表
-
- 视频:8-1 课程目录 (02:16)
- 视频:8-2 Connectors概述 (03:31)
- 视频:8-3 HDFS Connector的使用 (11:07)
- 视频:8-4 Kafka Connector概述 (05:35)
- 视频:8-5 OOTB环境的使用 (06:43)
- 视频:8-6 ZooKeeper部署 (05:45)
- 视频:8-7 Kafka部署及测试 (08:46)
- 视频:8-8 Flink对接Kafka作为Source使用 (08:15)
- 视频:8-9 Flink对接Kafka作为Sink使用 (05:28)
- 视频:8-10 作业 (01:06)
- 视频:8-11 Flink整合Kafka的offset管理及EXACTLY_ONCE语义 (04:21)
- 视频:8-12 Flink整合Kafka的checkpoint常用参数设置梳理 (03:19)
- 第9章 Flink部署及作业提交12 节 | 89分钟
- 掌握Flink的local、standalone、yarn模式的部署,如何提交Flink作业进行运行,熟悉Flink中常用的配置参数,掌握Flink cli的用法。
- 收起列表
-
- 视频:9-1 课程目录 (03:06)
- 视频:9-2 Flink部署准备及源码编译 (15:47)
- 视频:9-3 单机模式部署及代码提交测试 (12:15)
- 视频:9-4 Flink Standalone模式部署及参数详解 (19:20)
- 视频:9-5 Hadoop集群快速搭建 (07:32)
- 视频:9-6 Flink on YARN两种方式 (06:54)
- 视频:9-7 Flink on YARN第一种模式实操 (08:42)
- 视频:9-8 Flink on YARN第二种模式实操 (03:09)
- 视频:9-9 Flink on YARN作业 (01:13)
- 视频:9-10 如何查找需要配置的Flink参数及UI对应关系介绍 (04:58)
- 视频:9-11 Flink Scala Shell的使用 (03:02)
- 视频:9-12 本章作业 (02:24)
- 第10章 Flink监控及调优7 节 | 49分钟
- 掌握Flink的常用监控方式以及调优策略。
- 收起列表
-
- 视频:10-1 课程目录 (02:21)
- 视频:10-2 HistoryServer概述及配置 (14:03)
- 视频:10-3 HistoryServer的使用 (03:13)
- 视频:10-4 HistoryServer REST API使用 (05:20)
- 视频:10-5 Monitoring REST API (04:11)
- 视频:10-6 Flink Metrics (10:20)
- 视频:10-7 Flink常用优化策略 (09:11)
- 第11章 基于Flink的互联网直播平台日志分析项目实战22 节 | 131分钟
- 掌握基于Flink的大数据项目的开发流程、处理流程及架构分析,根据需求进行功能的实现,涉及到基于Flink的实时数据清洗、业务统计、可视化展示等流程。
- 收起列表
-
- 视频:11-1 课程目录 (00:56)
- 视频:11-2 项目背景 (04:27)
- 视频:11-3 项目功能需求描述 (03:46)
- 视频:11-4 项目架构 (04:00)
- 视频:11-5 Mock数据之Kafka生产者代码主流程开发 (09:24)
- 视频:11-6 Mock数据之Kafka生产者代码日志生产开发 (07:33)
- 视频:11-7 使用Flink消费Kafka生产的数据 (05:31)
- 视频:11-8 使用Flink完成实时日志清洗功能开发 (07:01)
- 视频:11-9 数据清洗过程中添加业务逻辑条件的过滤 (05:25)
- 视频:11-10 Flink中Watermark的定义及使用 (09:31)
- 视频:11-11 WindowFunction业务逻辑的实现 (12:41)
- 视频:11-12 ES部署 (04:25)
- 视频:11-13 Kibana部署 (03:31)
- 视频:11-14 统计分析数据写入ES并通过Kibana展示出来 (14:20)
- 视频:11-15 通过Kibana图形化展示ES中存储的结果 (05:48)
- 视频:11-16 第一个功能作业 (02:02)
- 视频:11-17 功能二需求及数据准备 (06:41)
- 视频:11-18 自定义MySQL数据源读取 (09:21)
- 视频:11-19 完成两个流关联的数据清洗功能 (08:58)
- 视频:11-20 本章节总结 (04:57)
- 作业:11-21 【讨论题】Flink项目面试相关
- 作业:11-22 【讨论题】基于Flink建设实时数仓的解决方案
- 第12章 Flink版本升级4 节 | 16分钟
- 掌握Flink应用程序的版本升级,Flink环境的升级。
- 收起列表
-
- 视频:12-1 课程目录 (01:14)
- 视频:12-2 Flink版本升级概述 (03:12)
- 视频:12-3 Flink部署包升级及工程依赖的Flink版本升级 (05:11)
- 视频:12-4 将升级后的代码运行到升级后的Flink上去 (05:28)
- 第13章 (讨论群内直播内容分享)Flink读取HBase9 节 | 63分钟
- Flink作为业界最火热的计算引擎,HBase作为业界最流行的NoSQL数据库,本次课将讲解如何使用Flink高效的对HBase数据库进行数据的存取。
- 收起列表
-
- 视频:13-1 本章节概述 (04:33)
- 视频:13-2 HBase部署 (11:51)
- 视频:13-3 Flink读写操作API (04:22)
- 视频:13-4 Flink读写HBase依赖讲解 (05:04)
- 视频:13-5 Flink写数据到HBase准备工作 (04:08)
- 视频:13-6 Flink写数据到HBase功能开发 (11:14)
- 视频:13-7 Flink写数据到HBase功能测试及小问题修复 (03:03)
- 视频:13-8 Flink读取HBase功能开发 (16:21)
- 视频:13-9 正确的学习姿势分享 (02:11)
- 第14章 Flink Table API&SQL编程14 节 | 78分钟
- 在本章中,将带领大家学习Flink中Table API&SQL的核心概念,DataStream/DataSet整合Table API&SQL进行开发,掌握流式SQL处理中的动态表和持续处理,并完成到1.9版本的升级。
- 收起列表
-
- 视频:14-1 课程目录 (01:09)
- 视频:14-2 Flink升级到1.9版本 (03:48)
- 视频:14-3 Table API&SQL概述 (07:48)
- 视频:14-4 思考题 (00:41)
- 视频:14-5 加入Table API&SQL开发所需要的依赖 (05:28)
- 视频:14-6 概念及通用API (12:19)
- 视频:14-7 DataStream整合SQL实战 (10:40)
- 视频:14-8 DataSet整合SQL实战 (05:49)
- 视频:14-9 DataSet整合Table API实战 (02:50)
- 视频:14-10 流数据上的关系查询 (03:59)
- 视频:14-11 动态表和持续查询 (06:23)
- 视频:14-12 Append only模式 (08:46)
- 视频:14-13 Retract模式 (02:13)
- 视频:14-14 Table API实战 (05:57)
- 第15章 Flink1.10新特性分析及版本升级9 节 | 39分钟
- 本章中,将带领大家分析社区最新发布的Flink1.10版本中包含的新特性、改进点,让小伙伴们知晓新版本中所包含的内容,并将我们的项目升级到最新版本,结合代码对比新老版本的API所发生的变化。
- 收起列表
-
- 视频:15-1 课程目录 (01:01)
- 视频:15-2 Flink1.10新特性概述 (04:17)
- 视频:15-3 Flink新特性之内存管理及配置优化 (06:02)
- 视频:15-4 Flink新特性之统一的作业提交逻辑 (02:20)
- 视频:15-5 Flink新特性之原生Kubernetes集成 (04:06)
- 视频:15-6 Flink新特性之Table API&SQL (08:30)
- 视频:15-7 Flink新特性之PyFlink与其他的重要变化 (04:47)
- 视频:15-8 小彩蛋 (01:30)
- 视频:15-9 Flink升级到1.10版本- (06:03)
- 第16章 Flink State管理12 节 | 86分钟
- 本章中,会带领大家学习在Flink流处理中为什么要引入State?State分类有哪些?如何自定义实现State功能?Flink中的Checkpoint机制有什么作用?重启策略以及StateBackend在生产上如何使用?
- 收起列表
-
- 视频:16-1 课程目录 (01:52)
- 视频:16-2 State引入 (08:53)
- 视频:16-3 State分类 (08:26)
- 视频:16-4 KeyedState案例开发 (18:16)
- 视频:16-5 Checkpoint机制 (09:13)
- 视频:16-6 开启Checkpoint (04:37)
- 视频:16-7 重启策略 (04:36)
- 视频:16-8 重启策略测试 (06:10)
- 视频:16-9 重启策略结合State进行测试 (03:54)
- 视频:16-10 StateBackend (06:16)
- 视频:16-11 StateBackend测试 (06:45)
- 视频:16-12 SavePoint (07:02)
免责声明: 1.本文部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。 2.若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。 3.如果本站有侵犯、不妥之处的资源,请在网站最下方联系我们。将会第一时间解决! 4.本站所有内容均由互联网收集整理、网友上传,仅供大家参考、学习,不存在任何商业目的与商业用途。 5.本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与商业和非法行为,请在24小时之内自行删除!
梦想思维优质互联网资源分享平台 » 新一代大数据计算引擎 Flink从入门到实战 (热点内容更新)
梦想思维优质互联网资源分享平台 » 新一代大数据计算引擎 Flink从入门到实战 (热点内容更新)