关注公众号：大数据技术派，回复: 资料，领取1024G资料。 本文首发于我的个人博客：彻底搞清Flink中的Window机制 窗口 在流处理应用中，数据是连续不断的，因此我们不可能等到所有数据都到了才开始处理。当然我们可以每来一个消息就处理一次，但是有时我们需要做一些聚合类的处理，例如：在过去的1分钟内有多少用户点击了我们的网页。在这种情况下，我们必须定义一个窗口，用来收集最近一分钟内的数据，并对这个窗口内的数据进行计算。 Flink 认为 Batch 是 Streaming 的一个特例，所以 Flink 底层引擎…
TopN的常见应用场景，最热商品购买量，最高人气作者的阅读量等等。 1. 用到的知识点 Flink创建kafka数据源； 基于 EventTime 处理，如何指定 Watermark； Flink中的Window，滚动（tumbling）窗口与滑动（sliding）窗口； State状态的使用； ProcessFunction 实现 TopN 功能； 2. 案例介绍 通过用户访问日志，计算最近一段时间平台最活跃的几位用户topN。 创建kafka生产者，发送测试数据到kafka； 消费kafka数据，使用滑动（sl…
explode 和 lateral view 为什么把这两个放一块呢，因为这两个经常放在一起用啊。 explode与lateral view在关系型数据库中本身是不该出现的，因为他的出现本身就是在操作不满足第一范式的数据（每个属性都不可再分），本身已经违背了数据库的设计原理（不论是业务系统还是数据仓库系统），不过大数据技术普及后，很多类似pv，uv的数据，在业务系统中是存贮在非关系型数据库中，用json存储的概率比较大，直接导入hive为基础的数仓系统中，就需要经过ETL过程解析这类数据，explode与later…
因为最近在使用Vue和SpringBoot结合开发，异步请求使用axios这个插件，本身在后端已经配置了跨域，前端指定了axios.defaults.baseURL，对于get请求是没有问题的，本来以为可以安心写页面了，结果发现对于后端配置的需要验证authc才能访问的post页面完全不能访问。查询资料才知道，因为前端访问时候没有把cookie放到请求头里面，查阅了一下资料，这里记录下。axios我的配置是这样的： var axios = require('axios') axios.defau…
先来看一下2019年人口普查，也是第七次人口普查的男女性别比例数据，是目前最新的数据了。这里性别比，女性基数是100，例如：20 ~ 24这个区间，性别比是114.61，也就是说，114.6个男性对应100个女性。 可以看出，男女数量差异比较明显，但是在这个人口基数大国中，这个差异得以放大。那么，这个性别数量差异是怎么造成的呢？我们继续探究。 故事一 以前在农村重男轻女现象比较严重，我村里一户人家想要一个男孩，结果接连生了5胎，都是女孩。人生就是这样的倔强，也需要顽强，有时候你不坚持一下，你都不知道什么叫绝望。 故…
关注公众号：大数据技术派，领取资料，学习大数据技术。 理想情况下，我们应用对Yarn资源的请求应该立刻得到满足，但现实情况资源往往是有限的，特别是在一个很繁忙的集群，一个应用资源的请求经常需要等待一段时间才能的到相应的资源。在Yarn中，负责给应用分配资源的就是Scheduler。其实调度本身就是一个难题，很难找到一个完美的策略可以解决所有的应用场景。为此，Yarn提供了多种调度器和可配置的策略供我们选择。YARN架构如下: ResourceManager（RM）：负责对各NM上的资源进行统一管理和调度，将AM分配…
Driver spark.driver.cores driver端分配的核数，默认为1，thriftserver是启动thriftserver服务的机器，资源充足的话可以尽量给多。 spark.driver.memory driver端分配的内存数，默认为1g，同上。 spark.driver.maxResultSize driver端接收的最大结果大小，默认1GB，最小1MB，设置0为无限。 这个参数不建议设置的太大，如果要做数据可视化，更应该控制在20-30MB以内。过大会导致OOM。 spark.extraL…
Spark内核概述 Spark内核泛指Spark的核心运行机制，包括Spark核心组件的运行机制、Spark任务调度机制、Spark内存管理机制、Spark核心功能的运行原理等，熟练掌握Spark内核原理。 一、Spark核心组件回顾 Driver Spark驱动器节点，用于执行Spark任务中的main方法，负责实际代码的执行工作。Driver在Spark作业执行时主要负责： 1、将用户程序转化为任务（Job）； 2、在Executor之间调度任务（task）； 3、跟踪Executor的执行情况； 4、通过UI…
抽样 抽样在Hive 中也是比较常用的一种手段，主要用在下面的几个场景中 一些机器学习的场景中，数仓作为数据的提供方提供样本数据 数据的计算结果异常或者是指标异常，这个时候如果我们往往需要确认数据源的数据是否本身就有异常 SQL的性能有问题的时候我们也会使用抽样的方法区查看数据，然后进行SQL调优 在大规模数据量的数据分析及建模任务中，往往针对全量数据进行挖掘分析时会十分耗时和占用集群资源，因此一般情况下只需要抽取一小部分数据进行分析及建模操作。 随机抽样(rand()函数) 我们一般情况下是使用排序函数和rand…
Hive系列文章 Hive表的基本操作 Hive中的集合数据类型 Hive动态分区详解 hive中orc格式表的数据导入 Java通过jdbc连接hive 通过HiveServer2访问Hive SpringBoot连接Hive实现自助取数 hive关联hbase表 Hive udf 使用方法 Hive基于UDF进行文本分词 Hive窗口函数row number的用法 数据仓库之拉链表 1. 创建表 create table语句遵从sql语法习惯，只不过Hive的语法更灵活。例如，可以定义表的数据文件存储位置，使用…
