首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#flink

南方政务行业Flink写入大规模ES集群(100节点)故障问题定位解决

用户9421738

春节前期南方政务某现场搭建了大规模100节点ES集群。最近开始上线新业务流程:FlinkCDC将业务数据库日志写入Kafka,然后Flink消费Kafka数据写...

6110

Flink对数据延迟的解决方案!

JavaEdge

一系列数据(Data-5, Data-4, Data-1, Data-3, Data-2)按一定顺序排列。

10200

大数据知识总结(四):Flink的重点架构原理

Lansonli

Apache Flink 是一个框架和分布式处理引擎,用于在无边界和有边界数据流上进行有状态的计算。

22810

dede给友情链接添加上锚文本效果

用户1088318

打开/include/taglib/flink.lib.php 查找以下代码:

4500

【赵渝强老师】Scala编程语言

赵渝强老师

Scala是一种多范式的编程语言,其设计的初衷是要集成面向对象编程和函数式编程的各种特性。Scala运行于Java平台(Java虚拟机)之上,并兼容现有的Jav...

9210

Kafka磁盘故障leader不切换致命级Bug:交通行业TOP10客户Flink实时结算业务P0级故障修复回溯总结

用户9421738

五一假期某局点高速龙门架计费业务瘫痪,ISV定位之后反馈业务系统模块存在Flink写Kafka失败的问题。具体的异常日志如下:

5810

基于 Flink 的实时推荐系统:从协同过滤到多模态语义理解

小白的大数据之旅

嘿,各位技术小伙伴们!在这个信息爆炸的时代,你是不是常常惊叹于各大平台仿佛能 “读懂你的心”,精准推送你感兴趣的内容呢?今天,小编就带大家深入探寻背后的神奇技术...

15110

一文搞懂Flink 的 Materialized Table:简化数据管道的利器

shengjk1

在数据处理领域,Apache Flink 一直是流处理和批处理的佼佼者。随着数据量的不断增长和业务需求的日益复杂,如何简化数据管道的开发和管理成为了亟待解决的问...

8710

Flink 中RocksDB 为什么将每个键和值的限制为 2^31 字节

shengjk1

RocksDB 的 JNI(Java Native Interface)桥接 API 对每个键和值的大小限制为 2^31 字节(即 2GB),主要是由以下几个原...

8000

Flink 通过 paimon 关联维表,内存降为原来的1/4

shengjk1

线上实时任务,通过 FlinkSQL 关联 Iceberg 维表,维表大搞有 60w,首先通过 FlinkSQL关联 Iceberg 维表上线了,经过一番调优后...

7200

Flink container exit 143 问题排查

shengjk1

写了一个 Flink 作业基于状态计算各种汇总数据,刚开始没有问题是正常的,做完一个 checkpoint 后,就开始报错,错误内容如下:

2200

为什么 Flink 抛弃了 Scala

shengjk1

想当初Spark横空出世之后,Scala简直就是语言界的一颗璀璨新星,惹得大家纷纷侧目,连Kafka这类技术框架也选择用Scala语言进行开发重构。 可如今,...

8100

关于 Flink State 的元数据

shengjk1

Flink State 是有元数据的,元数据发生改变后,Flink 就无法从 ck 或者 savepoint 中恢复。

5000

结合 Flink 学习装饰者模式

shengjk1

动态的将责任附加到对象上。若要扩展功能,装饰者提供了比继承更有弹性的替代方案。 简单的理解就是通过包装来扩展功能,相比于继承,更有弹性

2800

一文搞懂Flink生成StreamGraph

shengjk1

像 filter、map等都会进行类似的操作,flink sql 中也是采用这样的方式来将 ExecNode 转化为 flink operator 的

3800

写给大忙人的Flink的Data Types

shengjk1

二、Flink 是如何处理 Data Type 的 首先Flink会根据自身的序列化器进行序列化,如果不行,则默认回退到 Kryo 序列化器进行序列化。

6010

Flink getRuntimeContext().getMapState的时候发生了什么?

shengjk1

我们一起看一下,它是如何获取原始 state 的,跟进到 AbstractKeyedStateBackend

5000

Flink StateDescriptor Name的作用

shengjk1

结论: ColumnFamily Name==ColumnFamilyDescirptor Name == StateDescriptor Name

4900

Flink是如何kafka读取数据的

shengjk1

首先来看一下 FlinkKafkaConsumerBase.run方法,相当于是Flink 从kafka中拉取数据的入口方法:

5800
领券