内容简介:在需要对数据进行去重计数的场景里,实现方式是将数据明细存储在集合的数据结构中。然而,随着数据随时间的不断累积,明细数据占用了大量的存储空间。使用 HyperLoglog 去重计数,在牺牲非常小准确性的情况下,可以极大的减少数据存储。编辑 pom.xml 文件,添加依赖:定义状态:
在需要对数据进行去重计数的场景里,实现方式是将数据明细存储在集合的数据结构中。然而,随着数据随时间的不断累积,明细数据占用了大量的存储空间。使用 HyperLoglog 去重计数,在牺牲非常小准确性的情况下,可以极大的减少数据存储。
依赖
编辑 pom.xml 文件,添加依赖:
<dependency> <groupId>net.agkn</groupId> <artifactId>hll</artifactId> <version>1.6.0</version> </dependency>
使用
定义状态:
private ValueState<Byte[]> hllState;
初识化状态:
@Override public void open(Configuration parameters) throws Exception { super.open(parameters); ValueStateDescriptor<Byte[]> hllStateDescriptor = new ValueStateDescriptor<>( "hll", Types.OBJECT_ARRAY(Types.BYTE) ); this.hllState = getRuntimeContext().getState(hllStateDescriptor); }
处理方法中,由状态获取 HLL:
HLL hll = null; if (this.hllState.value() == null) { hll = new HLL(14, 5); } else { hll = HLL.fromBytes(ArrayUtils.toPrimitive(this.hllState.value())); }
处理方法中,由 HLL 更新状态:
this.hllState.update(ArrayUtils.toObject(hll.toBytes()));
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网
猜你喜欢:本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
JAVA核心技术(卷1)
Cay S. Horstmann、Gary Cornell / 杜永萍、邝劲筠、叶乃文 / 机械工业出版社 / 2008-6 / 98.00元
《JAVA核心技术(卷1):基础知识(原书第8版)》是《Java核心技术》的最新版,《Java核心技术》出版以来一直畅销不衰,深受读者青睐,每个新版本都尽可能快地跟上Java开发工具箱发展的步伐,而且每一版都重新改写了的部分内容,以便适应Java的最新特性。本版也不例外,它反遇了Java SE6的新特性。全书共14章,包括Java基本的程序结构、对象与类、继承、接口与内部类、图形程序设计、事件处理......一起来看看 《JAVA核心技术(卷1)》 这本书的介绍吧!