内容简介:学习 Spark 2(二):RDD 创建
创建
内存
通过调用 sc.parallelize
方法,可以将 Driver 内存中的序列(Scala Seq)并行化为 RDD
val data = Seq(1, 2, 3, 4, 5, 6) val rdd1 = sc.parallelize(data) val rdd2 = sc.parallelize(data, 2) // 指定2个分区
文件系统
支持的文件系统:
- 本地( 注意:是 Worker 本地文件系统,不是 Driver 本地文件系统 ) file://
- HDFS hdfs://
支持的文件格式:
SparkContext.textFile
- 按行读取文本文件
- 支持读取目录、压缩文件
- 路径支持通配符
- 多个路径使用逗号分隔
通配符支持正则表达式如下:
- ? 匹配一个字符
-
- 匹配零到多个字符
- [abc] 匹配字符集 {a,b,c} 中一个字符
- [a-b] 匹配字符区间 {a...b} 中一个字符
- [^a] 匹配不是字符集或字符区间 {a} 中一个字符
- {ab,cd} 匹配字符串集 {ab,cd} 中一个字符串
// 读取路径下所有 JSON 文件
val rdd = sc.textFile("/data/user/*.json")
SparkContext.wholeTextFiles
- 按文件读取目录,返回 PairRDD,键为文件名 值为文件内容
以上所述就是小编给大家介绍的《学习 Spark 2(二):RDD 创建》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Perl最佳实践
康韦 / Taiwan公司 / 东南大学出版社 / 2008-3 / 78.00元
《Perl最佳实践》中所有的规则都是为了写出清晰、健壮、高效、可维护和简洁的程序而设计。Conway博士并不自诩这些规则是最广泛和最清晰的实践集,但实际上,《Perl最佳实践》确实提供了在实践中被广泛认可和应用的建议,而不是象牙塔似的编程理论。许多程序员凭直觉来编程,这些直觉来自于他们早期养成的习惯和风格。这样写出的程序似乎自然、直观,而且看起来也很不错。但是,如果你想严肃地对待程序员这份职业,那......一起来看看 《Perl最佳实践》 这本书的介绍吧!