学习 Spark 2(二):RDD 创建

栏目: 编程工具 · 发布时间: 6年前

内容简介:学习 Spark 2(二):RDD 创建

创建

内存

通过调用 sc.parallelize 方法,可以将 Driver 内存中的序列(Scala Seq)并行化为 RDD

val data = Seq(1, 2, 3, 4, 5, 6)  
val rdd1 = sc.parallelize(data)  
val rdd2 = sc.parallelize(data, 2) // 指定2个分区

文件系统

支持的文件系统:

  • 本地( 注意:是 Worker 本地文件系统,不是 Driver 本地文件系统 ) file://
  • HDFS hdfs://

支持的文件格式:

SparkContext.textFile

  • 按行读取文本文件
  • 支持读取目录、压缩文件
  • 路径支持通配符
  • 多个路径使用逗号分隔

通配符支持正则表达式如下:

  • ? 匹配一个字符
    • 匹配零到多个字符
  • [abc] 匹配字符集 {a,b,c} 中一个字符
  • [a-b] 匹配字符区间 {a...b} 中一个字符
  • [^a] 匹配不是字符集或字符区间 {a} 中一个字符
  • {ab,cd} 匹配字符串集 {ab,cd} 中一个字符串
// 读取路径下所有 JSON 文件
val rdd = sc.textFile("/data/user/*.json")

SparkContext.wholeTextFiles

  • 按文件读取目录,返回 PairRDD,键为文件名 值为文件内容

以上所述就是小编给大家介绍的《学习 Spark 2(二):RDD 创建》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

重构(影印版)

重构(影印版)

Martin Fowler / 中国电力出版社 / 2003-7-1 / 49.00元

随着对象技术应用越来越普及,软件开发社区出现了一个新的问题。缺乏经验的开发者编写出了大批设计较差的程序,导致这些应用程序非常低效,且难于维护和扩展。本书除了讨论重构的各种技巧之外,还提供了超过70个可行重构的详细编目,对如何应用它们给出了有用的提示;并以step by step的形式给出了应用每一种重构的指南;而且用实例展示了重构的工作原理。这些示例都是用Java语言写成的,但其中的思想却可以运用......一起来看看 《重构(影印版)》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具