Mac下搭建Hadoop环境

栏目: 编程工具 · 发布时间: 8年前

内容简介:Mac下搭建Hadoop环境

安装JDK

安装JDK,安装成功后在终端中输入 java -version ,显示如下

java version "1.7.0_51"
Java(TM) SE Runtime Environment (build 1.7.0_51-b13)
Java HotSpot(TM) 64-Bit Server VM (build 24.51-b03, mixed mode)

安装Hadoop

下载 Hadoop ,将该文件解压至 /usr/local 目录下

配置系统环境变量

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.7.0_51.jdk/Contents/Home
export HADOOP_HOME=/usr/local/hadoop-2.4.1
export HADOOP_PREFIX=${HADOOP_HOME}
export HADOOP_COMMON_HOME=${HADOOP_PREFIX}
export HADOOP_HDFS_HOME=${HADOOP_PREFIX}
export HADOOP_MAPRED_HOME=${HADOOP_PREFIX}
export HADOOP_YARN_HOME=${HADOOP_PREFIX}
export HADOOP_CONF_DIR="$HADOOP_HOME/etc/hadoop/"
export YARN_CONF_DIR=${HADOOP_CONF_DIR}
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_PREFIX/bin:$HADOOP_PREFIX/sbin

配置ssh

测试ssh是否可以登录

输入 ssh localhost 显示

ssh: connect to host localhost port 22: Connection refused

表示ssh未配置,需要进行配置;

“系统偏好设置”–>”共享”–>”远程登录”;

再次输入 ssh localhost ,输入密码后可以看到连接成功的信息

Last login: Mon Jul 14 23:41:32 2014 from localhost

设置ssh免登录

  • 构造秘钥
    ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
    -t: 秘钥类型
    -P: 提供密语
    -f: 生成的秘钥文件
    执行指令后,.ssh目录中将出现id_dsa私钥和id_dsa公钥
  • 将公钥追加到授权key中
    cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

配置Hadoop环境

###

参考资料


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

强化学习精要

强化学习精要

冯超 / 电子工业出版社 / 2018-6 / 80

《强化学习精要:核心算法与TensorFlow 实现》用通俗幽默的语言深入浅出地介绍了强化学习的基本算法与代码实现,为读者构建了一个完整的强化学习知识体系,同时介绍了这些算法的具体实现方式。从基本的马尔可夫决策过程,到各种复杂的强化学习算法,读者都可以从本书中学习到。本书除了介绍这些算法的原理,还深入分析了算法之间的内在联系,可以帮助读者举一反三,掌握算法精髓。书中介绍的代码可以帮助读者快速将算法......一起来看看 《强化学习精要》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

正则表达式在线测试
正则表达式在线测试

正则表达式在线测试

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具