`
功夫小当家
  • 浏览: 183709 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

hadoop client机搭建

阅读更多

hadoop client机作为集群的堡垒机使用,使得集群环境和开发环境分离开来

 

选择集群外的一台机器,搭建client机,流程如下:

(1)配置单向(master可以ssh到client,client不可以ssh到master)ssh免登陆, 把master的id_rsa.pub内容添加到client机器的authorized_keys中


 

(2)修改client机器的 /etc/hosts 文件,添加master节点的ip和hostname

 

(3)把master节点的hadoop包scp到client机

(4)修改client机器的 /etc/profile 文件,添加HADOOP_HOME


  

(5)修改core-site.xml文件,其中 master_host:port 是NN的地址

<property>
    <name>fs.defaultFS</name>
    <value>hdfs://master_host:port</value>
</property>

 例如:


 

(6)测试是否成功

 

 

 

 

 

  • 大小: 17 KB
  • 大小: 4.6 KB
  • 大小: 3.4 KB
  • 大小: 4 KB
  • 大小: 20.6 KB
0
0
分享到:
评论

相关推荐

    Spark、Hadoop大数据平台搭建.pdf

    Spark、Hadoop⼤数据平台搭建 下载安装包 Spark 分布式计算 ,安装包⼤⼩:220M ⽀持Hadoop 2.7以后的版本 Scala Scala环境,Spark的开发语⾔ ,安装包⼤⼩:20M Hadoop 分布式存储(计算) ,安装包⼤⼩:209M Java...

    hadoop-3.3.4 版本(最新版)

    Hadoop 是一个能够让用户轻松搭建和使用的分布式计算平台,能 够让用户轻松地在 Hadoop 上开发和运行处理海量数据的应用程序。 Hadoop 架构有两个主要的组件:分布式文件系统 HDFS 和 MapReduce 引擎。 在 Hadoop 中...

    小白快速掌握Hadoop集成Kerberos安全技术频教程

    手把手视频详细讲解项目开发全过程,...3.2 Kerberos Client搭建 3.3 规划principal 第四章 配置HDFS和Kerberos的集成 第五章 配置YARN和Kerberos的集成 第六章 配置HIVE和Kerberos的集成 第七章 最终集成测试验收成果

    hadoop集群搭建时的问题

    自己搭集群用的 centos7 minimal 问题一 防火墙 一开始没装vmtools 手动...INFO ipc.Client: Retrying connect to server: linden10004/192.168.174.104:43012. Already tried 0 time(s); retry policy is RetryUpToMa

    Hadoop2.2.0集群在RHEL6.2下的安装实战

    本文介绍了一个Hadoop2.2.0集群的搭建过程,在2台4G内存的酷睿双核PC机上,使用VMWare WorkStation虚拟了4个RHEL6.2(1G内存、单核CPU、10G硬盘),总计用10个小时的时间,完成虚拟机制作和Hadoop建立过程,总体比较...

    【kettle集成cdh6.1】hadoop file output浏览目录报错:java.lang.NoClassDefFoundError: com/ctc/wstx/io/SystemId

    【kettle集成cdh6.1】外部数据源读写hdfs若干...在此之前,我已经从CDH HDFS管理页面将所需要的core-site.xml、hdfs-site.xml等文件下载并放置至相应的插件位置,又从HADOOP在里将hadoop-client-3.0.0-cdh6.1.0.jar、h

    大数据面试题,唬住50k.pdf

    下列哪项通常是集群的最主要瓶颈 a)CPU b)⽹络 c)磁盘 IO d)内存 答案:C 磁盘 ⾸先集群的⽬的是为了节省成本,⽤廉价的 pc 机,取代⼩型机及⼤型机。⼩型机和⼤型机有什么特点? 1.cpu 处理能⼒强 2.内存够⼤,...

    大数据开发技术.pdf

    hadoop 安装包下载 2、hadoop 安装包解压 3、hadoop 伪分布式 环境搭建环境搭建步骤如下:1、将 hadoop 安装目录添加到系统环 境变量(~/.bash_profile)2、配置 hadoop 环境的配置文件 hadoop-env.sh3、配置 ...

    2017最新大数据架构师精英课程

    50_Vmware安装-client centos7机安装2 Q. l/ r7 y) ^% n8 |4 _. k 51_centos文件权限-常用命令 52_网络静态ip-NAT连接方式-YUM安装, e9 j% z; B' ?! p1 D* Y 53_常用命令2 L V5 k8 y8 S h( Q0 `2 O4 s- I- N 54_for-...

    Spark环境搭建——on yarn集群模式

    本篇博客,Alice为大家带来关于如何搭建Spark的on yarn集群模式的教程。 文章目录准备工作cluster模式client模式[了解]两种模式的区别 官方文档: http://spark.apache.org/docs/latest/running-on-yarn.html 准备...

    openssh安装方法及软件

    搭建hadoop平台时,无法联网安装openssh,手动安装的方法以及所用软件,光安装zlib、openssl、openssh无法成功,需要按照文档中第四步再安装openssh的client,server,all才行。

    WiFiProbeAnalysis:基于WIFI探针的商业大数据分析技术

    本系统以Spark + Hadoop为核心,搭建了基于WIFI探针的大数据分析系统 项目演示 Module Introduction 系统配置说明 2019年10月3日更新 系统核心, 负责实时计算以及离线计算 主要技术或API: 名称 解释 Spark 分析...

    Hbase工具类

    文章目录HBASE 工具类HBASE 高可用搭建 HBASE 工具类 package com.day_219; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.client.HBaseAdmin; import org.apache.hadoop.hbase....

    HBase视频教程下载|基于微博数据应用的HBase实战开发

    课时18:搭建分布式HBase集群之Hadoop部署 课时19:搭建分布式HBase集群之HBase部署 课时20:sqoop2部署 课时21:使用sqoop2将mysql数据导入到HBase 课时22:集群管理之节点管理与数据任务 课时23:Rowkey设计与...

    word源码java-spark_demo:spark_demo

    word源码java 说明: yarn-client相当于是命令行 会将你输入的代码提交到yarn上面执行 yarn-cluster是将你写好的程序打成...jdk、scala、hadoop、spark nameNode、ResourceManager、Master c8 192.168.0.108 jdk、sca

    badjs-kafka-accepter:接受客户报告的日志,过滤日志并发送到kafka

    恰巧你或者公司有一个kafka环境(当然你可以自己搭一个并不会耗费很多时间)后端的日志都存在在kafka,实现前后日志统一存储和分析kafka拥有良好的性能基于kafka搭建ELK对大数据日志检索分析管理基于kafka的hadoop,...

    hive-mysql安装包,HIVE连接mysql驱动

    新手学习大数据搭建环境所需要安装资料包,其中包括hive-mysql安装包,HIVE连接mysql驱动。其中包括 apache-hive-1.2.1-bin.tar.gz MySQL-client-5.6.24-1.el6.x86_64.rpm mysql-connector-java-5.1.27.tar.gz MySQL-...

Global site tag (gtag.js) - Google Analytics