zoukankan      html  css  js  c++  java
  • 【2】hadoop搭建准备软件

    准备一:VMware虚拟工具

    链接:http://pan.baidu.com/s/1o7F4A6I 密码:w5ti
    

    准备二:CentOS6.8虚拟机(64位):如果64位不允许安装,可能是电脑设置问题,重启电脑打开BIOS,设置虚拟机的选项为enable

    链接:http://pan.baidu.com/s/1b0tXN4 密码:oxzz
    

      内存(memory)一般1G以上,Network Adapter要设置成NAT,不然虚拟机跟电脑之间不能通信(也许是我太菜)

      进入虚拟机的桌面(如果你是命令行的状态,可以键入startx进入),右上角两个电脑图标右击选择edit编辑,可以上面左图,edit编辑eth0,设置IP即可,

    注意:ip地址的前三位要跟你的电脑IP一样(本机windows下 命令行键入ipconfig即可查看)

    上面修改IP过后,是可以连接上的,但是会出现问题,yum下载文件一直出错误,所以如果你也出现yum install安装失败的时候,可以尝试自动分配IP地址的方式(知道原因的还请交流,谢谢了)

    准备三:securecrt8.0带有注册机,自行破解,用于连接虚拟机

    链接:http://pan.baidu.com/s/1nuJAt65 密码:s3p9
    

      闪电图标快速连接,输入虚拟机的ip地址(右键open in terminal进入命令行,键入ifconfig查看IP地址),输入用户名连接即可,注意要关闭虚拟机的防火墙(键入service iptables stop),如果可以连接才会让你输入密码。

    CRT想要给虚拟机上传文件,是需要安装软件的,键入下面即可安装,中间一律键入y(如果出现错误:可能是自己设置IP没设置好弄的,我的错误正是如此,改用自动分配可以解决)

    yum install lrzsz
    

    上传到linux系统文件,键入rz即可选择文件夹上传,上传到位置是你位于虚拟机当前文件夹的位置,可以使用mv移动到你想要的位置,也可以直接当你想要位置的目录下使用rz

    准备四:Linux环境下64位JDK7

    链接:http://pan.baidu.com/s/1jI4xB2e 密码:ehzd
    

      1.是给linux系统安装jdk是必须的(因为要跑java程序),首先查看系统自带的jdk版本,解释一下,qa是query all的意思,|是管道,grep是搜索系统,用于搜索后面的关键字

    rpm -qa|grep java
    

      2.如果有自带的jdk(而且不属于orcle的),就需要卸载掉了,后面可以同时跟上多个要卸载的文件

    rpm -e --nodeps file1 file2 file3 
    

      3.从securecrt上用rz来上传,所下载的jdk(jdk-7u67-linux-x64.tar.gz),我保存在了/usr/local/java/下面,然后解压它即可,filename是你想解压的文件。如果不加上-C以及后面的内容,则是解压到当前路径下,加上-C filepath即可解压到所设置到的绝对路径下面。

    tar -zvxf filename -C filepath
    

      4.配置一下环境变量,所谓环境变量,就是一个程序中的全局变量,只有定义了全局变量,才可以在任何位置调用,jdk环境变量的配置是在/etc/profile文件中

    vi /etc/profile

      5.命令行状态大写G直接到达最后一行,然后命令行状态键入o直接在下一行进行编辑状态,加上下面两行,JAVA_HOME就一个基础变量,$可以调用变量,PATH变量配置了jdk的路径$JAVA_HOME/bin 便是 /usr/local/java/jdk1.7.0_67/bin的意思。

    export JAVA_HOME=/usr/local/java/jdk1.7.0_67
    export PATH=$PATH:$JAVA_HOME/bin
    

      6.最后要使配置的profile不重启也可生效

    source /etc/profile
    

      7.完成之后就可以键入java -version查看安装的状态了。

    [root@localhost jdk1.7.0_67]# java -version
    java version "1.7.0_67"
    Java(TM) SE Runtime Environment (build 1.7.0_67-b01)
    Java HotSpot(TM) 64-Bit Server VM (build 24.65-b04, mixed mode)
    

      8.jdk至此便安装成功了。

    准备五:FileZilla用于给虚拟机上传文件(也可以用CRT的rz上传)

    链接:http://pan.baidu.com/s/1mhOwkWw 密码:4a2s
    

    1.我使用的是ftp工具,首先需要在linux上安装vsftp和db4

    yum install vsftpd*
    
    yum install db4*
    

    2.待定

    准备六:NppFTP,使用Nodepad++的时候,用于连接虚拟机的插件,在linux环境下编辑文件简直变态,安装这个插件后可以直接进行FTP连接,然后编辑

    链接:http://pan.baidu.com/s/1miqMxXu 密码:8btr
    

    下载后的插件放在nodepad++的安装目录下,启动nodepad,上方工具栏的插件选项NppFTP,选择show Nppftp window,就会出现下面图标,

    点击过后右边就会出现框体,点击设置图标(锯齿轮),选择profile settings,出现下面设置,左脚脚add new可以新建一个连接,填上linux的信息,注意选择的是SFTP方式。

    相信大家都希望以平时的编辑方式编辑把,这个一定是一大助力。

    准备七:Hadoop(hadoop-2.5.0.tar.gz)

    链接:http://pan.baidu.com/s/1i5uWsJV 密码:lfd1
    

    准备八:Maven(apache-maven-3.0.5-bin.tar.gz)

    http://www.apache.org/dist//maven/maven-3/3.0.5/binaries/
    

      1.解压下载好的maven,注意你想解压的路径

    tar -zvxf apache-maven-3.0.5-bin.tar.gz -C /usr/local/java/
    

      2.配置maven的环境变量,大写G进入配置文件末尾,小写o进入下一行编辑状态,最后esc进入命令状态,大写ZZ保存编辑

    vi /etc/profile

        export MAVEN_HOME=/usr/local/java/apache-maven-3.0.5
        export PATH=$PATH:$MAVEN_HOME/bin

      3.更新profile,使之立即生效

    source /etc/profile
    

      4.配置maven,maven有个默认的本地仓库,.m2/repository,为其手动创建一个

    mkdir -p ~/.m2/repository
    

      5.maven会联网自动从中心仓库中下载需求的jar包,速度可能会慢,这里本地给解压一个(可以不用此步骤)

    tar -zvxf repository.tar.gz -C ~/.m2/
    

      6.复制一份settings.xml到仓库中

    cp ~/.m2/repository/conf/settings/xml .
    

    准备九:eclipse

    链接:http://pan.baidu.com/s/1miwmj48 密码:v7vl
    

      1.解压

    tar -zvxf eclipse-jee-kepler-SR1-linux-gtk-x86_64.tar.gz -C /usr/local/java
    

      2.运行(/usr/local/java/eclipse目录下)

    ./eclipse
    

      3.修改一下快捷键(为了方便),但是alt+/有其他设置(发生冲突了),修改掉

    window-->preference-->key-->content assist-->修改binding为alt+/
    window-->preference-->key-->word completion-->空

      4.配置自己安装的maven

    window-->preference-->maven-->设置安装路径

    准备十:Hive

    链接:http://pan.baidu.com/s/1hsFr1TM 密码:g4he
    

      1.直接解压即可

      2.配置hive-env.sh

        这里需要配置HADOOP_HOME和HIVE_CONF_DIR 

      3.配置hive-site.xml(需要自己创建)  

        注意:自己用touch创建,需要先进去随意编写一下,不能直接用nodepad或者ultaredit编写,不然会出现字符编码不一致的问题

      4.启动bin/hive,就可以发现与hive连接配置的mysql会自动生成一个metastore的数据库(个人情况)

    准备十一:mysql

    链接:http://pan.baidu.com/s/1dFmrsVf 密码:tnbx
    

      1.zip文件,用unzip直接解压

      2.查看系统是否自带的mysql,如果自带有,先卸载自带的

    查看是否安装软件:rpm -qa|grep mysql

    卸载软件:    rpm -e --nodeps mysql-libs-5.1.66-2.el6_3.x86_64

      3.赋予要安装的文件执行权限

    chmod u+x ./*  后面的./*表示当前路径下所有文件
    

      4.安装步骤1解压得到的rpm的包(server),注意此步骤会生成一个随机密码,需要查看一下

    rpm -ivh MySQL-server-5.6.24-1.el6.x86_64.rpm
    信息提示:A RANDOM PASSWORD HAS BEEN SET FOR THE MySQL root USER !
          You will find that password in '/root/.mysql_secret'.
    查看一下/root/.mysql_secret文件:
    cat /root/.mysql_secret    得到随机密码类似(Su75mBdHIFKiYBxs)

      5.安装步骤1得到的mysql客户端(client):

    rpm -ivh MySQL-client-5.6.24-1.el6.x86_64.rpm
    

      6.安装完成后即可登陆mysql(注意登陆前开始mysql服务,service mysql start )

    mysql -uroot -pSu75mBdHIFKiYBxs   后面的Su75mBdHIFKiYBxs就是上面得到的随机密码

      7.鉴于上面自动生成的恶心密码...需要自己改一下,用随机密码登陆进去,在mysql>下键入

    SET PASSWORD=PASSWORD('123456');
    

      8.退出mysql(注意mysql的命令都是要加上分号;才会结束当前语句的)

    exit;
    

      9.还可以修改mysql下,mysql数据库,user表,登陆用户为任意(即设置为%)

    update user set Host='%' where User='root' and Host='localhost';

      注意:必须删除其他的root数据,只保留%这条,亲测如果不删除...运行bin/hive的时候请求会被拒绝,删除后还需要刷新一下flush privileges;

    10.解压步骤1中的tar包

    tar -zvxf mysql-connector-java-5.1.27.tar.gz
    

      11.拷贝刚刚解压出来的文件夹中mysql驱动jar包,mysql-connector-java-5.1.27-bin.jar到hive安装目录的lib文件夹下面

    cp mysql-connector-java-5.1.27-bin.jar /usr/local/hive/hive-0.13.1/lib/
  • 相关阅读:
    CAAnimation动画相关文章
    [源代码]List的增加与删除
    [原创]c# 类中 Collection 字段初始化的特殊之处
    c# 多数值区间判断是否有重叠
    将M个客服随机分配给N个客户
    c# IList.ToList()后更改元素值会不会影响原列表的值
    java单元测试之Mock静态方法
    java的Spring学习2- junit和mock
    java mybatis学习二
    java8 方法引用与lambda
  • 原文地址:https://www.cnblogs.com/winv758241/p/6724564.html
Copyright © 2011-2022 走看看