ClouderaCDH离线安装与使用-创新互联
CDH 在线安装方法如下,方便,但是由于在国内,访问这个网站的速度很慢,并不快捷。
创新互联建站服务项目包括准格尔网站建设、准格尔网站制作、准格尔网页制作以及准格尔网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,准格尔网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到准格尔省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!在线安装Cloudera Manager服务器
# 配置cloudera-cdh源和cloudera-manager源
# cloudera-manager
wget http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/cloudera-manager.repo
# cloudera-cdh
wget https://archive.cloudera.com/cdh6/redhat/6/x86_64/cdh/cloudera-cdh6.repo
# 安装jdk和cloudera-manager
sudo yum install cloudera-manager-daemons cloudera-manager-server -y
然后就可以访问IP:7180通过网页进行操作了。然而实际情况是,在线安装,很慢很慢……
我们使用离线安装的方式进行:
一、基础环境准备
1. 相关包的下载地址:
Cloudera Manager地址:http://archive.cloudera.com/cm5/cm/5/
下载对应的文件,我下载的是:cloudera-manager-el6-cm5.13.3_x86_64.tar.gz
2. CDH安装包地址:http://archive.cloudera.com/cdh6/parcels
由于我们的操作系统为CentOS6.5,需要下载以下文件,找到对应的版本:
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1
manifest.json
3. 准备JDBC,等下连接mysql会用到:
http://download.softagency.net/MySQL/Downloads/Connector-J/
Updated on 20180727
Mysql jar连接已经失效,可以在下面网站下载最新的jar包
https://dev.mysql.com/downloads/file/?id=477054
4. 全部需要的软件下载完,算上mysql jar一共是5个文件
cloudera-manager-el6-cm5.13.3_x86_64.tar.gz CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1 manifest.jso mysql-connector-java-5.1.35-bin.jar
5. 准备JDK
tar -zxvf jdk1.7.0_79.tar.gz -C /usr/local/jvm cat /etc/profile export JAVA_HOME=/usr/local/jvm/jdk1.7.0_79 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
6. 安装设置NTP
6.1 yum install ntp
cat /etc/ntp.conf driftfile /var/lib/ntp/drift restrict default kod nomodify notrap nopeer noquery restrict -6 default kod nomodify notrap nopeer noquery restrict 127.0.0.1 restrict -6 ::1 restrict 192.168.206.0 mask 255.255.255.0 nomodify notrap server 0.centos.pool.ntp.org iburst server 1.centos.pool.ntp.org iburst server 2.centos.pool.ntp.org iburst server 3.centos.pool.ntp.org iburst
6.2启动 ntp:
$ service ntpd start
6.3 设置开机启动:
$ chkconfig ntpd on
6.4 检查是否设置成功:chkconfig --list ntpd其中2-5为on状态就代表成功。
6.5可以通过以下命令先进行时间同步:
ntpdate us.pool.ntp.org
6.6在两个slave节点上执行即可
ntpdate -u bigdata1
7. 关闭防火墙,selinux等。
二、环境准备完成,开始安装CDH
CDH的安装,建议用root完成,后面有很多需要CDH创建目录。用户等操作。
解压CM到每个节点/opt的路径下
tar -zxvf cloudera-manager-el6-cm5.13.3_x86_64.tar.gz -C /opt
下载的mysql-connector-java.jar拷贝到每个节点
cp mysql-connector-java-5.1.35-bin.jar /opt/cm-5.13.3/share/cmf/lib/ scp mysql-connector-java-5.1.35-bin.jar root@bigdata2:/opt/cm-5.13.3/share/cmf/lib/ scp mysql-connector-java-5.1.35-bin.jar root@bigdata3:/opt/cm-5.13.3/share/cmf/lib/
2. 安装mysql,并准备相关用户,注意用户创建过程中,要给予with grant option权限,不然后面会报错
2.1安装MySQL的yum源,下面是RHEL6系列mysql5.6的下载地址:
rpm -ivh http://repo.mysql.com/mysql-community-release-el6-5.noarch.rpm
2.2 yum安装
yum install mysql-community-server -y
2.3 创建用户和赋权
grant all privileges on *.* to root@'localhost' identified by 'root' with grant option; grant all privileges on *.* to root@'%' identified by 'root' with grant option; grant all privileges on *.* to scm@'localhost' identified by 'scm' with grant option; grant all privileges on *.* to scm@'%' identified by 'scm' with grant option;
3. 在主节点初始化CM5的数据库:
/opt/cm-5.13.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hbigdata1 -uroot -proot --scm-host bigdata1 scm scm scm
参数解释:数据库类型 数据库名称 数据库主机名 数据库用户名 密码 --scm-host cmserver主机名 scm scm scm
4. Agent配置
修改/opt/cm-5.13.3/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。 不然agent无法找到server端。
4.1同步软件到全部的Agent节点:
scp -r /opt/cm-5.13.3 root@node2:/opt/
5. 在所有节点创建cloudera-scm用户
useradd --system --home=/opt/cm-5.13.3/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
6. 准备Parcels,用以安装CDH5
将CHD5相关的Parcel包放到主节点的/opt/cloudera/parcel-repo/目录中(parcel-repo需要手动创建)。
相关的文件如下:
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1
manifest.jso
最后将CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1,重命名为CDH-5.7.1- CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha,这点必须注意,否则,系统会重新下载CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1文件。
Updated 20180727
原本这个地方好不容易发现,去掉"1"的方法安装.现在安装,发现"1"要保留的.CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha1名字保持不变,才可以.
7. 相关启动脚本
通过/opt/cm-5.13.3/etc/init.d/cloudera-scm-server start启动服务端。
通过/opt/cm-5.13.3/etc/init.d/cloudera-scm-agent start启动Agent服务。
(所有节点都要启动Agent服务,包括服务端)
我们启动的其实是个service脚本,需要停止服务将以上的start参数改为stop就可以了,重启是restart。
安装到此处,可以考虑备份vmware虚拟机,后面CM的部署过程中,遇到错误,可以会滚到当前状态调整。
三、CDH5的安装配和集群配置
1. Cloudera Manager Server和Agent都启动以后,就可以进行CDH5的安装配置了。
2. 这时可以通过浏览器访问主节点的7180端口测试一下了(由于CM Server的启动需要花点时间,这里可能要等待一会才能访问页面,可能需要3-5分钟),默认的用户名和密码均为admin
3. 登陆后,会进入到欢迎/授权页面
4. 选择授权版本,这里选择“免费版本”
5. 如果前面的的配置都是正确的,并且agent都启动成功,这里“当前管理的主机”中,是可以看到全部节点的。注意:防火墙一定要关闭,不然会出现,agent节点,不能被发现的情况。
6. 前面已经将软件包放到目录/opt/cloudera/parcel-repo,这里就可以直接看到本地的包。
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel
CDH-5.13.3-1.cdh6.13.3.p0.2-el6.parcel.sha
manifest.json
7. 点击“继续”,到集群安装,这个会比较快,大概10分钟完成。如果是在线安装,这个要几个小时,甚至下载失败。
8. 根据提示,修复一些前面没有配置好的项目,然后重新检查。建议解决全部报错,防止后续使用有诡异的问题发生。
9. 这里,我遇到的两个问题:
9.1.JDK无法被识别,运行之前保证JDK路径能被识别。
9.2.需要已经安装perl软件包
yum install -y perl
10. 选择需要安装的组合,也可以选择自定义,后续单独安装每个组件
11. 选择每个角色,需要部署在哪一个机器上
12. 选择需要使用到mysql的组件,在mysql中创建的db、用户名、密码等
13. 安装完成之后。
14. 安装完成后,就可以进入集群界面看一下集群的当前状况了。
这里可能会出现无法发出查询:对 Service Monitor 的请求超时的错误提示,如果各个组件安装没有问题,一般是因为服务器比较卡导致的,过一会刷新一下页面就好了,根据实际情况调整配置即可:
15. 另外如果想添加新的主机,必须要先启动新主机上的agent服务,否则新主机不能被发现,要重新下载cm-agent,很麻烦。安装新的节点以后,记得运行"部署客户端"命令。
四、问题汇总
问题1
CDH环境搭建好之后,访问Oozie管理页面时,出现如下问题:
解决方法:
根据提示,我们可以发现缺少Ext JS library,我们可以点击给出的网址链接:
Oozie Quick Start
找到如下内容:
然后找到ExtJS2.2下载,下载完成后上传到CDH的服务器的目录/opt/cloudera/parcels/CDH/lib/oozie/libext/下面。
具体操作如下:
cd /opt/cloudera/parcels/CDH/lib/oozie/libext
unzip ext-2.2.zip
chown oozie:oozie -R ext-2.2
现在这个官网,已经不提供下载ext-2.2.zip,如果下载,请点击链接:
然后我们再次访问页面就可以了。
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
文章题目:ClouderaCDH离线安装与使用-创新互联
网址分享:http://ybzwz.com/article/dcispd.html