moia 官网:http://www.moia.com.cn/
调度阶段安装
1.1、调度节点安装步骤
通过FTP上传文件到安装目录下,解压执行以下命令。
# 解压方式一
tar xvf MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar
# 解压方式二
gzip -d MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar.gz
1.2、在解压的安装目录下,修改install.srv的配置文件
# 物理阶段IPi地址(不填则自动获取)
# 机器配置了多IP,则该项必须填写。(多网卡需要配置)
IPADDR=
# 调度节点数据库oracle/db2 home 目录
DBHOME=/u01/app/oracle/prduct/11.2.0/dbhome_1
# 填写数据库用户以及密码(安装调度节点时需要填写)
MOIA_DBS=moia
MDB_USER=moia
MDB_PWD=moia
# 安装物理系欸但名字PNODE_NAME,以及各个moia服务需要开通的接口。
PNODE_NAME=SCHEDUL_NODE
# 事件服务端口
EVT_PORT=57501
# 命令服务端口
CMD_PORT=57502
# ZOOKEEPER安装选项 不使用双活调度节点选择 0
# 是否使用zookeeper 0-不使用 1-使用已有zookeeper,2本机新
# 安装双活节点,只能使用已有zookeeper
# 如果需要使用分布式调度节点,且已经安装zookeeper则选择 1,并填写以下项:
ZOOKEEPER_SERVER=168.16.5.50:2181,168.16.5.51:2128
注:如果是ZOOKEEPER集群,使用逗号分割
如果需要分布式安装多个调度节点,并且未安装zookeeper,需要在本机自动安
装选择 2,并填写以下项。该方式安装完成后,仍需要完善zookeeper集群。
配置好install.srv文件后,执行sh install.sh -srv显示配置内容:
确认端口等信息无误后输入回车进行安装
这里选择N新安装MoiaControl调度平台,并回车确认你的选择,开始安装新的调度平台。
2.1、调度分布式安装
2.2、zookeeper集群安装
安装第一个调度节点时,若未使用zookeeper,或者新安装zookeeper,在安
装分布式多调度节点时,必须完善zookeeper集群。
根据官方建议,zookeeper集群最佳个数为 2n+1,根据实际情况自行调整。
2.3、主机名称到IP地址映射配置
以/etc/hosts中配置的机器为例。
168.16.5.50 server-1
168.16.5.51 server-2
168.16.5.52 server-3
2.4、修改ZooKeeper配置文件
解压缩zookeeper-3.4.6.tar.gz,
tar -zxvf zookeeper-3.4.6.tar.gz
修改配置文件conf/zoo.cfg,内容如下所示:
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/opt/zookeeper/data
clientPort=2181
maxClientCnxns=200
autopurge.snapRetainCount=3
autopurge.purgeInterval=1
server.1=168.16.5.50:2888:3888
server.2=168.16.5.51:2888:3888
server.3=168.16.5.52:2888:3888
# 三台机器zoo.cfg配置均如此。
2.4、修改ZooKeeper配置文件
168.16.5.50 执行: echo “1” > /opt/zookeeper/data/myid
168.16.5.51 执行: echo “2” > /opt/zookeeper/data/myid
168.16.5.52 执行: echo “3” > /opt/zookeeper/data/myid
注意:安装调度节点时,新安装的zookeeper也需要修改zoo.cfg,并且myid也需要对应。并重启zookeeper。
2.5、启动zookeeper
cd bin
# 启动
sh zkServer.sh start
# 停止
sh zkServer.sh stop
2.5、修改调度节点配置
vim etc/MOIA_ADT.cfg
# 文件中修改配置项
G_ZOO_USED=1
ZOOK_HOST=168.16.5.50:2181,168.16.5.51:2181,168.16.5.52:2181
并重启调度节点服务。
执行节点安装
1.1、执行节点安装步骤
通过FTP上传文件到安装目录下,解压执行以下命令。
# 解压方式一
tar xvf MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar
# 解压方式二
gzip -d MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar.gz
1.2、在解压的安装目录下,修改install.srv的配置文件
# 物理阶段IPi地址(不填则自动获取)
# 机器配置了多IP,则该项必须填写。(多网卡需要配置)
IPADDR=
# 执行节点 datastage home目录,没有etl 留空
DSHOME=
# 填写调度节点相关信息,用于安装时与调度节点通信
# 调度节点IP和端口(安装执行节点需填写)
SRV_IP=192.168.1.250 # 调度节点IP地址
SRV_POPT=57501 # 调度节点事件端口
# 填写物理节点名字PNODE_NAME。以及改物理节点上需要开通的各个服务所占
# 用的端口号。物理节点名不能重复。
PNODE_NAME=SCHEDUL_NODE
CLM_POPT=57505
1.2、在解压的安装目录下,修改install.srv的配置文件
# 执行安装命令
sh install.sh -agt
注意不可以重复执行
确认无误后输入回车进行安装。
1.3、启动调度节点
# 将env/moia.env作为用户环境变量并激活,才可以执行相关命令。
source ./setenv
# 启动服务
sh startup.sh
# 停止服务
sh shutdown.sh
调度节点执行 MSrvAdm -l
进程查看安装是否正常
执行节点执行 lsmt
进程查看安装是否正常
FileScan 安装、问题排查
1.1、FileScan安装步骤。
通过FTP上传文件到安装目录下,解压执行以下命令。
tar -zxvf 程序包
1.2、在解压目录下,修改FileScan的配置文件
vim etc/MOIA_EXT.xml
配置项说明
scantime
:扫描间隔时间
调度器服务器地址配置(可配置多个,但只会向一个可通信地址发送):
serverip
:调度节点的ip地址
serverport
:调度节点命令服务器端口 (默认端口57501)
dir可配置多个扫描目录:
path
:扫描目录
type
:文件类型。 0 – 标志文件。 1 – 数据文件
retry
:文件扫描次数。用于数据文件落地判断(文件大小不改变的次数)。
Subdir
:是否级联扫描下级目录。0 – 不扫描下级目录。 1 – 扫描下级 目录。
Regex
:正则表达式。使用正则表达式匹配扫描到的文件。
format
:使用日期宏[DATE]后替换的时间格式(YYYYMMDD,YYYY-MM-DD等)
befordays
:当前日期向前计算几天
afterdays
:当前日期向后计算几天
dir 实例模板
<dir>
<path>/opt/list/[DATE]/file<\path>
<type>0<\type>
<retry>3<\retry>
<subdir>1</subdir>
<regex>^.*?\.(py|txt)$</regex>
<format>YYYY-MM-DD<\format>
<befordays>3<\befordays>
<afterdays>4<\afterdays>
<\dir>
1.3、服务启停
# 启动
sh bin/startup.sh
# 停止
sh bin/shutdown.sh