MoiaControl

moia 官网:http://www.moia.com.cn/

调度阶段安装

1.1、调度节点安装步骤

通过FTP上传文件到安装目录下,解压执行以下命令。

# 解压方式一
tar xvf MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar
# 解压方式二
gzip -d MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar.gz
1.2、在解压的安装目录下,修改install.srv的配置文件
# 物理阶段IPi地址(不填则自动获取)
# 机器配置了多IP,则该项必须填写。(多网卡需要配置)
IPADDR=

# 调度节点数据库oracle/db2 home 目录
DBHOME=/u01/app/oracle/prduct/11.2.0/dbhome_1

# 填写数据库用户以及密码(安装调度节点时需要填写)
MOIA_DBS=moia
MDB_USER=moia
MDB_PWD=moia

# 安装物理系欸但名字PNODE_NAME,以及各个moia服务需要开通的接口。
PNODE_NAME=SCHEDUL_NODE
# 事件服务端口
EVT_PORT=57501 
# 命令服务端口
CMD_PORT=57502 

# ZOOKEEPER安装选项 不使用双活调度节点选择 0
# 是否使用zookeeper 0-不使用 1-使用已有zookeeper,2本机新
# 安装双活节点,只能使用已有zookeeper
# 如果需要使用分布式调度节点,且已经安装zookeeper则选择 1,并填写以下项:
ZOOKEEPER_SERVER=168.16.5.50:2181,168.16.5.51:2128

注:如果是ZOOKEEPER集群,使用逗号分割

如果需要分布式安装多个调度节点,并且未安装zookeeper,需要在本机自动安

装选择 2,并填写以下项。该方式安装完成后,仍需要完善zookeeper集群。

配置好install.srv文件后,执行sh install.sh -srv显示配置内容:

执行后展示内容

确认端口等信息无误后输入回车进行安装

这里选择N新安装MoiaControl调度平台,并回车确认你的选择,开始安装新的调度平台。

2.1、调度分布式安装
2.2、zookeeper集群安装

安装第一个调度节点时,若未使用zookeeper,或者新安装zookeeper,在安

装分布式多调度节点时,必须完善zookeeper集群。

根据官方建议,zookeeper集群最佳个数为 2n+1,根据实际情况自行调整。

2.3、主机名称到IP地址映射配置

以/etc/hosts中配置的机器为例。

168.16.5.50 server-1
168.16.5.51 server-2
168.16.5.52 server-3
2.4、修改ZooKeeper配置文件

解压缩zookeeper-3.4.6.tar.gz,

tar -zxvf zookeeper-3.4.6.tar.gz

修改配置文件conf/zoo.cfg,内容如下所示:

tickTime=2000
initLimit=10
syncLimit=5
dataDir=/opt/zookeeper/data
clientPort=2181
maxClientCnxns=200
autopurge.snapRetainCount=3
autopurge.purgeInterval=1
server.1=168.16.5.50:2888:3888
server.2=168.16.5.51:2888:3888
server.3=168.16.5.52:2888:3888
# 三台机器zoo.cfg配置均如此。
2.4、修改ZooKeeper配置文件
168.16.5.50 执行: echo “1” > /opt/zookeeper/data/myid
168.16.5.51 执行: echo “2” > /opt/zookeeper/data/myid
168.16.5.52 执行: echo “3” > /opt/zookeeper/data/myid

注意:安装调度节点时,新安装的zookeeper也需要修改zoo.cfg,并且myid也需要对应。并重启zookeeper。

2.5、启动zookeeper
cd bin
# 启动
sh zkServer.sh start
# 停止
sh zkServer.sh stop
2.5、修改调度节点配置
vim etc/MOIA_ADT.cfg
# 文件中修改配置项
G_ZOO_USED=1
ZOOK_HOST=168.16.5.50:2181,168.16.5.51:2181,168.16.5.52:2181

并重启调度节点服务。

执行节点安装

1.1、执行节点安装步骤

通过FTP上传文件到安装目录下,解压执行以下命令。

# 解压方式一
tar xvf MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar
# 解压方式二
gzip -d MoiaControl.V5.06.001_Linux64_ORACLE_DATASTAGE.tar.gz
1.2、在解压的安装目录下,修改install.srv的配置文件
# 物理阶段IPi地址(不填则自动获取)
# 机器配置了多IP,则该项必须填写。(多网卡需要配置)
IPADDR=
# 执行节点 datastage home目录,没有etl 留空
DSHOME=
# 填写调度节点相关信息,用于安装时与调度节点通信
# 调度节点IP和端口(安装执行节点需填写)
SRV_IP=192.168.1.250   # 调度节点IP地址
SRV_POPT=57501		   # 调度节点事件端口
# 填写物理节点名字PNODE_NAME。以及改物理节点上需要开通的各个服务所占
# 用的端口号。物理节点名不能重复。
PNODE_NAME=SCHEDUL_NODE 
CLM_POPT=57505
1.2、在解压的安装目录下,修改install.srv的配置文件
# 执行安装命令
sh install.sh -agt

注意不可以重复执行

确认无误后输入回车进行安装。

1.3、启动调度节点
# 将env/moia.env作为用户环境变量并激活,才可以执行相关命令。
 source ./setenv
# 启动服务 
sh startup.sh 
# 停止服务
sh shutdown.sh

调度节点执行 MSrvAdm -l 进程查看安装是否正常

执行节点执行 lsmt 进程查看安装是否正常

FileScan 安装、问题排查

1.1、FileScan安装步骤。

通过FTP上传文件到安装目录下,解压执行以下命令。

tar -zxvf 程序包
1.2、在解压目录下,修改FileScan的配置文件
vim etc/MOIA_EXT.xml

MOIA_EXT.xml

配置项说明

scantime:扫描间隔时间

调度器服务器地址配置(可配置多个,但只会向一个可通信地址发送):

serverip:调度节点的ip地址

serverport:调度节点命令服务器端口 (默认端口57501)

dir可配置多个扫描目录

path:扫描目录

type:文件类型。 0 – 标志文件。 1 – 数据文件

retry:文件扫描次数。用于数据文件落地判断(文件大小不改变的次数)。

Subdir:是否级联扫描下级目录。0 – 不扫描下级目录。 1 – 扫描下级 目录。

Regex:正则表达式。使用正则表达式匹配扫描到的文件。

format:使用日期宏[DATE]后替换的时间格式(YYYYMMDD,YYYY-MM-DD等)

befordays:当前日期向前计算几天

afterdays:当前日期向后计算几天

dir 实例模板

<dir>
    <path>/opt/list/[DATE]/file<\path>
    <type>0<\type>
    <retry>3<\retry>
    <subdir>1</subdir>
    <regex>^.*?\.(py|txt)$</regex>
    <format>YYYY-MM-DD<\format>
    <befordays>3<\befordays>
    <afterdays>4<\afterdays>
<\dir>
1.3、服务启停
# 启动
sh bin/startup.sh 
# 停止
sh bin/shutdown.sh

  转载请注明: RRYF MoiaControl

  目录