|
@@ -74,7 +74,7 @@ mysql -h {host} -u {user} -p{password} -D {db} < quartz.sql
|
|
|
|
|
|
## 创建部署用户
|
|
## 创建部署用户
|
|
|
|
|
|
-因为escheduler worker都是以 sudo -u {linux-user} 方式来执行作业,所以部署用户需要有 sudo 权限,而且是免密的。
|
|
|
|
|
|
+- 在所有需要部署调度的机器上创建部署用户,因为worker是以 sudo -u {linux-user} 方式来执行作业,所以部署用户需要有 sudo 权限,而且是免密的。
|
|
|
|
|
|
```部署账号
|
|
```部署账号
|
|
vi /etc/sudoers
|
|
vi /etc/sudoers
|
|
@@ -86,61 +86,30 @@ escheduler ALL=(ALL) NOPASSWD: NOPASSWD: ALL
|
|
#Default requiretty
|
|
#Default requiretty
|
|
```
|
|
```
|
|
|
|
|
|
-## 伪分布式部署
|
|
|
|
-
|
|
|
|
-### 2,根据实际需求来创建HDFS根路径
|
|
|
|
-
|
|
|
|
- 根据 **common/common.properties** 中 **hdf.startup.states** 的配置来判断是否启动HDFS,如果启动,则需要创建HDFS根路径,并将 **owner** 修改为**部署用户**,否则忽略此步骤
|
|
|
|
-
|
|
|
|
-### 3,项目编译
|
|
|
|
-
|
|
|
|
- 如上进行 **项目编译**
|
|
|
|
-
|
|
|
|
-### 4,修改配置文件
|
|
|
|
-
|
|
|
|
- 根据 **配置文件说明** 修改配置文件和 **环境变量** 文件
|
|
|
|
-
|
|
|
|
-### 5,创建目录并将环境变量文件复制到指定目录
|
|
|
|
-
|
|
|
|
-- 创建 **common/common.properties** 下的data.basedir.path、data.download.basedir.path和process.exec.basepath路径
|
|
|
|
-
|
|
|
|
-- 将**.escheduler_env.sh** 和 **escheduler_env.py** 两个环境变量文件复制到 **common/common.properties**配置的**escheduler.env.path** 和 **escheduler.env.py** 的目录下,并将 **owner** 修改为**部署用户**
|
|
|
|
-
|
|
|
|
-
|
|
|
|
-
|
|
|
|
-
|
|
|
|
-## 分布式部署
|
|
|
|
-
|
|
|
|
-### 1,创建部署用户
|
|
|
|
-
|
|
|
|
-- 在需要部署调度的机器上如上 **创建部署用户**
|
|
|
|
-- [将 **主机器** 和各个其它机器SSH打通](https://blog.csdn.net/thinkmore1314/article/details/22489203)
|
|
|
|
-
|
|
|
|
-### 2,根据实际需求来创建HDFS根路径
|
|
|
|
-
|
|
|
|
- 根据 **common/common.properties** 中 **hdfs.startup.state** 的配置来判断是否启动HDFS,如果启动,则需要创建HDFS根路径,并将 **owner** 修改为**部署用户**,否则忽略此步骤
|
|
|
|
-
|
|
|
|
-### 3,项目编译
|
|
|
|
|
|
+## ssh免密配置
|
|
|
|
+ 在部署机和其他安装机器上配置ssh免密登录,如果要在部署机上安装调度,需要配置本机免密登录自己
|
|
|
|
+
|
|
|
|
+- [将 **主机器** 和各个其它机器SSH打通](http://geek.analysys.cn/topic/113)
|
|
|
|
|
|
- 如上进行 **项目编译**
|
|
|
|
|
|
+## 产品部署
|
|
|
|
|
|
-### 4,将环境变量文件复制到指定目录
|
|
|
|
|
|
+### 1. 修改环境变量文件
|
|
|
|
|
|
- 将**.escheduler_env.sh** 和 **escheduler_env.py** 两个环境变量文件复制到 **common/common.properties**配置的**escheduler.env.path** 和 **escheduler.env.py** 的目录下,并将 **owner** 修改为**部署用户**
|
|
|
|
|
|
+- 根据业务需求,修改conf/env/目录下的**escheduler_env.py**,**.escheduler_env.sh**两个文件中的环境变量
|
|
|
|
|
|
-### 5,修改 install.sh
|
|
|
|
|
|
+### 2. 修改部署参数
|
|
|
|
|
|
- 修改 install.sh 中变量的值,替换成自身业务所需的值
|
|
|
|
|
|
+- 修改 install.sh 中变量的值,替换成自身业务所需的值
|
|
|
|
|
|
-### 6,一键部署
|
|
|
|
|
|
+### 3. 一键部署
|
|
|
|
|
|
- 安装 pip install kazoo
|
|
- 安装 pip install kazoo
|
|
|
|
+
|
|
- 安装目录如下:
|
|
- 安装目录如下:
|
|
|
|
|
|
```
|
|
```
|
|
bin
|
|
bin
|
|
conf
|
|
conf
|
|
- escheduler-1.0.0-SNAPSHOT.tar.gz
|
|
|
|
install.sh
|
|
install.sh
|
|
lib
|
|
lib
|
|
monitor_server.py
|
|
monitor_server.py
|
|
@@ -151,10 +120,18 @@ escheduler ALL=(ALL) NOPASSWD: NOPASSWD: ALL
|
|
|
|
|
|
- 使用部署用户 sh install.sh 一键部署
|
|
- 使用部署用户 sh install.sh 一键部署
|
|
|
|
|
|
- - 注意:scp_hosts.sh 里 `tar -zxvf $workDir/../escheduler-1.0.0.tar.gz -C $installPath` 中的版本号(1.0.0)需要执行前手动替换成对应的版本号
|
|
|
|
|
|
+- jps查看服务是否启动
|
|
|
|
+
|
|
|
|
+```aidl
|
|
|
|
+ MasterServer ----- master服务
|
|
|
|
+ WorkerServer ----- worker服务
|
|
|
|
+ LoggerServer ----- logger服务
|
|
|
|
+ ApiApplicationServer ----- api服务
|
|
|
|
+ AlertServer ----- alert服务
|
|
|
|
+```
|
|
|
|
|
|
|
|
|
|
-### 7,启停服务
|
|
|
|
|
|
+## 启停服务
|
|
|
|
|
|
* 启停Master
|
|
* 启停Master
|
|
|
|
|