Docker单机部署Doris超详细图文教程

phineasliu 2024-06-19 14:07:02 阅读 50

1、先修改内核参数

在启动doris的be时,需要将 Linux 操作系统的内核参数设置为2000000,这里是Doris官方要求的。

# 此代码无需运行,只是提示sh-4.2# /opt/apache-doris-1.2.4.1-bin-x86_64/be/bin/start_be.sh --daemon Please set vm.max_map_count to be 2000000 under root using 'sysctl -w vm.max_map_count=2000000'.

Linux系统修改内核参数

直接在Docker宿主机中设置即可

sudo sysctl -w vm.max_map_count=2000000 sysctl vm.max_map_count

MacOS 系统修改内核参数

无需停止doris容器,直接执行创建以下容器:

docker run -it --privileged --pid=host --name=change_count debian nsenter -t 1 -m -u -n -i sh

容器创建成功执行以下命令:

sysctl -w vm.max_map_count=2000000

然后再执行be启动命令即可。

2、下载Doris的运行环境镜像

这里面安装了doris启动需要的环境,不用自己再提前准备环境了,如jdk等。

docker pull apache/doris:build-env-ldb-toolchain-latest

3、下载安装包

# doris程序包https://apache-doris-releases.oss-accelerate.aliyuncs.com/apache-doris-1.2.4.1-bin-x86_64.tar.xz # mysql连接客户端https://doris-build-hk.oss-cn-hongkong.aliyuncs.com/mysql-client/mysql-5.7.22-linux-glibc2.12-x86_64.tar.gz

4、启动镜像环境

docker run -d -it --name=doris \ -p 9030:9030 -p 8030:8030 \ apache/doris:build-env-ldb-toolchain-latest \ /bin/bash

复制安装包到doris容器中

# 根据实际路径拷贝docker cp D:/mysql-5.7.22-linux-glibc2.12-x86_64.tar.gz doris:/opt docker cp D:/apache-doris-1.2.4.1-bin-x86_64.tar.xz doris:/opt

进入到容器中

# 进入容器 docker exec -it doris bash # 解压文件 cd /opt/ tar -xvf apache-doris-1.2.4.1-bin-x86_64.tar.xz tar -xzvf mysql-5.7.22-linux-glibc2.12-x86_64.tar.gz # 获取本机容器内网ip地址,需修改到配置文件中。 hostname -i

5、配置fe

cd /opt/apache-doris-1.2.4.1-bin-x86_64/fe vi conf/fe.conf

打开 priority_networks注释 将刚刚 【hostname -i】 打印出来的内网ip替换到

priority_networks = 172.17.0.2/24

接着启动fe

# 启动 ./bin/start_fe.sh --daemon # 查看java启动进程 jps # 测试是否正常 curl http://127.0.0.1:8030/api/bootstrap

如下图所示表示启动成功

浏览器地址访问 http://localhost:8030/login,账号root,密码为空

接着在mysql中连接fe,默认无密码

/opt/mysql-5.7.22-linux-glibc2.12-x86_64/bin/mysql -uroot -P9030 -h127.0.0.1 --skip-sslshow frontends\G;

看到像我这样IsMaster、Join 和 Alive 三列均为true,则表示节点正常

6、配置be

#退出mysql exit; #修改配置文件 cd /opt/apache-doris-1.2.4.1-bin-x86_64/be vi conf/be.conf

和上面一样,替换内网ip

priority_networks = 172.17.0.2/24

然后在启动脚本中设置jdk的路径,我们这里下载的镜像的jdk的默认路径为 /usr/lib/jvm/java-1.8.0

可以先ehco确认一下,因为使用的是最新镜像,路径可能随时版本的变更而改变

echo $JAVA_HOME

vi bin/start_be.shexport JAVA_HOME=/usr/lib/jvm/java-1.8.0

启动be,通过mysql客户端工具连接be,即在Doris中添加已经后端节点

# 启动be ./bin/start_be.sh --daemon # 进入mysql /opt/mysql-5.7.22-linux-glibc2.12-x86_64/bin/mysql -uroot -P9030 -h127.0.0.1 --skip-ssl # 将BE节点加入到集群中 ALTER SYSTEM ADD BACKEND "172.17.0.2:9050"; # 显示doris后端详情 SHOW BACKENDS\G

Alive : true表示节点运行正常(如果为false,可以尝试等待一会再重新查看,第一次启动会慢一点;或有其他问题在/opt/apache-doris-1.2.4.1-bin-x86_64/be/log/be.out 里面查看日志)

正常启动的进程是这样的,会有一个空名字的进程,正常,就是be

7、建表测试

第一次接触doris的同学可能会疑惑,怎么语法与MySQL差不多,其实这里建表语句就提现出来了,下面的DDL,在MySQL是无法运行的

这里使用MySQL仅作为远程连接工具,在实际使用中仅需启动fe与be即可,Doris自动启动和管理内部的 MySQL 实例,用于存储和管理元数据

进入mysql命令:

/opt/mysql-5.7.22-linux-glibc2.12-x86_64/bin/mysql -uroot -P9030 -h127.0.0.1 --skip-ssl

执行如下SQL语句:

create database demo;use demo;CREATE TABLE IF NOT EXISTS demo.example_tbl( `user_id` LARGEINT NOT NULL COMMENT "user id", `date` DATE NOT NULL COMMENT "", `city` VARCHAR(20) COMMENT "", `age` SMALLINT COMMENT "", `sex` TINYINT COMMENT "", `last_visit_date` DATETIME REPLACE DEFAULT "1970-01-01 00:00:00" COMMENT "", `cost` BIGINT SUM DEFAULT "0" COMMENT "", `max_dwell_time` INT MAX DEFAULT "0" COMMENT "", `min_dwell_time` INT MIN DEFAULT "99999" COMMENT "")AGGREGATE KEY(`user_id`, `date`, `city`, `age`, `sex`)DISTRIBUTED BY HASH(`user_id`) BUCKETS 1PROPERTIES ( "replication_allocation" = "tag.location.default: 1");exit;

新建一个数据文件

cd ~ vi test.csv

test.csv 内容

10000,2017-10-01,beijing,20,0,2017-10-01 06:00:00,20,10,1010006,2017-10-01,beijing,20,0,2017-10-01 07:00:00,15,2,210001,2017-10-01,beijing,30,1,2017-10-01 17:05:45,2,22,2210002,2017-10-02,shanghai,20,1,2017-10-02 12:59:12,200,5,510003,2017-10-02,guangzhou,32,0,2017-10-02 11:20:00,30,11,1110004,2017-10-01,shenzhen,35,0,2017-10-01 10:00:15,100,3,310004,2017-10-03,shenzhen,35,0,2017-10-03 10:20:22,11,6,6

导入数据

curl --location-trusted -u root: -T test.csv -H "column_separator:," http://127.0.0.1:8030/api/demo/example_tbl/_stream_load

执行详情:

查询数据

# mysql客户端连接be/opt/mysql-5.7.22-linux-glibc2.12-x86_64/bin/mysql -uroot -P9030 -h127.0.0.1 --skip-ssl

mysql> use demo;Reading table information for completion of table and column namesYou can turn off this feature to get a quicker startup with -ADatabase changedmysql> select * from example_tbl;+---------+------------+-----------+------+------+---------------------+------+----------------+----------------+| user_id | date | city | age | sex | last_visit_date | cost | max_dwell_time | min_dwell_time |+---------+------------+-----------+------+------+---------------------+------+----------------+----------------+| 10000 | 2017-10-01 | beijing | 20 | 0 | 2017-10-01 06:00:00 | 20 | 10 | 10 || 10001 | 2017-10-01 | beijing | 30 | 1 | 2017-10-01 17:05:45 | 2 | 22 | 22 || 10002 | 2017-10-02 | shanghai | 20 | 1 | 2017-10-02 12:59:12 | 200 | 5 | 5 || 10003 | 2017-10-02 | guangzhou | 32 | 0 | 2017-10-02 11:20:00 | 30 | 11 | 11 || 10004 | 2017-10-01 | shenzhen | 35 | 0 | 2017-10-01 10:00:15 | 100 | 3 | 3 || 10004 | 2017-10-03 | shenzhen | 35 | 0 | 2017-10-03 10:20:22 | 11 | 6 | 6 || 10006 | 2017-10-01 | beijing | 20 | 0 | 2017-10-01 07:00:00 | 15 | 2 | 2 |+---------+------------+-----------+------+------+---------------------+------+----------------+----------------+7 rows in set (0.05 sec)mysql> select * from example_tbl where city='beijing';+---------+------------+---------+------+------+---------------------+------+----------------+----------------+| user_id | date | city | age | sex | last_visit_date | cost | max_dwell_time | min_dwell_time |+---------+------------+---------+------+------+---------------------+------+----------------+----------------+| 10000 | 2017-10-01 | beijing | 20 | 0 | 2017-10-01 06:00:00 | 20 | 10 | 10 || 10001 | 2017-10-01 | beijing | 30 | 1 | 2017-10-01 17:05:45 | 2 | 22 | 22 || 10006 | 2017-10-01 | beijing | 20 | 0 | 2017-10-01 07:00:00 | 15 | 2 | 2 |+---------+------------+---------+------+------+---------------------+------+----------------+----------------+3 rows in set (0.02 sec)mysql> select city, sum(cost) as total_cost from example_tbl group by city;+-----------+------------+| city | total_cost |+-----------+------------+| beijing | 37 || shanghai | 200 || guangzhou | 30 || shenzhen | 111 |+-----------+------------+4 rows in set (0.03 sec)

8、远程连接

默认无密码

除了三方工具,还可以访问ui界面 Playground

至此安装完成。

启动命令

/opt/apache-doris-1.2.4.1-bin-x86_64/fe/bin/start_fe.sh --daemon/opt/apache-doris-1.2.4.1-bin-x86_64/be/bin/start_be.sh --daemon

关闭命令

/opt/apache-doris-1.2.4.1-bin-x86_64/fe/bin/stop_fe.sh/opt/apache-doris-1.2.4.1-bin-x86_64/be/bin/stop_be.sh

注意:

docker重启后ip会变,启动后先查看hostname -i是否跟之前的一致,不一致可以关掉有影响的docker容器重新按ip顺序启动,或者改成固定IP。



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。