![SequoiaDB分布式数据库权威指南](https://wfqqreader-1252317822.image.myqcloud.com/cover/100/43738100/b_43738100.jpg)
3.1.2 Linux的推荐配置
本节将介绍在安装SequoiaDB(巨杉数据库)前,用户应如何调整Linux操作系统的环境配置,以保障操作系统稳定且高效地运行。需要调整的配置包括ulimit、内核参数、transparent_hugepage(挂载参数)和NUMA。
1.调整ulimit
SequoiaDB相关进程以数据库管理用户(安装SequoiaDB时指定,默认为sdbadmin)权限来运行。因此,建议调整数据库管理用户的ulimit配置。可以参照以下2个步骤来完成该配置。
(1)在配置文件/etc/security/limits.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_52_4.jpg?sign=1739459554-xfCVx87WrrSZdqd6bEvxtr7wIs9wKPg9-0-3b1e86873af14622a7f2f8d9e3696dd4)
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_1.jpg?sign=1739459554-C8lYZfIMZWeXYOZpJZC7C6bghoknb7W7-0-9f68bd315a3295d698580a9de38289ef)
具体参数说明如下。
● core:在数据库出现故障时,是否产生core文件来进行故障诊断。在生产系统中建议用户关闭此功能。
● data:数据库进程所允许分配的数据内存大小。
● fsize:数据库进程所允许寻址的文件大小。
● rss:数据库进程所允许的最大resident set大小。
● as:数据库进程所允许的最大虚拟内存寻址空间。
● nofile:数据库进程所允许打开的最大文件数。
(2)在配置文件/etc/security/limits.d/90-nproc.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_2.jpg?sign=1739459554-JzBa41uISg9PfF39ZuA0MgMFAdSSzmA2-0-26784431067dfe9b666d3e670a5b804a)
其中,参数nproc表示数据库所允许的最大线程数限制。要注意,每台作为数据库服务器的机器都需要配置,而且更改配置后需要重新登录,以确保配置生效。
2.调整内核参数
用户可以参照以下步骤来调整内核参数。
(1)备份系统原始的vm参数:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_3.jpg?sign=1739459554-GvLmDJdGahmPhXOKukguWwuhRl7F1v9W-0-8b5583310c3f2f934e251528583411d1)
(2)修改文件/etc/sysctl.conf,添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_1.jpg?sign=1739459554-Lvj6J6e5duNpV3emG2SaJMIOGFYrcrg7-0-2e311be69dbb44dc936ee8b953e855b1)
注意:当数据库可用物理内存不足8GB时无须设置vm.swappiness=0。上述dirty类参数(控制系统的flush进程只采用脏页超时机制刷新脏页,而不采用脏页比例超支刷新脏页)所给的只是建议值,具体参数值可根据实际情况进行设置。如果用户采用SSD(固态磁盘),建议设置vm.dirty_expire_centisecs=1000。
(3)执行如下命令,使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_2.jpg?sign=1739459554-8Z7Ev3gqLtjWmXHAY8zgRyOU1bUKG8kc-0-c7ca3365a86c7e6d0f535cafe5d3484c)
3.调整文件系统的挂载参数
SequoiaDB推荐使用ext4格式的文件系统。同时,建议在/etc/fstab文件中添加noatime挂载参数,以提升文件系统的性能。
下面以块设备/dev/sdb(假设其UUID为993c5bba-494f-44ae-b543-a109f3598777,挂载目录为/data/disk_ssd1)为例,介绍具体操作步骤。如果数据盘需要使用多个块设备,则需要对所有块设备进行设置。
首先,检查目标磁盘的文件系统状态:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_3.jpg?sign=1739459554-Q8c5G8ysqvXzxORAGD3lYCSCobhCZ4Be-0-2138561171deb44b82c4d37119ca6bef)
如果输出结果中显示文件系统为ext4格式的,并且挂载参数中包含noatime,则表示已完成设置;如果输出为其他参数,则需要通过后续步骤进行配置。
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_4.jpg?sign=1739459554-pzNOM3vS0Nnf8dgGe7um5Nm7jfBgmjq0-0-deca39577b7f64d937e9317febb08fdf)
其次,对已挂载的块设备进行设置。如果块设备已创建分区且文件系统为ext4格式的,但其挂载参数不包含noatime,可通过如下操作步骤进行设置。
(1)卸载已挂载的数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_1.jpg?sign=1739459554-vviA4I0KmPSfXNzdUyX1nI6acK7Rrngl-0-2a6504ac2b82040592d7835330783a9a)
(2)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_2.jpg?sign=1739459554-KNZaFuWP9lw4txCaOFS1UIPHLIuVq6Lm-0-f99ccbf8434f435db6544c87953440a3)
(3)将块设备/dev/sdb的挂载参数调整为如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_3.jpg?sign=1739459554-g48hE9FSokA0mYYCkT1nbyzhukuxEt2k-0-0533200e2cd83650ad718b5d4d455503)
(4)挂载块设备:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_4.jpg?sign=1739459554-2neAbWJeHteqJUJ0s2zbyZAMwj3JWTVd-0-84da016f9b1712ec369eeee809950733)
(5)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_5.jpg?sign=1739459554-rJ0RPqsu3ABfw5gKaysd06S4kHVecB5k-0-ef81bd932b64077535d1ab66d5aa2928)
最后对新块设备进行设置。对于新增的块设备,可以进行如下设置。
(1)查看块设备情况:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_6.jpg?sign=1739459554-edcvuxKFhCFmKogIcD1K5Z5DLJGsx6Tk-0-dbf5fe4f38b9be6b8895df09e0b9a0ea)
(2)创建分区:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_7.jpg?sign=1739459554-r6XyJfekGCfAZaT7Xd0CqLaqqISg41iD-0-d5b938994f28cd1b89a661ef75ab2a76)
(3)将文件系统格式化为ext4格式的:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_8.jpg?sign=1739459554-YnViOXWhE7mcc0agS9k8ou86RxzYESzX-0-ef482f6dfac5314a7b4bc4be38812631)
(4)查看数据盘分区的UUID:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_9.jpg?sign=1739459554-jHeXZhjPdfCGz7SYyKa7yS8Uuh9Zu2t2-0-1140fbc335bbbeca91b3f4ce777e95be)
输出结果如下:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_10.jpg?sign=1739459554-AEgZFUM7jtxtO57L3CfGBAIn2wCfMTNb-0-416af77b2253166b0acb61fc0fd40f78)
(5)创建需要挂载的数据目录:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_1.jpg?sign=1739459554-qgXcypqajZ856jI8EepyAeOHORENhhYp-0-e484c7a87ebc71c08e7a659f2995bbbe)
(6)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_2.jpg?sign=1739459554-GcbWTUcDyMSGTdVDZP4LRsC6tX7n2kbl-0-d70052f22eea49780f9c77a1ee4ec2d4)
添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_3.jpg?sign=1739459554-3NdeMSXxSJ1teXYNBAwOOE8gPVlm2R7l-0-e3fed3ec666ab4d1850673452ea60c5d)
(7)挂载数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_4.jpg?sign=1739459554-WnaAegGrWwkF0bk8OVXTaBDVhczgz9aL-0-0b71869c8868bac69e012fea423c1803)
(8)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_5.jpg?sign=1739459554-dedsPIpVnqZHJNqSZgzf36MQ1x2HzFrK-0-df2cf4abd11c1c7cd3fd64848360a0f5)
4.关闭transparent_hugepage
具体操作步骤如下。
(1)编辑/etc/rc.local,在第一行#!/bin/sh下添加如下两行:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_6.jpg?sign=1739459554-5JaDAqVdxGpJsiiUxRm2Pacpcl1DVCJp-0-9dd49d00458795a1728e726dc070ff8f)
(2)执行如下命令使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_7.jpg?sign=1739459554-Bl2I7HBHa1In02g92vGAzICNM1mkiVYB-0-cdde7340e9423384529e4c571a996640)
(3)依次执行如下两条命令,验证关闭操作是否成功:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_8.jpg?sign=1739459554-Bpb8OH2FlANkszj8de3zp15BRzNRH9kP-0-cadf48c27e045baf566792cdd0d797e3)
如果两条命令执行后均显示always madvise [never],则说明关闭操作成功。
5.关闭(禁用)NUMA
Linux操作系统默认情况下会开启NUMA(Non Uniform Memory Access),其优先在进程所在的CPU节点本地进行内存分配。这种内存分配策略的初衷是,让内存更接近需要它的进程。但是,这不利于充分利用系统的物理内存,所以这种内存分配策略不适合数据库这种大规模使用内存的场景,它会导致CPU节点间内存分配得不均衡。比如,当某个CPU节点的内存不足时,NUMA非但不从有充足物理内存的远程节点分配内存,而且还会直接导致“swap”过高。因此,建议用户在使用SequoiaDB时关闭NUMA。
首先我们要检查NUMA的状态,查看是否已关闭NUMA,具体步骤如下。
(1)安装numactl工具:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_1.jpg?sign=1739459554-FPPmxZgAXJzqUqZ0IxS7Bd7VPmhxMUso-0-52129babd9f86f55112cb468914989a7)
或
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_2.jpg?sign=1739459554-jrx9JQ9j3tNcvauxBVGilehOR6nVPhAz-0-1038a3a5f146a873592f91af389ecdb4)
(2)检查是否已关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_3.jpg?sign=1739459554-vTIqAfHemP7l3GmjZ1hL6dGxc0603POi-0-7193f307b17a30c9079b28d65cec3377)
如果输出结果中只有node0,则表示已关闭NUMA;如果有node1等其他节点出现,则表示未关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_4.jpg?sign=1739459554-ni92pHQ0HWDlW93u9gsoXv0o6LBck2UD-0-0a26fae47de7f248ff848f5674cebf74)
关闭NUMA的方法有两个:一是通过BIOS(Basic Input Output System)设置来关闭NUMA;二是通过修改gurb的配置文件来关闭NUMA。首选是第一个方法:开机后按快捷键进入BIOS设置界面,关闭NUMA,之后保存设置并重启。不同品牌的主板或服务器,具体操作略有差异,此处不做详述。
对于第二个方法,CentOS、SUSE、Ubuntu的grub配置文件有差异,在同一款Linux的不同版本中也略有不同。
对于CentOS 6/Red Hat 6,关闭NUMA的步骤如下。
(1)修改文件/boot/grub/grub.conf:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_5.jpg?sign=1739459554-8mRwqyKDHHt55VQ9gYpsQbIeygTyp66i-0-03b0ad9239008053126dac2bcdcb1a67)
(2)找到“kernel”引导行(不同版本的内容略有差异,但其开头均有“kernel/vmlinuz-”字样):
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_1.jpg?sign=1739459554-pd2GnqXZyk4yZRHn2KgnAZwKVhS17UjA-0-6362a2e2d2887de28411962603e0ecf0)
(3)在“kernel”引导行的末尾加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_2.jpg?sign=1739459554-nfs5wyovpemc9E4e6rW4WNas3Vs6klPb-0-05d9b22128a168074d7fab0737edc212)
要注意的是,如果该配置文件中存在多个“kernel”引导行,则每个引导行都需要进行修改。
(4)重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_3.jpg?sign=1739459554-bE0uxLmBMISwZ1byLxd0PCfZYznJdi3g-0-1aed1efa3f85297976d2174baf8baf3b)
而对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8/Suse 12/openEuler/中标麒麟/Ubuntu 16/统信UOS等系统,关闭NUMA的步骤如下。
(1)修改文件/etc/default/grub:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_4.jpg?sign=1739459554-NrfFNMdkLMDQtZFJPgkFz4ZZalPpuWrN-0-fdc9249050b374e72f0eb8fa6b01df7b)
(2)找到配置项“GRUB_CMDLINE_LINUX”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_5.jpg?sign=1739459554-vqWngd7MbKmxfvabHNmvXbt2lEJQBa0G-0-a84be8f8dd0b378158c46ce793595749)
(3)在配置项“GRUB_CMDLINE_LINUX”的最后加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_6.jpg?sign=1739459554-9xWO69wtqYIO4krQ45YQTJWKNEuVKN9d-0-c22e5633265a9e9dcbb41013c38658f8)
(4)重新生成grub引导文件。
对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_7.jpg?sign=1739459554-IH6BEZrPEPju5bOHrVDbSq96ADrwI6Cu-0-a25f85150ed7dce075d27babf584583a)
对于Suse12,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_8.jpg?sign=1739459554-wKsWdVINxxTY2jItWUq8rGezzoo5MIGp-0-57d9774baa8c1ca6d373ba25cce5401e)
对于openEuler/中标麒麟,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_9.jpg?sign=1739459554-EXLOAMEufVi4NR2nvToC4SfWIZISTatJ-0-684ee65b09d329321fe20438c620039b)
对于Ubuntu 16/统信UOS,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_1.jpg?sign=1739459554-uwqab06PiGLNNRUMC5Wkia6sAlIguwfK-0-18fdebd56efaa679431997aad88a0ef5)
(5)关闭NUMA后,需要重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_2.jpg?sign=1739459554-ELiCuGNYH3l2GO2LXJVWxxJKOuOA4AKw-0-512a9938ae742ea750b49446da57c1f2)