本章,我们看下如何对部署Elasticsearch进程的机器进行调优。因为生产环境下,为了提升Elasticsearch性能,很多OS的默认配置是不能满足要求的,我们需要做些调整。
一、禁止swapping
大多数操作系统都会使用尽量多的内存来进行file system cache,并且尽量将不经常使用的java应用内存swap到磁盘中去。这会导致jvm heap的部分内存,甚至是用来执行代码的内存页被swap到磁盘中去。
swapping对于非常影响应用性能,为了Elasticsearch节点的稳定性考虑,应该尽量避免这种swapping。因为swapping会导致GC过程从毫秒级变成分钟级,在GC的时候需要将内存从磁盘swapping到内存里,特别耗时,这会导致es节点响应请求变得很慢,甚至导致ES node跟cluster失联。
有三种方法可以disable swapping。推荐彻底禁用swap,如果做不到的话,也得尽量最小化swappiness的影响,比如通过lock memory的方法。
1.1 禁用swapping
通常来说,Elasticsearch进程会在一个节点上单独运行,那么es进程的内存使用是由jvm option控制的。所以可以使用下面的命令临时禁止swapping:
swapoff -a
要永久性的禁止swap,需要修改/etc/fstab
文件,将所有包含swap的行都注释掉。
1.2 配置swappiness
另外一个方法就是通过sysctl
,将vm.swappiness
设置为1,这可以尽量减少Linux内核swap的倾向,在正常情况下,就不会进行swap,但是在紧急情况下,还是会进行swap操作:
sysctl -w vm.swappiness=1
1.3 启用bootstrap.memory_lock
最后一个选项,就是用mlockall
,将es jvm进程的address space锁定在内存中,阻止es内存被swap out到磁盘上去。在config/elasticsearch.yml
中,可以配置:
bootstrap.memory_lock: true
我们通过这下面的请求检查mlockall是否开启了:
GET _nodes?filter_path=**.mlockall,
如果发现mlockall是false,那么意味着mlockall请求失败了,会看到一行日志,unable to lock jvm memory。最可能的原因,就是在linux系统中,启动es进程的用户没有权限去lock memory,需要通过以下方式进行授权:
ulimit -l unlimited
另外一个原因可能是临时目录使用noexec option
来mount
了。可以通过指定一个新的临时目录来解决:
export ES_JAVA_OPTS="$ES_JAVA_OPTS -Djava.io.tmpdir=/path/to/temp/dir"
二、使用虚拟内存
Elasticsearch使用hybrid mmapfs / niofs
目录来存储index数据,操作系统的默认mmap count限制是很低的,可能会导致内存耗尽的异常。所以需要提升mmap count的限制:
sysctl -w vm.max_map_count=262144
如果要永久性的设置这个值,要修改/etc/sysctl.conf
,将vm.max_map_count
的值修改一下,重启过后,用sysctl vm.max_map_count
命令来验证一下数值是否修改成功。
Elasticsearch同时会用NioFS和MMapFS来处理不同的文件,我们需要有足够的虚拟内存来给mmapped文件使用,可以用sysctl来设置:sysctl -w vm.max_map_count=262144
。还可以在/etc/sysctl.conf
中,通过vm.max_map_count
来设置。
三、设置线程数
Elasticsearch用了很多线程池来应对不同类型的操作,在需要的时候创建新的线程是很重要的。要确保Elasticsearch用户能创建的最大线程数量至少在2048以上。
可以通过ulimit -u 2048
来临时设置,也可以在/etc/security/limits.conf
中设置nproc为2048来永久性设置。
四、总结
本章,我介绍了针对操作系统的一些核心参数的调优。需要特别关注的是swapping机制,swapping对于性能影响是非常严重的,为了ES节点的稳定性考虑,应该尽量避免swapping。
Java 面试宝典是大明哥全力打造的 Java 精品面试题,它是一份靠谱、强大、详细、经典的 Java 后端面试宝典。它不仅仅只是一道道面试题,而是一套完整的 Java 知识体系,一套你 Java 知识点的扫盲贴。
它的内容包括:
- 大厂真题:Java 面试宝典里面的题目都是最近几年的高频的大厂面试真题。
- 原创内容:Java 面试宝典内容全部都是大明哥原创,内容全面且通俗易懂,回答部分可以直接作为面试回答内容。
- 持续更新:一次购买,永久有效。大明哥会持续更新 3+ 年,累计更新 1000+,宝典会不断迭代更新,保证最新、最全面。
- 覆盖全面:本宝典累计更新 1000+,从 Java 入门到 Java 架构的高频面试题,实现 360° 全覆盖。
- 不止面试:内容包含面试题解析、内容详解、知识扩展,它不仅仅只是一份面试题,更是一套完整的 Java 知识体系。
- 宝典详情:https://www.yuque.com/chenssy/sike-java/xvlo920axlp7sf4k
- 宝典总览:https://www.yuque.com/chenssy/sike-java/yogsehzntzgp4ly1
- 宝典进展:https://www.yuque.com/chenssy/sike-java/en9ned7loo47z5aw
目前 Java 面试宝典累计更新 400+ 道,总字数 42w+。大明哥还在持续更新中,下图是大明哥在 2024-12 月份的更新情况:
想了解详情的小伙伴,扫描下面二维码加大明哥微信【daming091】咨询
同时,大明哥也整理一套目前市面最常见的热点面试题。微信搜[大明哥聊 Java]或扫描下方二维码关注大明哥的原创公众号[大明哥聊 Java] ,回复【面试题】 即可免费领取。