Nacos 长链接
⼀、现状背景
Nacos 1.x 版本 Config/Naming 模块各自的推送通道都是按照自己的设计模型来实现的。
配置和服务器模块的数据推送通道不统⼀ ，http 短连接性能压力巨大，未来Nacos 需要构建能够同时支持配置以及服务的长链接通道， 以标准的通信模型重构推送通道 。
二、场景分析
1. 配置
配置对连接的场景诉求分析
SDK 和 Server 之间
- 客户端 SDK 需要感知服务节点列表，并按照某种策略选择其中⼀个节点进行连接；底层连接
断开时，需要进行切换 Server 进行重连。 - 客户端基于当前可用的长链接进行配置的查询，发布，删除，监听，取消监听等配置领域的 R
PC 语意接口通信。 - 感知配置变更消息，需要将配置变更消息通知推送当前监听的客户端；网络不稳定时，客户端
接收失败，需要支持重推，并告警。 - 感知客户端连接断开事件，将连接注销，并且清空连接对应的上下文，比如监听信息上下文清
理。
Server 之间通信
- 单个 Server 需要获取到集群的所有 Server 间的列表，并且为每⼀个 Server 创建独立的长链接；连接断开时，需要进行重连，服务端列表发生变更时，需要创建新节点的长链接，销毁下线的节点长链接。
- Server 间需要进行数据同步，包括配置变更信息同步,当前连接数信息，系统负载信息同步，负载调节信息同步等。
2. 服务
SDK 和 Server 之间
- 客户端 SDK 需要感知服务节点列表，并按照某种策略选择其中⼀个节点进行连接；底层连接断开时，需要切换 Server 进行重连
- 客户端基于当前可用的长链接进行配置的查询，注册，注销，订阅，取消订阅等服务发现领域的 RPC 语意接口通信
- 感知服务变更，有服务数据发生变更，服务端需要推送新数据到客户端；需要有推送 ack，方便服务端进行 metrics 和重推判定等
- 感知客户端连接断开事件，将连接注销，并且清空连接对应的上下文，比如该客户端连接注册的服务和订阅的服务
Server 之间通信
- 服务端之间需要通过长连接感知对端存活状态，需要通过长连接汇报服务状态（同步 RPC 能力）
- 服务端之间进行 AP Distro 数据同步，需要异步 RPC 带 ack 能力
三、长链接核心诉求
1. 功能性诉求
客户端
连接生命周期实时感知能力，包括连接建立，连接断开事件。
客户端调用服务端支持同步阻塞，异步 Future，异步 CallBack 三种模式。
底层连接自动切换能力。
响应服务端连接重置消息进行连接切换。
选址/服务发现。
服务端
连接生命周期实时感知能力，包括连接建立，连接断开事件。
服务端往客户端主动进行数据推送，需要客户端进行 Ack 返回以支持可靠推送,并且需要进行失败重试。
服务端主动推送负载调节能力。
2. 性能要求
能够支持百万级的长链接规模及请求量和推送量，并且要保证足够稳定。
3. 负载均衡
常见的负载均衡策略：随机，hash，轮询，权重，最小连接数，最快响应速度等
- 短连接和长链接负载均衡的异同：在短连接中，因为连接快速建立销毁，“随机，hash，轮询，权重”四种方式大致能够保持整体是均衡的，服务端重启也不会影响整体均衡，其中“最小连接数，最快响应速度”是有状态的算法，因为数据延时容易造成堆积效应；长连接因为建立连接后，如果没有异常情况出现，连接会⼀直保持，断连后需要重新选择⼀个新的服务节点，当出现服务节点发布重启后，最终连接会出现不均衡的情况出现，“随机，轮询，权重”的策略在客户端重连切换时可以使用，“最小连接数，最快响应速度”和短连接⼀样也会出现数据延时造成堆积效应。 长连接和短连接的⼀个主要差别在于在整体连接稳定时，服务端需要⼀个 rebalance 的机制，将集群视角的连接数重新洗牌分配，趋向另外⼀种稳态
- 客户端随机+服务端柔性调整: 核心的策略是客户端+服务端双向调节策略，客户端随机选择+服务端运行时柔性调整。
客户端随机
客户端在启动时获取服务列表，按照随机规则进行节点选择，逻辑比较简单，整体能够保持随机。
服务端柔性调
(当前实现版本) 人工管控方案
- 集群视角的系统负载控制台，提供连接数，负载等视图(扩展新增连接数，负载，CPU 等信息，集群间 report 同步)，实现人工调节每个 Server 节点的连接数，人工触发 reblance，人工削峰填谷。
- 提供集群视角的负载控制台：展示 总节点数量，总长链接数量，平均数量，系统负载信息。
- 每个节点的地址，长链接数量，与平均数量的差值，正负值。
- 对高于平均值的节点进行数量调控，设置数量上限(临时和持久化)，并可指定服务节点进行切换。
(未来终态版本)自动化管控方案
- 基于每个 server 间连接数及负载自动计算节点合理连接数，自动触发 reblance，自动削峰填谷。实现周期较长，比较依赖算法准确性。
4. 连接⽣命周期
心跳保活机制
我们需要什么
低成本快速感知：客户端需要在服务端不可用时尽快地切换到新的服务节点，降低不可用时间，并且能够感知底层连接切换事件，重置上下文；服务端需要在客户端断开连接时剔除客户端连接对应的上下文，包括配置监听，服务订阅上下文，并且处理客户端连接对应的实例上下线。
- 客户端正常重启：客户端主动关闭连接，服务端实时感知
- 服务端正常重启 : 服务端主动关闭连接，客户端实时感知
防抖：
- 网络短暂不可用: 客户端需要能接受短暂网络抖动，需要⼀定重试机制，防止集群抖动，超过阈值后需要自动切换 server，但要防止请求风暴。
断网演练：
- 断网场景下，以合理的频率进行重试，断网结束时可以快速重连恢复。
5. 安全性
支持基础的鉴权，数据加密能力。
6. 低成本多语⾔实现
在客户端层面要尽可能多的支持多语言，至少要支持⼀个 Java 服务端连接通道，可以使用多个主流语言的客户端进行访问，并且要考虑各种语言实现的成本，双边交互上要考虑 thin sdk，降低多语言实现成本
长链接选型对比
基于长链接的⼀致性模型
1. 配置⼀致性模型
sdk-server ⼀致性
server 间⼀致性
Server 间同步消息接收处理轻量级实现，重试失败时，监控告警。
断网：断网太久，重试任务队列爆满时，无剔除策略。
2. 服务⼀致性模型
sdk-server 间⼀致性
server 间⼀致性
核心模型组件设计
Java 面试宝典是大明哥全力打造的 Java 精品面试题，它是一份靠谱、强大、详细、经典的 Java 后端面试宝典。它不仅仅只是一道道面试题，而是一套完整的 Java 知识体系，一套你 Java 知识点的扫盲贴。
它的内容包括：
- 大厂真题：Java 面试宝典里面的题目都是最近几年的高频的大厂面试真题。
- 原创内容：Java 面试宝典内容全部都是大明哥原创，内容全面且通俗易懂，回答部分可以直接作为面试回答内容。
- 持续更新：一次购买，永久有效。大明哥会持续更新 3+ 年，累计更新 1000+，宝典会不断迭代更新，保证最新、最全面。
- 覆盖全面：本宝典累计更新 1000+，从 Java 入门到 Java 架构的高频面试题，实现 360° 全覆盖。
- 不止面试：内容包含面试题解析、内容详解、知识扩展，它不仅仅只是一份面试题，更是一套完整的 Java 知识体系。
- 宝典详情：https://www.yuque.com/chenssy/sike-java/xvlo920axlp7sf4k
- 宝典总览：https://www.yuque.com/chenssy/sike-java/yogsehzntzgp4ly1
- 宝典进展：https://www.yuque.com/chenssy/sike-java/en9ned7loo47z5aw
目前 Java 面试宝典累计更新 400+ 道，总字数 42w+。大明哥还在持续更新中，下图是大明哥在 2024-12 月份的更新情况：
想了解详情的小伙伴，扫描下面二维码加大明哥微信【daming091】咨询
同时，大明哥也整理一套目前市面最常见的热点面试题。微信搜[大明哥聊 Java]或扫描下方二维码关注大明哥的原创公众号[大明哥聊 Java] ，回复【面试题】 即可免费领取。
