Sui gRPC 流式传输支持低延迟的检查点索引和弹性数据管道

Sui上的开发者现在可以利用sui grpc流式传输,构建更快、更可靠的实时区块链数据索引管道。

混合流式模型改变了Sui的数据访问方式

Sui区块链已引入gRPC流式传输作为其索引基础设施的主要数据源,实现了最小延迟的实时检查点摄取。此外,该设计面向必须在数据最终确认后立即做出反应的应用程序。

该平台结合了流式能力与传统轮询方法,以保持数据的准确性和系统的弹性。这种混合模型允许即时访问已确认的检查点,同时保持与已部署在Sui上的现有自定义索引器的向后兼容性。

自定义索引框架支撑这种“流式优先”的架构,无需更改检查点处理逻辑。然而,团队仍然可以依赖现有的管道,同时在带来实际好处的地方引入流式传输。

流式传输消除检查点摄取的轮询延迟

新的gRPC流式传输能力从根本上改变了索引器接收Sui区块链数据的方式。全节点现在在检查点最终确认后,立即将数据推送给索引器,而不是等待预定的抓取。

这种基于推送的模型消除了之前在检查点创建与下游处理之间引入延迟的重复轮询周期。因此,延迟敏感的工具可以更接近实时地做出反应,而无需调节复杂的轮询间隔。

根据文档,系统可以“在检查点一旦确认后立即提供‘实时检查点’”,实现“更快的数据、更强的管道弹性、减少Sui上的基础设施工作”。当然,操作员仍然可以配置安全措施,以应对连接问题和服务中断。

流式机制通过一个简单的配置步骤运行,开发者只需添加一个指向全节点端点的streaming-url参数。索引器随后将检查点作为事件流接收,而不是在预定时间间隔内抓取。

这种事件驱动模型对于监控系统、实时分析平台和其他延迟敏感的应用尤为有价值。此外,它简化了基础设施,减少了对激进轮询策略和相关操作调优的需求。

强制轮询回退保障历史数据

Sui将流式传输与强制轮询回退源结合使用,以应对长连接的固有限制。流式连接仅在建立时开始传输数据,因此仍需其他机制来处理历史检查点。

生产环境中,通用索引器展示了这种混合设计。它以流式传输作为主要摄取路径,同时保持轮询源作为历史数据和恢复场景的安全机制。

这种配置确保索引数据的实时性,同时支持干净的重启和无缝恢复。然而,如果连接中断,系统可以通过轮询从最后已知的检查点恢复,然后在连接稳定后返回流式传输。

实际上,这种混合模式类似于sui检查点流式传输的回退策略。开发者可以享受低延迟推送更新的优势,同时不影响完整性和可靠性。

框架设计支持逐步采用流式传输

自定义索引框架将检查点处理与数据摄取分离。索引器通过统一接口消费和转换检查点,而无需将逻辑绑定到特定的源,如gRPC流或HTTP轮询。

这种抽象允许团队随着需求变化,逐步演进摄取策略,而无需重写核心处理组件。此外,它通过将数据处理逻辑集中在单一层,简化了代码库。

文档指出,使用gRPC流式传输时,“无需轮询,无需猜测时间,也不会因抓取间隔引入人为延迟”。当然,操作员仍可在工作负载不需要超低延迟时选择轮询。

开发者可以根据各自的工作负载特性,逐步启用sui grpc流式传输。优先考虑数据新鲜度和实时响应的应用将从立即采用中获益最大。

相比之下,专注于批量分析、离线处理或更简单工作流程的系统,可以继续使用仅轮询的配置。该框架支持这两种方式,简化多应用环境的管理。

配置保持逻辑稳定,源可以演进

基于官方框架构建的现有自定义索引器,只需做少量更改即可利用流式传输。添加gRPC功能只需在现有的remote-store-url配置值旁边加入一个streaming-url参数。

在此过渡过程中,检查点处理逻辑保持不变。此外,框架会在运行时自动管理源切换,确保索引器对网络状态保持一致的视图。

这种设计有助于防止常见的故障模式,如系统丢失数据或链条严重滞后。框架协调流式和轮询之间的交互,保持在重启和网络中断时的连续性。

总体而言,Sui的混合流式和轮询架构提供了实时检查点、弹性管道,以及为追求低延迟摄取而不牺牲可靠性的索引器的清晰迁移路径。

SUI-2.94%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)