EN
提示

保障关键业务性能!杉岩海量对象存储QoS特性再升级!

发布于2023-07-05

  • 分布式存储
  • QoS

凭借在海量非结构化数据存、管、用等多个方面的优势,对象存储被企业广泛采用,成为各大企业非结构化数据统一存储平台,并逐渐承载更多、更加关键的业务。

在多业务共用对象存储资源池场景,对于存储运维人员来说,保障关键核心业务的高性能和可用性是重中之重。近期,杉岩MOS海量对象存储产品QoS(Quality of Service,服务质量)特性从单网关控制升级至全局分布式架构,在QoS控制精准性以及管理便捷性方面带来了极大提升,可以有效限制非核心业务流量,保障核心业务服务质量,为客户关键业务保驾护航提供有力支撑。

3大升级亮点!保障关键业务性能

更便捷——全局统一控制

设置某个用户的QoS限制额度,会自动由主对象网关动态分配相应额度到组内所有对象网关,实现了跨多对象网关的全局统一控制,而非单网关维度。

自动感知各个对象网关状态,基于网关拓扑变化,按照实际存活网关数量分发可用令牌配额。

更精准——流控精准平稳

可限制相关业务IO波动范围小于QoS配额的5%,实现精准平稳控制。

更完善——支持突发流量响应

针对突发流量场景,支持预留弹性IO流量上限,避免业务大批量请求失败,在保障关键业务的前提下,同时保障受限业务的突发IO需求得到充分响应。

揭秘杉岩海量对象存储分布式QoS特性

分布式QoS特性是在分布式存储系统中,进行用户/桶级别的上限流控,允许给QoS调控对象(用户、桶)设置性能上限,包括TPS、带宽上限,从而确保QoS调控对象的性能不超过限值,保障关键业务的性能。


基于令牌桶的QoS控制IO流程


要实现流量的控制,必须有一种机制可以对通过设备的流量进行度量。令牌桶是目前最常采用的一种流量测量方法。如下图所示,令牌桶可以看作是一个存放令牌的容器,预先设定一定的容量。系统按设定的速度向桶中放置令牌,当桶中令牌满时,多余的令牌溢出。


图1 令牌桶示意图

当数据流到达设备时,首先会根据数据的大小从令牌桶中取出与数据大小相当的令牌数量用来传输数据。如果令牌数量不够,则数据会被丢弃或缓存,这使得报文的流量只能小于等于令牌生成的速度,以达到限制流量的目的。

如下图所示,客户端发来的对象请求进入存储系统后,将申请令牌。

如访问对象存储系统的流量未达到用户设置的QoS上限值,即消耗令牌的速度小于令牌生成的速度,所有IO请求都能申请到令牌并访问对象存储系统。

如命名空间流量已达到上限,即消耗令牌的速度大于令牌生成的速度,IO请求将不能立即申请到令牌,而是进入流控队列的队尾,等待获取新生成的令牌陆续出队,出队速度受令牌生成速度的限制,从而达到流量控制的效果。

图2 基于令牌桶的QoS控制下对象请求

分布式令牌分配流程

如下图所示,在多个对象网关(RGW)中,会有某个对象网关(RGW2)被选为主令牌桶角色,负责持续动态分配令牌到其他RGW,实现分布式协同控制。


图3 分布式令牌分配流程

子令牌桶所在对象网关会根据当前实际令牌消耗情况,动态向主令牌桶所在对象网关请求更新令牌数量,如果剩余令牌数量为0,则会阻塞相关IO请求,等待分配新的令牌。

主令牌桶所在对象网关除了同样按照分配的令牌数量响应S3请求,还负责动态感知全局令牌分配情况,负责全局协调,将可用令牌发放给需要的子令牌网关。

测试效果展示

在三节点虚拟机环境,配置两个对象网关,采用4KB小对象进行高并发写入测试,如下图,在没有QoS控制的情况下,IOPS测试结果为3733。


图4 无QoS控制下测试结果

假设此业务为非核心业务,需要将其写入IOPS限制为不超过200,可通过杉岩MOS界面一键配置。

图5 杉岩MOS界面配置IOPS上限

测试结果可以看到,相应的业务请求写入IOPS被控制到193,能够为关键业务预留足够的系统IO资源(3733-193=3540)。

图6 配置QoS后测试结果

同时观察多个对象网关的请求分布,可以看到通过主令牌桶所在对象网关统一协调控制,IO流量不是基于单个对象网关,而是两个对象网关分布式协作完成。

图7 跨多对象网关统一控制

总结

针对海量非结构化数据“存、管、用”需求,杉岩分布式存储产品不断迭代优化。分布式QoS技术进一步升级后,可支持全局分布式架构,实现跨多对象网关的统一控制、流控精准平稳、突发流量响应,在保障关键业务优先响应的同时兼顾受限业务的IO需求,并实现一键配置、轻松管理,为企业业务打造坚实的数据底座,保障企业用户的业务高效运转,加速创新发展。

分享至:

联系

我们

400-838-3331

在线

客服