靠自研不断精进的QingStor分布式存储

靠自研不断精进的QingStor分布式存储

以软件创新为主的软件定义存储降低了企业级存储市场的创新门槛,大家都用着同样的商用化标准硬件,在硬件上运行自己编写的软件。
软件本身易于复制的特性降低了成本;快速迭代的特性,加速了存储创新的步伐,各种新功能特性层出不穷。
软件定义浪潮下,以软件定义存储技术为核心的中国新一代存储系统公司陆续登场,他们可以分为两大类,一类主张要自研,一类主张加入开源生态,从策略上来讲,各有各的道理。
对用户来说,无论是黑猫还是白猫,能抓老鼠的就是好喵。企业级存储也是一样,是自研还是开源,能满足企业需求的就是好存储。
铁了心搞自研的青云
在铁了心搞自研的青云QingCloud看来,选择自研这条困难模式是深思熟虑过的。在笔者看来,青云对于产品技术,至少是存储技术来讲,自己的想法非常多,创新点非常多,这么多想法完全没办法在现成的开源方案中实现,自研之路是必然的。
谈到为什么要坚持自研时,QingStor存储产品线研发负责人王煜表示,企业核心业务上云,对于存储的要求不只是性能和稳定性这么简单,还需要满足云计算在安全性、隔离性、大规模水平扩展能力的要求。而主流开源存储中,没有一款能够完全满足上述所有要求,包括Ceph和HDFS都有问题。(不要Ceph,青云自己做了一套QingStor文件存储系统)
青云QingCloud成立于2012年,2013年曝出的斯诺登事件让很多人满脸错愕地表示长了见识,也提了醒,不知道这跟青云现在的“技术洁癖”有多大关系。在外人看来,青云很技术,凡事都喜欢自己来,要搞懂代码的含义,在青云看来,是希望用全栈自主可控来消除企业对数据安全的顾虑。
自研需要勇气,需要长期、大量的投入,效果还可能不尽如人意,不过,青云QingCloud存储的市场表现不错,而且,还经常有新东西拿出来,可以说自研之路是成功的。
QingStor存储家族总共有四款产品:QingStorNeonSAN(分布式块存储)、QingStor对象存储、QingStor文件存储、QingStor融合存储,每一都款是独立进行架构设计和开发的,每一款都面向不同的场景。
QingStor存储家族追求的不是一步到位的通用性,青云QingCloud认为通用性会在许多方面做出弱化和妥协,于是先后发布了强调性能的QingStorNeonSAN(分布式块存储)、支撑海量非结构化数据存储的QingStor对象存储,以及可对接各种系统的QingStor文件存储。
考虑到市场上还是有融合存储的需求,需要一套存储支持多种存储类型和存储接口,于是,青云QingCloud也发布了QingStor融合存储。所以,青云这是妥协了吗?
不是的,原来,融合存储融合的三款专业存储只是在部署层面上做了整合,在架构层面上依然保持各部分原来的特性。该快的还是快,该海量的还是海量,谁也不影响谁,这与Ceph架构完全不一样。
过去几年来,青云QingCloud的存储保持每年一次大更新的节奏,最近,青云存储的全系产品又迎来了一次更新,正是一年一度的大更新,在这里做一个简单的介绍,看到这些更新,真的会感觉青云存储自研之路是必然的,也是必须的。
QingStorNeonSAN:分布式全闪存储一体机
QingStor存储产品线产品经理冯相东介绍了QingStorNeonSAN3.0新增的几大功能,包括在同一个集群内支持不同配置的硬件,包括支持卷粒度的QoS,包括在物理机、虚拟机和容器平台上都支持用RDMA互联。
特别值得注意的是,新版本还新增了对于NVMe-oF的支持,NVMe-oF是为闪存而生的协议,果不其然,青云QingCloud做起了全闪存,发布了QingStorNF6000分布式全闪存储一体机。
只需三节点的x86服务器,它用标准的硬件配置来提供100万IOPS和0.5毫秒的低延迟,青云QingCloud是要打造极具性价比的全闪存,要破除分布式存储性能低的固有印象,按照分布式存储随节点扩展提升性能的特性,分布式全闪存的性能还是有很大发展空间的,当然,对于技术要求也非常高。
QingStorNeonSAN的版本迭代不断强化在核心应用场景上的能力,比如在云平台/虚拟化场景中不断丰富支持的虚拟化平台,在大数据场景中优化副本策略提升存储空间利用率,在业务连续性场景中简化管理的复杂度。
另外,新版本的QingStorNeonSAN新增了对于容器/云原生场景的支持,提供标准的容器存储接口和各种企业级特性,可为KubeSphere和Kubernetes这样的容器平台提供持久化存储能力。
考虑到企业落地容器平台的复杂度,青云QingCloud开源了K8s发行版KubeSphere容器平台,结合上支持容器存储的QingStorNeonSAN,最终推出了KubeSphereKF3000容器一体机。
三部分整合优化后可提供商用级服务,免去了用户安装配置的麻烦,并且在性能上能达到了比较高的水平。
QingStor对象存储:兼备大容量与高性能
QingStor对象存储产品经理贾斌介绍说,QingStor对象存储在海量数据存储能力、高性能方面花了很大精力。特别是在一些小文件并发场景中,性能提升达52%,而且,QingStor对象存储的单桶(Bucket)数据超过百亿时,性能仍然非常稳定。最终,让QingStor对象存储兼备海量数据和高性能。
除了基础特性外,QingStor对象存储3.0新增了几个重要功能,并且强化了部分场景适用性。
首先,版本控制功能强化数据保护能力。版本控制功能可以记录数据的历史版本,需要的时候可以回溯,解决了企业级用户的数据保护需求,在意外删除、意外覆盖、恶意篡改后能找回数据,对于政务、金融、保险、公共安全行业特别有意义。
其次,数据追加写入功能强化视频监控场景,以应对诸如视频监控这类需要实时数据存储的场景。说到视频监控场景,对于数据并发存储的需求越来越高,对于结合AI大数据分析能力的要求也越来越多,这点,QingStor对象存储也都能很好的支持。
再一个是数据跨区域复制功能,结合官方工具qsctl和qscamel,可以让用户以可视化的方式对海量数据进行迁移,支持从传统存储迁移到分布式对象存储,支持跨云服务商、跨云服务区的复杂数据迁移,支持各种常见的迁移操作。
QingStor对象存储的一大优势场景是做数据备份,相比之下,传统备份方案的数据恢复缓慢、整体成本高昂、运维管理复杂,而基于对象存储的数据备份则非常的现代化,不仅运维友好,而且成本更低。
QingStor文件存储:强化通用性
从QingStor文件存储研发负责人黄蒙的介绍中看到,新版本首先通过优化架构和改用Rust编程语言来优化了性能,更重要的是,青云QingCloud对于文件存储也提出了新的想法,青云希望打造一款云计算基础架构下,更加通用的文件存储产品。
具体要在文件接口、扩展性和适应差异化需求这三方面下手。
在接口方面,经典的HDFS只支持部分接口类型,所以,通用性不够。对象存储本身就是为互联网设计的,虽然也可以通过协议转换支持文件协议,但性能额外损耗直接导致应用场景受限。QingStor文件存储的设计目标是要在支持通用文件接口和通用网络文件协议的前提下,提供一个可扩展,且高可用的分布式文件存储系统,以此来扩展使用场景。
在可扩展性方面,QingStor文件存储不仅能实现统一命名空间下的可扩展性,而且每个目录都具有可扩展性。而别的常见的方案中,单个目录不具备扩展性,这种方案的统一命名空间是通过将多个独立的本地文件系统组织起来,通过增加一个个本地文件系统来实现扩展。
后者最大的问题在于,当某个目录下的某个文件成为热点数据后,所有对它的访问都只能通过一个网关节点来进行,很容易出现性能瓶颈。QingStor文件存储的每个目录都可以真正扩展,而且允许多个逻辑接入节点同时访问相同数据,也就是说,数据访问的性能也具有弹性。
可以说,QingStor文件存储做到了真正的可扩展。
在满足应用的差异化需求方面,QingStor文件存储也有新操作,它支持为每一个文件系统提供差异化设置的能力,比如,用户可以按照需求选择副本数,还可以选择数据块大小,总之是给了用户更多自己选择的空间,以此实现灵活性,提升通用性。
一点感受
如前文所言,青云QingCloud对存储的想法是非常多的,而且执行力也很不错,比如跟KuberSphere容器结合做出的一体机,比如支持NVMe-oF的全闪存,又比如对于文件存储通用性的设计,都令人眼前一亮。
做到一定程度之后,想再进行一些细致入微的更新的话,在技术应该很难,但对用户都非常有价值,行百里者半九十,不断打磨产品的心,只有自研才能放得下。

主题测试文章,只做测试使用。发布者:最新稳定辅助网,转转请注明出处:https://www.744broad.com/12276.html

(0)
上一篇 2023年3月1日 上午8:58
下一篇 2023年3月1日 上午9:04

相关推荐

  • 生活可无友:We can live without our friends

    生活可无友:We can live without our friends. 必克英语,专属外教一对一情景式电话教学,职场人士和妈妈们首选英语教育机构,十年品质保证。rustnotthepraiseofafriend,northecontemptofanenemy.不要信赖朋友的赞扬,也不要仇敌的轻蔑放在心上。Wecanlivewithoutabrother…

  • 不会还有程序员不知道这个网站「No Design」吧?不会吧,不会吧

    不会还有程序员不知道这个网站「No Design」吧?不会吧,不会吧 网站上收集了许多十分便利的UI设计工具与设计资源,看完后我内心激动不已,这网站对于那些不太懂设计的开发者来说,简直是超级福音啊!网站建立的初衷,是帮助一些毫无设计天赋的工程师能更好的完成开发工作,但从平台现有的资源来看,上面的工具其实也适用于大部分互联网从业人员。下面我们就来看看,里面具体…

    RUST资讯 2023年2月23日
    80
  • 短篇小说|Philosophy of the Foo

    短篇小说|Philosophy of the Foot BetweenIrum’sBeautySpotandPrimetimeBakery,belowatallpalm,amakeshiftstallhasappeared.It’sconstructedfromcoarselywovenwhiteplasticsheetingwith“SavetheChil…

    RUST资讯 2023年2月25日
    40
  • 《方舟生存进化》经典PVP规则改变,洞穴将不能建造建筑

    《方舟生存进化》经典PVP规则改变,洞穴将不能建造建筑 在《方舟:生存进化》这款相对硬核的生存沙盒游戏中,存在着一种特殊的“盒文化”,这和游戏中的建筑玩法息息相关。因为在游戏中前期,玩家们打造出来的建筑物几乎都是简单的方盒外观,所以在萌新之间,盒文化格外流行。越到游戏后期,随着玩家对建筑玩法的不断把握,建筑物无论是在外观还是在功能上,都更加千变万化了。不过不…

    RUST资讯 2023年2月13日
    60
  • 尤雨溪:Turbopack真的比Vite快10倍吗?

    尤雨溪:Turbopack真的比Vite快10倍吗? 大家好,我是Echa。10月25日,Vercel推出了下一代打包工具:Turbopack,它是基于Rust的Webpack继任者,其文档中提到,Turbopack比Vite快10倍。《比Webpack快700倍的Turbopack,到底快在哪?》11月1日,Vue、Vite作者尤雨溪发表文章《IsTurb…

    RUST资讯 2023年3月10日
    20
  • APP内阅读RedMonk最新编程语言排行榜出炉:JS霸榜,C++下降至第7

    APP内阅读RedMonk最新编程语言排行榜出炉:JS霸榜,C++下降至第7 下文中的数据是由MongoDB提供的,数据是从GitHub和StackOverflow中提取的语言排名。上图显示的是编程语言在GitHub和StackOverflow上的对比,横向数据是在GitHub上的受欢迎程度,纵向是在StackOverflow上的受欢迎程度。上图数据和之前三…

    RUST资讯 2023年2月16日
    80
  • 精品推荐—古铜币,高古玉

    精品推荐—古铜币,高古玉 统和元宝,中国古代钱币之一,辽国圣宗皇帝统和年间(公元983年-1012年)铸造。现有小字版、大字广穿版、背星月几种均传世稀少。早期辽钱均极罕见;物以稀为贵,价值不菲。藏品介绍中文名称:背星月统和元宝英文名称:Backtotheastralmoonsystemandingot类别:杂项品相:美品本品铸制规整,铸相雄浑大气,方正圆矩,…

    RUST资讯 2023年2月28日
    40
  • 在大温的春天里,你可曾为你的爱车做防锈处理?现在可是最佳的时机!

    在大温的春天里,你可曾为你的爱车做防锈处理?现在可是最佳的时机! 冬夏交替,季节温差的波动使车子比以往任何时候都更可能产生锈渍,某些不易见到的角落一旦生锈便会慢慢延伸到更大的面积,所以说现在是给汽车做防锈的最完美时机。如果回想起来你从来没有给汽车做过防锈也不要害怕,防锈工作永远不晚。有几种方法来做防锈工序,最简单的便是向一些锁件或铰链合页之类的地方定期地滴油…

    RUST资讯 2023年3月10日
    10
  • 深入理解C++ 协程与网络编程

    深入理解C++ 协程与网络编程 协程,即协作式程序,其思想是,一系列互相依赖的协程间依次使用CPU,每次只有一个协程工作,而其他协程处于休眠状态。协程可以在运行期间的某个点上暂停执行,并在恢复运行时从暂停的点上继续执行。协程已经被证明是一种非常有用的程序组件,不仅被python、lua、ruby等脚本语言广泛采用,而且被新一代面向多核的编程语言如golang…

  • 丁尼生诗三首

    丁尼生诗三首 阿尔弗雷德丁尼生出生于十九世纪初,是英国维多利亚时代的著名诗人,他八岁就开始写诗,但成名之路并不是一帆风顺的,24岁时,丁尼生最亲密的朋友,也是他姐姐的未婚夫去世,在朋友离世和作品受到恶评的双重打击下,他有十年未发表作品。到了33岁,他的诗歌逐渐受到评论界和公众的欢迎。丁尼生的诗歌充满怀旧、悼亡、对生死问题的探索,下面三首诗题材都取自希腊神话故…

    RUST资讯 2023年2月25日
    40
关注微信