首页基础软件软件产品资讯

2022基础软件的创新之路

软件目录2022-05-13 10:12:34 推荐 192

软件目录(www.cnosoft.com)5月12号讯:在建设数字化大楼的过程中,底层的软件是非常重要的。但是从各个行业来看,基于常规运营方式的基础软件很难支持数字化服务的革新,只有从专家的角度出发,才能有效地减少开发过程中的硬件更新。才能消除一切顾虑,将经营与经营的数字化,全身心地面对国际大环境与产业的变幻莫测。

2020年4月15-16日,第一届 DIVE全球基础软件创新会议以“深度应用于底层,构建全新的数字化基础设施”为主旨,此次会议是 InfoQ发起,目的在于打造最丰富、最前沿、最具技术性的基础软件盛会,并成为基本软件领域的风向标。此次会议邀请了网易数帆两名高级建筑师翁扬慧、向东,他们的主题是《网易数帆在混合微服务架构下的统一治理实践》以及《面向未来的分布式存储设计》,并就网易数帆在支撑互联网和服务领域的用户积累的数字基础软件的革新进行了交流。

解决技术零散问题的一体化服务管理

翁扬慧就目前所遇到的问题、关键问题和关键问题进行了阐述,并就传统的传统业务从框架提升到了服务化,并阐述了网易数帆是怎样用产品的方式使其管理更优美。

微型服务是一种新型的体系结构,它在商业体系结构的构建中得到了广泛的运用。从技术选择方面来说, Dubbo和 Spring Cloud是 Java语言中最主要的两个选择,但是仍然存在着以私人为基础,有些还没有实现微端服务。

由于技术不断升级,企业的迅速发展,企业必须引进新技术,才能适应各种复杂的商业环境,从而使企业技术体系结构在不断演化的同时,也会遇到技术“碎片化”的问题。

1.微型业务架构很难进行整合管理,目前 Java仍是企业应用的主要市场,不管是 Spring Cloud、 Dubbo、 gRPC,甚至是私人的发展架构,都需要对服务管理进行管理,而这些架构又是怎样在各个微业务架构中找到彼此的。企业管理中的一个难点就是如何实现统一管理。

2.异质的语言很难管理,在不同的商业环境下,采用的开发方式可以更好地利用语言的特点,比如 C++开发高性能、低延迟的服务、 Python开发人工智能、数据分析等,而这些异质的语言也必须要有一个共同的管理机制,比如提供流量管理、安全控制等功能;

3.中间件很难统一,各种微机技术所选用的注册中心种类各异,也有配置中心、认证中心等,以及各种常用的 MySQL、 Redis、 ES、 Kafka等常用的数据和信息中间件,因此,如何进行高效的、统一的、高效的、智能的运维也是各大企业的目标;

4.云系统的运营环境很难进行整合,物理机器、虚拟机、以及集装箱等各种不同的应用程序的操作环境的变化已经形成了一个标准化的趋势。为了满足资源弹性和业务容灾的需求,在业务层面上,还必须对业务层面的差别进行有效的隔离和管理。

另外,在基础技术、业务部署架构等领域,也都有统一、标准化的设计要求,在不同的技术架构中,都有不同的维度和层次。然而,由于业务研发需要将全部的时间都用在了业务的发展上,因此,技术进步所产生的技术负债也成为了目前公司发展的难点。

网易数帆轻船的微端服务队伍,在长期支持国内外用户的发展历程中,特别是在微端和云端技术方面,有着丰富的经验和成功的实践。同时也为企业提供了一个统一的管理系统。采用行业内的先进的非侵扰式服务治理技术,双引擎多模式统一治理,中间件 PaaS化的技术,通过提供一站式的微服务平台控制台,助力企业用户以最小的改造、使用成本快速实现业务的统一治理,从而让业务团队更加关注于专业领域的业务开发,提升企业整体的研发效率,实现成本优化。

另外,翁扬慧在此次的交流中,也提到了“轻船微商”这个队伍在过去几年里,已经在金融领域做出了很多很好的例子。而且积累了丰富的财务知识。通过建立一个完整的技术基础,并支持“两地三中心”、“异地多活”的技术支持,来帮助传统的金融公司完成核心业务的分布式技术改造升级,从而实现去 IOE,最终达到全栈技术国产化、自主可控的终极建设目标。

分布式存储器的未来发展

向东介绍了网易数帆开源云计算平台 Curve开发背景、应用场景、应用场景、合理的设计实现了系统的设计目的、存储器的最佳配置、 Curve的发展和演变。Curve是一个由 CurveBS两个模块组成的分布式存储器体系和 CurveFS的分布式数据存储器, CurveBS在公司的内部得到了大量的使用, CurveFS也在不断地发展。

随着存储与运算的日益分开,云计算系统的体系结构日益受到重视。存、算分开是对资源进行深层次的最优,可以使计算与储存的资源灵活扩充,并按需配置。Curve是一种基于云原生的云存储体系,以适应存、计算分开的需要,具有高性能、易维护和云原生特性。

网易数帆公司之所以会自主研发 Curve的内存,有三个理由:

1.缺少一个统一的、具有较低编码能力的、具有独立控制能力的、 Ceph编码数量超过100 W的内存,要彻底地熟悉和熟练;

2.当现存的开放源码存储器系统发生失效时,会对上位机的运行产生很大的冲击和困难。当系统发生错误时, I/O会经常发生颤抖;

3.在通用的基础上,目前的开放源码存储器不能够满足核心的应用要求。

易行维护的关键在于提高可用性和可靠性,在系统出现问题的情况下,确保数据的连贯性和稳定性。网易数帆公司在 CurveBS上引入 RAFT技术,实现其易于维护的目的。RAFT不但保证了资料的连贯性,而且还减少了对输入输出的响应时间,只要大部分拷贝的拷贝要求都能顺利地回到,那么就说明了数据的写是顺利的。

网易数帆在网络拓扑中引入了失效区域的思想,并在数据分配中引入 copyset方法,以确保出现错误。最小的可能是数据的损失。为了确保储存系统的联机更新,本系统还使用了专门的客户机,以确保其在线更新。

为了达到 CurveBS的高效能指标,三个方面分别是:降低下级 I/O的写放大,提高 I/O的使用率,减少 I/O的延时。网易数帆利用 ChunkFilePool提前建立了一个文件库,减少了 I/O的写入扩展,并且利用像 Raid一样的 DataStrip数据条增加了处理速度,而 zerocopy则减少了 I/O复制带来的额外负担。

与 CurveBS不同, CurveFS的工作负荷更加繁杂,其应用场景也更加多元化,比如:机器学习场景的处理能力和能力,快速的跨云业务场景的灵活性,低成本的业务需求,中间件的冷暖数据自动分离,S3和 POSIX的统一存取需求。

网易数帆的解决办法是:第一,从元数据层次上确保元数据的线性和可扩展性,使用 RAFT来确保数据的连贯性和可用性;CurveFS现在已具备S3级基本存储功能,并且可以向外部发布 POSIX格式的文档,网易数帆的存储小组正在不断地对 Curv进行改进。

标签:
随机快审展示 刷新 快审榜
加入快审,优先展示

加入VIP

发表评论

  • * 评论内容:
  •  

精彩评论

  • 无任何评论信息!