通过电源管理和工作负载整合,大幅提升电信业务处理性能
对于嵌入式开发者来说,如何在低功耗和高性能之间取得平衡,是一项艰巨而持久的工作。而电源管理和工作负载整合两种技术的诞生,正是为了帮助供应商解决这些困难与挑战。
通过基于策略性的电源管理和动态迁移来降低能耗
根据国际能源机构(IEA)较新的报告数据来看,能源消耗正在稳步上升并且在未来的一段时间仍会持续增长。该报告还预估,到2015年,全球的能源消耗每年将以2.5%的速度增长,其中矿物能源消耗占据了主导地位。增长的部分主要来自于发展中国家生活方式的改变,而世界第一产业将持续为全球能源消耗的日益减少做出贡献。
业界领先的电信运营商年报显示,电信业的能源消耗持续增加,并出现在一些国家能源消耗大户的名单上。因为这些运营商持续的引入复杂的信息和通信技术,导致外围硬件设备的需求数量剧增,因此对能源的需求也随之增加,进而导致二氧化碳排放量的增加,同时能耗的成本也随之上升。但是运营商长期的财务压力,势必要求在降低能耗支出,同时满足企业的社会责任需求和/或符合相应的法律法规。但是数据处理以及传输速率的提高,需要更多的通信设备来支持,这反过来又扩大了电信业的总体功耗。
为了获得可持续的发展,电信运营商及设备提供商开始逐渐意识到并加强电源管理技术的投入,通过重点开发能源效率计划,实现节能减排。部署于网络系统中的AdvancedTCA®(ATCA)机箱,在其整个生命周期中,大部分二氧化碳排放主要来自于机箱本身的性能需要以及冷却散热的需求。功耗则主要来自于运营阶段,在此阶段的二氧化碳排放量占整个产品生命周期总排放量的80%左右。运营阶段中的三个层次(辅助设备、网络设备和能量转换)将消耗能量,同时也是可以管理的部分。通过对相关技术的掌握,我们可以实现能耗的管理。
图1. 仅有36%的能量消耗来自于网络设备,如服务器、存储设备以及网络装置,其中大部分的能量直接转化为热能,大约只有2.4%的能量是有效输出。如今,供应商所提供的基于ATCA架构的网络设备都采用了提升能源效率的解决方案,可以大幅节约辅助设备及电源转换过程中的能耗。
合理的设计对于散热管理非常重要,通过降低CPU的利用率,电源输出随之减少,进而降低机房内的散热需求。较终既降低了二氧化碳的排放,又减少了因散热产生的能源消耗成本。
电源管理的理念和技术
对于设备本身而言,也有一些设计理念可以用来帮助减少能耗。其中较为大家熟知的就是处理器级动态电源管理技术,这使得设备或系统可以被设置成不同的工作模式,如:性能/按需/节能/紧急。通过这项技术,可以对处理器进行动态电压调节和动态频率调节,从而进行有效的电源管理。通过动态电压调节和动态频率调节,处理器的核心电压、时钟频率或者两者都可以减小以降低能耗,同时还能满足系统的性能所需。功耗限制功能可以让系统或组件保持其能耗使用峰值在设定的数值范围内(此数值通常根据实际的服务模式下的策略而定),如CPU使用率的原始数据、并发会话数量等等。
ATCA机箱级的电源管理策略包含了用于负载整合的虚拟化动态迁移,此策略可以降低能耗和相关的成本/费用。服务器管理员可以借助动态迁移将一个正在运行的虚拟设备(VM)或应用在两个不同的物理设备间迁移,且不会断开与客户端的链接或应用。动态迁移较典型的一个应用就是云计算中的资源管理。电信运营商拥有的成千上万个虚拟设备(VM)都运行在其数据中心,为了节约能源和成本、负载均衡,这些电信运营商可以利用动态迁移对虚拟设备进行转移,而无需中断运行在这些虚拟设备中的客户应用程序。
实时迁移的配置策略可以基于能耗感知的迁移模式和/或负载调度的模式而定,这取决于首要目的是节能还是优质的服务品质。实时迁移节能的关键是有效地对服务进行打包并提供给更少的物理服务器,物理服务器数量的减少意味着对电力能源的需求就会减少,所产生的热量也随之减少,从而实现节能的较终目的。
虽然实时虚拟设备迁移具有诸多益处,如资源(CPU,内存等)的分配和能耗感知的整合,但是虚拟设备的迁移本身也需要消耗额外的能量。曾经有一篇关于虚拟设备实时迁移的性能和能量模式的文章,发表在第20届高性能分布式计算国际研讨会会议论文集上,该篇文章讲述了一个测试方法,用来测试实时迁移的功耗。结果显示,当部署了能耗感知以及服务器整合模型后,实时迁移所消耗的能量大幅减少。这种模式引导的决策,大幅减少了72.9%的迁移成本,并且节能73.6%。
配置和控制管理策略
以电信行业为例,现今的ATCA机箱通常包括一组高品质的电源模块以及智能风扇系统,可以用来控制温度输出和功耗。我们使用一个典型的ATCA机箱来做相关的测试,通过自动调整策略(根据周围的温度来决定风扇的转速),风扇(整个机箱的1/8)的功耗可以减少40%。
对于机箱剩余的7/8部分,可以通过嵌入式软件设置每个刀片上的CPU、内存以及其他设备的频率和工作模式,从而实现动态电源管理和/或功耗限定。通过智能固件和软件层面的控制部署电源管理策略,可以大幅减少能耗。
从系统管理的角度来看,当系统的工作负载运行在满负荷水平之下时,就可以按既定策略实现动态电源管理。同时在峰值期间也可以使用动态电源管理以减少功耗。然而,当功耗(能量)节约模式启用时,处理器频率将降低,从而影响工作负载的性能和吞吐量。
功耗限定功能可以通过显示器或制动器的内部或外部处理实现。制动器可以提升处理器的电压或提升处理器/内存的频率。制动器也可以“抑制”处理器,即通过注入死循环来延迟对指令的处理。当功耗限定达到时以及限定技术启用时,工作负载的性能可能会受到影响。
嵌入式电源管理软件
电源管理软件的拓扑结构是由多个系统守护进程的组件构成,其中每个组件都会管理一个刀片,和一个客户端组件。
图2:嵌入式电源管理的基本组件
客户端代表电源管理系统搜集与电源有关的数据。系统守护进程是加载在每一个刀片上的应用,扮演者电源管理模块的角色。它提供了CPU、内存、硬盘、网络和虚拟化的工作方法以及功耗限定等功能,在满足性能需求的前提下尽量降低功耗。实际的管理端可以运行在台式机或者笔记本上,通过整合并显示输出机箱、板卡和传感器(如温度)等实际功耗的信息。
图3:功耗限定功能实例
主动电源管理
通过策略的配置,将ATCA刀片上CPU的工作模式切换至节能或主动电源管理模式后,每个刀片的功耗相比持续运行在性能模式下减少15%(参见图4和图5)。每片板卡在加载服务的情况下可以节约0.4KW的功耗(参见图5)。如果一个14槽的ATCA机框中使用了10个刀片,那每天节约的功耗大约4KW。
图4&5:CPU在三种独立模式下的功耗比较
动态迁移
减少功耗的另一个非常有效的方法就是只使用必要的设备来处理相关事件。利用Erlang概率分布算法(图表6)可以有效检测出使用率较低的时段。
图6:Erlang概率分布算法在电信网络流量监测中的实例
通过上面的图表我们可以了解到,1点至7点期间的CPU使用率较低,然而,即使运行在省电模式下,每片板卡仍然在消耗电能。在这种情况下,每片板卡在主动电源管理的策略下会消耗90W的功耗,峰值性能时会上升至140W。解决的办法就是利用实时迁移策略,用较少的CPU刀片在处理这些工作负载,同时将节能模式下的刀片切换到睡眠模式,这样相比主动电源管理的模式可以节约超过25%的功耗。
通过工作负载整合提升系统性能
在工作负载和I/O处理方面,目前的市场和技术发展趋势比较倾向采用将传统的网络架构整合到一个通用平台或模块化的组件上来,以支持多网络设备和提供不同的服务功能,如应用处理、控制处理、包处理和信号处理功能等。处理器架构以及新的软件开发工具的功能提升,让开发人员可以很容易的将工作负载整合到统一的刀片架构中,这些负载包含了应用、控制以及包处理等。通过软硬件的整合,可以大幅度提升性能,并使得刀片式服务器架构在包处理解决方案中的应用大幅增加。
为了说明工作负载整合的演变,我们设计了一系列的测试方法。这些测试方法是在单一平台中,通过将CPU制造商提供的DPDK整合到ATCA处理器刀片上,以此验证处理器刀片提供的性能以及整合的IP转发服务。比较在没有使用Intel® DPDK做任何优化时,采用原生 Linux(Native Linux) IP转发时的第三层转发性能。然后,我们再分析采用Intel® DPDK技术之后所获得的IP转发性能提升的原因。
数据平面开发套件
DPDK(Data Plane Development Kit,数据平面开发套件)是一个专为x86架构处理器提供的轻量级运行环境。它提供了低功耗和Run-to-Completion(RTC,运行到完成)模式,以此较大限度的提升数据包的处理性能。而且DPDK还包含了优化的和高效的函数库,为用户提供丰富的选择,例如我们熟知的环境抽象层(EAL,Environment Abstraction Layer),它负责控制低级资源并提供优化的轮询模式驱动(PMD,Poll Mode Driver),以及更高级别应用的完整API接口,图7为软件层级结构图。
图7: Linux应用环境下的EAL和GLIBC
测试拓扑结构
为了测量ATCA处理器刀片在第三层处理和转发IP包的速度,我们使用图8中所示的环境进行测试。
图8:IP转发测试环境
我们的测试使用了ATCA处理器刀片的2个10GbE外部接口和两个10GbE Fabric接口(总计40G),通过比较使用和未使用DPDK的结果,我们可以得出结论:在相同的硬件平台下,使用DPDK后的Linux仅用两个CPU线程进行IP转发的性能,与原生 Linux(Native Linux)使用全部的CPU线程进行IP转发的性能相比,前者是后者的10倍。使用DPDK的平台,3层小数据包的转发线速可以达到>70%。DPDK中优化过的软件堆栈可以实现10倍性能的提升。如果在一个基于IA架构的刀片的控制层和数据层配备DPDK,就可以减少一个40G的NPU刀片。通常一个40G的GPU刀片的功耗为180W,因此通过工作负载整合可以节省56%的能耗。
从图9可以看出,搭配DPDK后的处理器刀片的IPv4转发性能,可以让客户以更好的性价比成本,将包处理应用从基于硬件的网络处理器移植到基于x86的计算平台,同时使用同一个平台来部署不同的服务,如程序处理、控制处理和包处理服务。更多关于我们的测试过程和结果,请登录凌华科技网站www.adlinktech.com查询凌华科技的技术白皮书:采用Intel® DPDK技术的凌华科技aTCA-6200刀片式服务器完美实现包转发服务性能的提升。
图9:采用4个10GbE的IP转发性能比较
结论
目前有很多途径可以优化多板卡/多处理器系统的电源使用及效率。我们已经看到了使用嵌入式电源管理、整合嵌入式电源管理的动态迁移以及优化吞吐量的工作负载整合等方法的可能性。由于每个系统的配置和对工作负载的需求都不尽相同,因此没有一个绝对的解决办法。对于每一个方案,都需要仔细选择适合的技术和策略,以满足预期的吞吐量和功耗。
在未来,随着每个系统的功耗密度(瓦/立方英寸)的持续增加,必然对散热和运营的花费造成一定的影响,因此电源管理对于电信运营商而言将仍旧是一个需要重视的问题。
关于凌华
凌华科技致力于量测、自动化及计算机通讯科技之改进及创新,提供解决方案给全球网络电信、智能交通及电子制造客户。凭着对专业技术的执着与实践客户承诺的自我要求,领先业界推出多项创新性产品,获ISO-9001、ISO-14001、ISO-13485、台湾精品、TL9000等多项认证。凌华科技为Intel®智能系统联盟(Intel® Intelligent Systems Alliance)会员,PICMG协会和PC/104协会可参与制定规格的会员,PXI Systems Alliance协会董事会及较高等级会员,以及AXIe联盟战略会员,VMEbus国际贸易协会(VITA)成员。目前在美国、新加坡、中国、日本、德国设有子公司,在印度、韩国、法国设有办事处,为当地客户提供快捷服务和实时支持。网址:http://www.adlinktech.com/cn。
相关阅读:
- ...· Efinix® 全力驱动AI边缘计算,成功推出Trion™ T20 FPGA样品, 同时将产品扩展到二十万逻辑单元的T200 FPGA
- ...· 英飞凌亮相进博会,引领智慧新生活
- ...· 三电产品开发及测试研讨会北汽新能源专场成功举行
- ...· Manz亚智科技跨入半导体领域 为面板级扇出型封装提供化学湿制程、涂布及激光应用等生产设备解决方案
- ...· 中电瑞华BITRODE动力电池测试系统顺利交付北汽新能源
- ...· 中电瑞华FTF系列电池测试系统中标北京新能源汽车股份有限公司
- ...· 中电瑞华大功率高压能源反馈式负载系统成功交付中电熊猫
- ...· 中电瑞华国际在电动汽车及关键部件测评研讨会上演绎先进测评技术