一种降低服务器中处理器负载的方法及服务器结构

摘要

本发明提供一种降低服务器中处理器负载的方法，服务器响应客户的应用请求，并判断该客户所需的数据和/或应用程序是否存储在3D新型非易失性存储器中，如果是，轻量级处理器响应应用请求并执行存储在3D非易失性存储器中的应用程序和/或调用数据执行；否则，服务器向存储网络请求数据和/或应用程序，并将其从存储网络中导入至服务器的内存、片外高速缓存器、片内高速存储器，轻量级处理器处理或执行存储网络返回的数据和/或应用程序；最后执行完毕后将处理结果返回客户。利用3D新型非易失性存储器中的轻量级处理器来处理轻量级应用程序，提高工作效率。

说明书

技术领域

本发明涉及服务器结构领域，尤其涉及一种降低服务器中处理器 负载的方法及服务器结构。

背景技术

数据中心是一整套复杂的设施，它不仅仅包括计算机系统和其它 与之配套的设备(例如通信和存储系统)，还包含冗余的数据通信连 接、环境控制设备、监控设备以及各种安全装置。一个数据中心的主 要目的是运行应用来处理商业和运作的组织的数据。在数据处理中， 分为两大类：一是事务处理，二是数据查询和分析。数据处理或者分 析，一般是在数据库中处理，而数据查询分为两大类，一是数据库查 询，二是搜索技术。简化的数据中心结构如图1所示，它是大量服务 器以及存储网络的集合。数据中心内的服务器在大多数时间内并不是 工作在高负载状态下的，如图2所示的是一段时间内的服务器中处理 器的负载情况，可以看出处理器处于峰值时段的时间很短，仅仅在这 该期间内处理器是处于高负载运行的，即处理器处理的任务大量需要 其内部运算器(ALU)参与工作，而在其他大部分时间内，处理器都 是在低负载状态工作，处理一些不需要ALU大量参与的任务，例如 数据的读取、存储等。换句话说，高性能的处理器大部分时间都在处 理一些轻量级的应用处理，可见对性能和功耗都是一种浪费。

为此，出现一种新型的存储器内查询(ISQ)和存储器内计算(ISC) 技术。如图3所示，通过利用数据中心存储网络中的处理器或微处理 器来进行数据查询和计算，通过在存储器内部进行查询和计算，并将 查询或计算的子结果再交由服务器处理器处理，解决了从存储网络到 服务器内存之间的读取数据瓶颈，降低了将大量数据导入服务器内存 的功耗。这种方法的核心思想是将原先需要服务器处理器来处理的任 务(比如数据的查询和计算)释放给存储网络中的处理器或微处理器 来完成，这些任务的特点是轻量级的而不需要服务器处理器中的ALU 大量参与的数据处理或程序执行。因此这种方法降低了服务器处理器 的负载，使之可以处理其他需要ALU大量参与的重量级的任务或者 在空闲状态下关闭电源以节省功耗。这种方法的缺点是当存储网络中 的处理器或微处理器将原始数据预处理后导入系统内存，不可避免的 需要使能服务器处理器来处理这些存储网络中预处理过的数据，这些 任务对服务器处理器来说也是轻量级的、无需ALU大量参与的，也 就是说，此时使能服务器处理器对性能和功耗也是一种浪费。

发明内容

鉴于上述问题，本申请记载了一种降低服务器中处理器负载的方 法，包括步骤：

S1：服务器响应客户的应用请求，并判断该客户所需的数据和/ 或应用程序是否存储在3D新型非易失性存储器中，如果是，执行S2， 否则，执行S3；

S2：轻量级处理器响应所述应用请求并执行存储在所述3D非易 失性存储器中的所述应用程序和/或调用所述数据，执行S5；

S3：所述服务器向存储网络请求所述数据和/或所述应用程序， 并将所述数据和/或所述应用程序从所述存储网络中导入至所述服务 器的内存、和/或片外高速缓存器、和/或片内高速缓存器，执行S4；

S4：所述轻量级处理器处理或执行所述存储网络返回的所述数据 和/或所述应用程序，执行S5；

S5：执行完毕后将处理结果返回客户。

较佳的，在步骤S1之前，所述服务器响应所述应用请求，判断 所述应用请求是否属于轻量级应用请求，如果是，执行S1，否则， 所述服务器处理器中的内部运算器处理所述应用请求。

较佳的，所述轻量级处理器为所述3D新型非易失性存储器中的 处理器或微处理器单元。

较佳的，步骤S2包括步骤：

S21：所述轻量级处理器响应所述客户请求并执行存储在所述3D 新型非易失性存储器中的所述应用程序和/或调用所述数据；

S22：判断是否需要进一步访问所述存储网络以获取更多的数据 和/或应用程序，如果是，执行S3，否则，执行S5。

较佳的，步骤S3包括步骤：

S31：所述服务器向所述存储网络中请求客户所需的所述数据和/ 或所述应用程序；

S32：判断所述存储网络中是否采用了存储器内查询和/或存储器 内计算技术，如果是，执行S33，否则，执行S34；

S33：所述存储网络中的处理器或微处理器对客户所需的所述数 据和/或所述应用程序进行预处理，执行存储器内查询和/或存储器内 计算，然后将经预处理后的所述数据和/或所述应用程序导入至所述 服务器的内存、和/或片外高速缓存器、和/或片内高速存储器，执行 S4；

S34：将客户所需的所述应用程序和/或所述数据直接从所述存储 网络中导入至所述服务器的内存、和/或片外高速缓存器、和/或片内 高速缓存器，执行S4。

较佳的，所述服务器包括相连的处理器和片外混合高速缓存器， 所述片外混合高速缓存器包括片外易失性存储器和3D新型非易失性 存储器。

较佳的，所述3D新型非易失性存储器为3D相变存储器或3D磁 存储器或3D阻变存储器或3D铁电存储器。

较佳的，所述3D新型非易失性存储器采用3D垂直堆叠制作工 艺制成。

较佳的，所述片外混合高速缓存器还包括自学习模块，与所述 3D新型非易失性存储器连接，以用于定期检查学习客户所需的数据 和/或应用程序获取学习结果，并根据学习结果将用户频繁使用的所 述数据和/或所述应用程序存储在所述3D新型非易失性存储器中。

较佳的，所述系统内存和/或所述混合内存的至少部分存储空间 位于所述片外混合高速缓存器中。

上述技术方案具有如下优点或有益效果：在执行ISQ或ISC过程 中，无需再占用或唤醒服务器处理器，因而进一步降低了服务器系统 的功耗，提高了系统的能效比；利用3D新型非易失性存储器中的轻 量级处理器来处理那些无需服务器处理器ALU大量参与的轻量级应 用程序，服务器处理器进一步得到释放，在空闲时可关闭其电源，从 而大大降低了系统的功耗，提高了系统的能效比。

图说明

参考所附图，以更加充分的描述本发明的实施例。然而，所附图 仅用于说明和阐述，并不构成对本发明范围的限制。

图1为现有技术中简化的数据中心结构示意图；

图2为现有的数据中心中一段时间内的服务器中处理器的负载 情况；

图3为现有技术中的数据中心结构示意图；

图4A为本发明一种服务器结构的结构示意图一；

图4B为本发明一种服务器结构的结构示意图二；

图5为本发明中3D新型非易失性存储器的剖视图；

图6A为包括3D新型非易失性存储器的数据中心结构示意图一；

图6B为包括3D新型非易失性存储器的数据中心结构示意图二；

图7为本发明一种降低服务器中处理器负载的方法的流程图一；

图8为本发明一种降低服务器中处理器负载的方法的流程图二；

图9A为传统方法中服务器中处理器负载随时间的变化状态图；

图9B为本发明一种降低服务器中处理器负载的方法与传统方法 中处理器工作状态随时间变化的对比图；

图9C为本发明一种降低服务器中处理器负载的方法与传统方法 中系统功耗随时间变化的对比图。

具体实施方式

下面结合图和具体实施例对本发明一种降低服务器中处理器负 载的方法及服务器结构进行详细说明。

实施例一

本发明提供了一种服务器结构，如图4A所示，其均采用多芯片 封装技术(MCP)将处理器芯片、片外易失性存储器、3D新型非易 失性存储器封装在同一颗封装体内。所述片外易失性存储器可以作为 处理器的片外最后一级高速缓存的易失性部分，其构成可以是嵌入式 动态随机访问存储器(eDRAM)。所述片外易失性存储器中的部分或 者全部替代了部分或者全部的传统系统内存或者混合内存中的易失 性部分。所述3D新型非易失性存储器可以为技术逐渐成熟的3D相 变存储器(3D PCM)，也可以为其他3D新型非易失性存储器，例如 3D磁存储器或3D阻变存储器或3D铁电存储器，采用的是3D垂直 堆叠工艺制成。所述3D新型非易失性存储器可作为处理器的片外最 后一级高速缓存的非易失性部分，并且其部分或者全部替代了部分或 者全部的传统系统中混合内存的非易失性部分。所述片外易失性存储 器和所述3D新型非易失性存储器共同构成了片外混合高速缓存器， 用以作为处理器的片外最后一级混合高速缓存。

所述片外混合高速缓存器的部分或者全部存储空间可替代部分 或者全部的传统系统内存或者混合内存：如图4A所示，其为所述片 外混合高速存储器的部分或者全部替代了全部的传统系统内存或者 混合内存的服务器构架的结构示意图，如果替代了全部的传统系统内 存或者混合内存，那么整个服务器系统架构中就没有了内存或混合内 存模块，系统结构更加简单；如图4B所示，其为所述片外混合高速 存储器的部分或者全部替代了部分的传统系统内存或者混合内存的 服务器构架的结构示意图，如果仅替代了部分的传统系统内存或者混 合内存，那么整个服务器系统架构中依然保留内存或混合内存模块， 但对其容量需求会降低。

所述3D新型非易失性存储器的结构侧面图如图5所示，存储阵 列采用3D垂直堆叠制作工艺，其中晶体管逻辑电路位于硅片之下。 在片外混合高速缓存器中包含一自学习模块，其作用是在一段时间 内，对特定用户的行为或者使用习惯进行学习和统计，并决定将所述 特定用户最频繁使用的应用程序和/或数据存储在所述存储阵列中， 从而提高系统性能。所述自学习模块可以用硬件实现，也可以用软件 实现。晶体管逻辑电路至少包含：所述3D新型非易失性存储器的外 围控制电路，例如升压电路、译码电路、感应电路以及IO电路等； 一处理器或微处理器单元(为区分服务器处理器，将该处理器或微处 理器单元称之为轻量级处理器)，用来对所述3D新型非易失性存储 器进行数据读写控制和数据管理，还用来完成对服务器处理器来说是 轻量级的无需ALU大量参与的数据处理或程序执行。

包含上述结构服务器的数据中心如图6A所示，其中，所述片外 混合高速存储器的部分或者全部替代了全部的传统系统内存或者混 合内存。本发明这种降低服务器处理器负载的方法，是通过3D新型 非易失性存储器中的轻量级处理器来处理或执行一些轻量级的无需 服务器处理器ALU大量参与的任务。而服务器处理器用来处理或执 行一些重量级的需要ALU大量参与的应用，以满足客户对性能的要 求；或者直接将其关闭电源以节省功耗。因为服务器处理器为了获得 更高的处理性能，一般都会采用最先进的工艺节点来制造，而越先进 的工艺节点所带来的副作用就是越多的泄漏电功耗。因此在处理一些 轻量级的无需ALU大量参与的任务时，采用轻量级处理器反而能获 得更高的能效比(每瓦特性能，即性能与功耗的比值)。由此可见， 本发明这种降低服务器处理器负载的方法，能够使服务器处理器长时 间处于休眠状态，极大的降低了系统功耗，仅仅当执行那些需要服务 器处理器ALU大量参与的重量级应用程序时，服务器处理器才会被 唤醒；当处理那些无需服务器处理器ALU大量参与的轻量级应用程 序时，由3D新型非易失性存储器中的轻量级处理器来处理或执行， 因而本发明这种方法不仅进一步释放了服务器处理器，而且还能获得 更高的能效比。图6B为包括上述服务器结构的数据中心二，其中， 所述片外混合高速存储器的部分或者全部替代了部分的传统系统内 存或者混合内存。

实施例二

根据实施例一提出的一种服务器结构，本实施例提出了一种降低 服务器中处理器负载的方法，如图7所示，该方法具体包括步骤：

S1：服务器响应客户的应用请求，系统判断该客户的数据或应用 程序是否存储在3D新型非易失性存储器中，如果是，跳至S2；如果 否，跳至S3；

S2：3D新型非易失性存储器中的轻量级处理器直接响应客户请 求并执行存储在3D新型非易失性存储器中的应用程序，执行完毕后 将处理结果返回给客户，根据不同的客户应用程序的不同需要，可能 会需要进一步访问存储网络以获得更多的数据或应用程序，跳入S5；

S3：系统向存储网络中请求用户应用程序和数据，如果存储网络 中采用了查询或存储器内计算技术，那么存储网络中的处理器或微处 理器会对客户请求的数据或应用程序在存储网络内部进行预处理，执 行存储器内查询或存储器内计算，然后将预处理过后的数据或程序再 导入至系统内存及片外高速缓存器和片内高速缓存器，如果存储网络 中没有采用查询或存储器内计算技术，那么用户请求的应用程序或数 据将直接从存储网络中导入至系统内存及片外高速缓存器和片内高 速缓存器，跳入S4；

S4：3D新型非易失性存储器中的轻量级处理器处理或执行由存 储网络返回的数据或应用程序；

S5：执行完毕后将处理结果返回给客户。

如图8所示，其中，步骤S2具体包括步骤：

S21：3D新型非易失性存储器中的轻量级处理器直接响应客户请 求并执行存储在3D新型非易失性存储器中的应用程序；

S22：判断是否需要进一步访问存储网络以获得更多的数据或应 用程序，如果是，执行S3，否则，执行S5。

所述步骤S3具体包括步骤：

S31：系统向存储网络中请求用户应用程序和数据；

S32：判断存储网络中采用了查询或存储器内计算技术，如果存 在，执行S33，否则，执行S34；

S33：存储网络中的处理器或微处理器会对客户请求的数据或应 用程序在存储网络内部进行预处理，执行存储器内查询或存储器内计 算，然后将预处理过后的数据或程序再导入至系统内存及片外高速缓 存器和片内高速缓存器，执行S4；

S34：将用户请求的应用程序或数据直接从存储网络中导入至系 统内存及片外高速缓存器和片内高速缓存器，执行S4。

在步骤S1之前，还包括步骤：服务器响应客户的应用请求，判 断所述应用请求是否属于轻量级应用请求，如果是，执行S1，否则， 所述服务器处理器中的内部运算器处理所述应用请求。

本发明提出了一种进一步降低服务器处理器负载的方法，利用 3D新型非易失性存储器中的轻量级处理器来处理那些无需服务器处 理器ALU大量参与的轻量级应用程序，服务器处理器进一步得到释 放，在空闲时可关闭其电源，从而大大降低了系统的功耗，提高了系 统的能效比。

实施例三

根据上述实施例提供的一种降低处理器中处理器负载的方法及 服务器结构，本发明提出了所述服务器结构的具体应用。

传统的客户应用中，服务器处理器需要保持工作状态以不断处理 不同的客户应用，不论是需要ALU大量参与的重量级应用还是无需 ALU大量参与的轻量级应用，处理器都处于有效状态，如图9A中的 处理器状态所示，因而整个过程系统功耗很高，能效比也很低。而应 用本发明这种降低服务器处理器的方法，当服务器处理器负载较低 时，其处理的客户应用一般都是无需ALU大量参与的轻量级应用， 因而可完全由3D新型非易失性处理器中的轻量级处理器来执行，因 而服务器处理器可以关闭电源从而节省功耗，虽然该轻量级的处理器 在处理这些无需ALU大量参与的客户应用时，性能要比服务器处理 器低，但是所消耗的功耗要远小于服务器处理器处理时消耗的功耗， 因而能耗比会提高。当执行那些需要ALU大量参与的客户应用时， 可唤醒服务器处理器来执行处理，从而能够满足客户对服务器的性能 需求，如图9B中的处理器状态所示。采用本发明这种降低服务器处 理器负载的方法与传统方法的功耗对比如图9C中处理状态所示。可 见，本发明这种方法能够大大降低系统功耗，同时也能够提升能效比。

传统的ISQ技术中，当服务器接收到客户的查询命令后将查询子 命令发送至存储网络中的存储设备。存储设备中的处理器或微处理器 执行存储器内部搜索或查询，处理后将子结果(即图3中的数据1) 返回至服务器中。然后服务器处理器会被占用或被唤醒，以将存储设 备返回的子结果进行综合再处理形成最终的搜索或查询结果返回给 用户(即图3中的数据2)。可见，上述过程依然需要服务器处理器 的参与才能完成，而所完成的任务并非ALU大量参与的，对服务器 处理器的性能和功耗来说都是浪费。应用本发明这种降低服务器处理 器负载的方法，当存储设备中的处理器或微处理器执行存储器内部搜 索或查询并将处理后的子结果返回至服务器中后，由3D新型非易失 性存储器中的轻量级处理器来对存储设备返回的查询子结果进行综 合再处理，最后将查询的结果返回给用户。上述过程中，完全没有占 用服务器处理器的处理时间，进一步降低了服务器处理器的负载；若 服务器处理器处于空闲状态，完全可以关闭其电源以最大程度降低功 耗。如果客户的查询请求是一段时间内最频繁被访问的，那么系统中 的自学习模块会将该查询结果存储在3D新型非易失性存储器中，那 么当客户再次请求该查询要求时，3D新型非易失性存储器中的轻量 级处理器直接访问其存储阵列并将查询结果返回给客户，无需再从存 储网络中导入大量数据，从而进一步节省了功耗，整个过程也无需服 务器处理器参与，系统性能也非常高。因此，应用本发明这种降低服 务器处理器负载的方法，能够大大降低功耗，而不影响系统性能。

可见，本发明这种降低服务器处理器负载的方法，在执行ISQ或 ISC过程中，无需再占用或唤醒服务器处理器，因而进一步降低了服 务器系统的功耗，提高了系统的能效比。

对于本领域的技术人员而言，阅读上述说明后，各种变化和修正 无疑将显而易见。因此，所附的权利要求书应看作是涵盖本发明的真 实意图和范围的全部变化和修正。在权利要求书范围内任何和所有等 价的范围与内容，都应认为仍属本发明的意图和范围内。