一种基于网络互联的AI边缘计算一体机架构

摘要

本发明公开了一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板和加速卡扩展底板，所述AI边缘计算控制板和AI加速卡扩展底板通过标准PCIE X4接口及金手指连接，所述加速卡扩展底板通过PCIE X16及PCIE X16金手指连有AI加速卡和网络交换卡。本发明针对现有技术存在的上述不足，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。

说明书

技术领域

本发明涉及计算机技术领域，具体为一种基于网络互联的AI边缘计算一体机架构。

背景技术

目前市面上广泛使用的边缘计算服务器机柜扩展PCIE加速卡，小型工控整机AI加速卡方案大多数都采用标准PCIE X16接口及标准PCIE X16信号做为加速卡连接及扩展接口标准，存在以下弊端：

1.标准的服务器板载有限的PCIE X16接口，大多数只有1-4个PCIE X16扩展槽，一台服务器上可以用于扩展的PCIE X16加速卡数量有限，限制了边缘计算的算力；

2.标准的服务器PCIE X16接口服务器中央处理器及IO扩展PCIE控制器只有控制模式，不能作为END PORT被管理，不能用于直接连接另一个同样是只能配置成主模式加速卡，如果要实现两颗PCIE控制器的互联，需要在加速卡或服务器上增加PCIE非透明桥，成本比较高，并且非透明桥由于和服务器或加速卡使用的是非同源时钟，经常会造成数据传输不稳定问题，而且非透明桥价格非常贵，增加了成本；

3.以往如果要扩展大量的加速卡，用PCIE总线连接的方式，如果要扩展更多的加速卡计算单元的话需要用复杂的背板结构，PCIE总线速率非常高(2.5Gbps-16Gbps)，需要使用很多高速连接器和信号重建或信号放大芯片，价格非常贵，成本非常高。

发明内容

本发明就是针对现有技术存在的上述不足，提供一种基于网络互联的AI边缘计算一体机架构，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。

为实现上述目的，本发明提供如下技术方案：

一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板和加速卡扩展底板，所述AI边缘计算控制板和AI加速卡扩展底板通过标准PCIE X4接口及金手指连接，所述加速卡扩展底板通过PCIE X16及PCIE X16金手指连有AI加速卡和网络交换卡。

优选的，所述AI边缘计算控制板集成中央处理器及所属存储卡，AI边缘计算控制板至少板载一个1Gbps管理网口和一个10Gbps业务数据网口。

优选的，所述AI边缘计算控制板连接有内存接口、SATA/SAS硬盘接口、板载网卡芯片、USB 2.0/3.0接口和至少一个用于连接AI加速卡扩展底板的标准PCIE X4/X8/16扩展接口。

优选的，所述AI加速卡扩展底板通过标准PCIE X4总线在底板扩展1-2路10Gbps四通道SERDES信号，每一路10Gbps四通道SERDES信号在扩展底板上通过PCIE X16连接器及金手指连接一张具有一个万兆上行网络的网络交换卡。

优选的，所述网络交换卡有8个1GbpsMDI接口，每个MDI接口通过AI加速卡PCIEX16连接器及金手指连接1张AI边缘计算加速卡。

优选的，所述AI边缘计算加速卡通过PCIE X16及金手指引出的MDI信号连接网路交换卡。

优选的，所有AI边缘计算加速卡及网络交换卡通过AI加速卡扩展底板的PCIE X16接口供电。

与现有技术相比，本发明的有益效果是：

本发明针对现有技术存在的上述不足，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。

附图说明

图1为本发明的结构示意图；

图2为AI边缘计算控制板的结构示意图；

图3为加速卡扩展底板的结构示意图。

图中：1-AI边缘计算控制板；2-加速卡扩展底板。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1-3所示，一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板1、AI加速卡扩展底板2，所述AI边缘计算控制板1通过PCIE X4/X8/X16连接及金手指和AI加速卡扩展底板2连接，所述加速卡扩展底板通过PCIE 16物理接口和网络交换卡及AI加速卡连接。

具体在信号传输层，AI边缘计算控制板通过PCIE信号和AI加速卡扩展底板2载万兆网卡相连；

AI加速卡扩展底板通过板载万兆网卡输出之4通道SERDES信号和网络交换机相连；

网络交换卡通过8个1Gbps下行MDI信号端口分别和8张AI加速卡相连。

所述AI边缘计算控制板至少板载一个1Gbps(千兆)管理网口，用于管理整个边缘一体机所属计算卡及外设；AI边缘计算控制板至少板载一个10Gbps(万兆)业务数据网口，用于和本地数据网络通讯及所要处理的数据的下发工作。AI边缘计算控制板连接有内存接口、SATA/SAS硬盘接口、板载网卡芯片、USB 2.0/3.0接口、至少一个标准PCIE X4/X8/16扩展接口用于连接AI加速卡扩展底板。

AI加速卡扩展底板通过标准PCIE X4总线在底板扩展1-2路10Gbps(万兆)四通道SERDES信号，每一路四通道SERDES信号在扩展底板上通过PCIE X16连接器及金手指连接一张具有一个万兆上行网络的网络交换卡。

一个网络交换卡有8个1Gbps(千兆)MDI接口，每个MDI接口通过AI加速卡PCIE X16连接器及金手指连接1张AI边缘计算加速卡。

AI边缘计算加速卡通过PCIE X16及金手指引出的MDI信号连接网路交换卡。

所有AI边缘计算加速卡及网络交换卡通过AI加速卡扩展底板的PCIE X16接口给网络交换卡及AI边缘计算加速卡供电。

其中，AI边缘计算控制板可以根据AI边缘计应用场景需求，选择不同成本及PCIE总线带宽的中央处理器，以用来扩展不同数量的AI计算卡。加速卡扩展底板通过PCIE X4金手指连接AI边缘计算控制板，连接信号为标准PCIE 2.0/PCIE 3.0/PCIE 4.0 4lane高速信号，加速卡扩展底板通过板载电源接口连接外部冗余电源，并通过PCIE X16接口给AI边缘计算加速卡及网络交换板提供供电和数据连接通道，加速卡扩展底板上部署有2个10Gbps万兆网卡，每个网卡通过PCIE X16接口连接一个网络交换板，每个网络交换板有8个千兆下行端口通过PCIE X16接口互联8张AI边缘计算加速卡。这种基于网络交换连接的AI边缘计算一体机架构解决了传统服务器使用PCIE总线连接AI加速卡的扩展数量有限、成本高的问题，提高了使用的灵活性。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。