智能化中央厨房的操作人员管理方法、系统和电子设备

摘要

本申请公开了一种用于智能化中央厨房的操作人员管理方法、系统和电子设备。所述方法，包括：从获取的所述监控视频中截取当前帧和前一帧；将所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图；将所述第一特征图和所述第二特征图相乘以获得时间注意力图；将所述当前帧输入第二卷积神经网络以获得第三特征图；将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图；以及，基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。凭此，基于深度神经网络并利用监控视频中的时序信息，以适于解决在智能化中央厨房的场景下确定所述操作人员的操作行为是否符合操作规范。

说明书

技术领域

本申请涉及人工智能技术领域，且更为具体地，涉及一种用于智能化中央厨房的操作人员管理方法、系统和电子设备。

背景技术

随着经济的不断发展，食品行业迎来了发展的黄金期，新时期下，“中央厨房”凭借其在成本控制、集中采购、标准化作业以及加工配送方面的优势，已经成为餐饮工业化发展的必然趋势。然而，在中央厨房存在后厨操作不规范、监管难等问题。

近年来，深度学习尤其是神经网络的发展给智能化中央厨房的操作人员监管提供了新的解决思路和方案。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种用于智能化中央厨房的操作人员管理方法、系统和电子设备，其基于深度神经网络并利用监控视频中的时序信息，以适于解决在智能化中央厨房的场景下确定所述操作人员的操作行为是否符合操作规范。

根据本申请的一个方面，提供了一种用于智能化中央厨房的操作人员管理方法，其包括：

获取智能化中央厨房的监控视频；

从所述监控视频中截取当前帧和前一帧；

将所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；

将所述第一特征图和所述第二特征图相乘以获得时间注意力图；

将所述当前帧输入第二卷积神经网络以获得第三特征图；

将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图；以及

基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

在上述用于智能化中央厨房的操作人员管理方法中，从所述监控视频截取当前帧和前一帧，包括：确定所述智能化中央厨房是否有人员进入；响应于所述智能化中央厨房有人员进入，记录所述人员进入的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在上述用于智能化中央厨房的操作人员管理方法中，从所述监控视频截取当前帧和前一帧，包括：检测所述智能化中央厨房中的智能化厨具的开启信号；响应于检测到所述智能化厨具的开启信号，记录所述智能化厨具的开启时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在上述用于智能化中央厨房的操作人员管理方法中，从所述监控视频截取当前帧和前一帧，包括：接收所述智能化中央厨房中的传感器的传感信号；基于所述传感器的传感信号确定是否存在所述智能化中央厨房内的环境状态的改变；响应于确定存在所述智能化中央厨房内的环境状态的改变，记录所述环境状态的改变的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在上述用于智能化中央厨房的操作人员管理方法中，所述当前帧和所述前一帧是所述视频中相隔预定时间的图像帧。

在上述用于智能化中央厨房的操作人员管理方法中，基于所述跟踪特征图跟踪所述监控视频中的操作人员，包括：从所述监控视频中的多个图像帧获取时间上连续的多个跟踪特征图；将所述多个跟踪特征图输入候选框提取网络以获取标识有候选框的多个候选框特征图；以及，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，所述跟踪结果用于表示所述操作人员的操作行为的行为轨迹是否符合操作规范。

在上述用于智能化中央厨房的操作人员管理方法中，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，包括：将所述智能化中央厨房的操作人员的操作规范转换为规范向量；将所述规范向量作为所述多个候选框特征图的标签信息附加到所述多个候选框特征图；以及，将添加了标签信息的所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果。

在上述用于智能化中央厨房的操作人员管理方法中，在训练过程中，所述第一卷积神经网络和所述第二卷积神经网络在第一时间周期内训练，所述候选框提取网络和所述用于图像跟踪的深度神经网络在第二时间周期内训练。

根据本申请的另一方面，提供了一种用于智能化中央厨房的操作人员管理系统，其包括：

监控视频获取单元，用于获取智能化中央厨房的监控视频；

视频帧截取单元，用于从所述监控视频获取单元获得的所述监控视频中截取当前帧和前一帧；

第一特征图生成单元，用于将所述视频帧截取单元获得的所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；

时间注意力图生成单元，用于将所述第一特征图生成单元获得的所述第一特征图和所述第二特征图相乘以获得时间注意力图；

第二特征图生成单元，用于将所述视频帧截取单元获得的所述当前帧输入第二卷积神经网络以获得第三特征图；

跟踪特征图生成单元，用于将所述时间注意力图生成单元获得的所述时间注意力图与所述第二特征图生成单元获得的所述第三特征图相乘以获得跟踪特征图；以及

操作规范确定单元，用于基于所述跟踪特征图生成单元获得的所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

在上述用于智能化中央厨房的操作人员管理系统中，所述视频帧截取单元，进一步用于：确定所述智能化中央厨房是否有人员进入；响应于所述智能化中央厨房有人员进入，记录所述人员进入的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在上述用于智能化中央厨房的操作人员管理系统中，所述视频帧截取单元，进一步用于：检测所述智能化中央厨房中的智能化厨具的开启信号；响应于检测到所述智能化厨具的开启信号，记录所述智能化厨具的开启时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

上述用于智能化中央厨房的操作人员管理系统中，所述视频帧截取单元，进一步用于：接收所述智能化中央厨房中的传感器的传感信号；基于所述传感器的传感信号确定是否存在所述智能化中央厨房内的环境状态的改变；响应于确定存在所述智能化中央厨房内的环境状态的改变，记录所述环境状态的改变的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

上述用于智能化中央厨房的操作人员管理系统中，所述当前帧和所述前一帧是所述视频中相隔预定时间的图像帧。

上述用于智能化中央厨房的操作人员管理系统中，所述操作规范确定单元，包括：跟踪特征图生成子单元，用于从所述监控视频中的多个图像帧获取时间上连续的多个跟踪特征图；候选框特征图生成子单元，用于将所述多个跟踪特征图输入候选框提取网络以获取标识有候选框的多个候选框特征图；以及，跟踪结果生成子单元，用于将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，所述跟踪结果用于表示所述操作人员的操作行为的行为轨迹是否符合操作规范。

上述用于智能化中央厨房的操作人员管理系统中，所述跟踪结果生成子单元，包括：规范向量转化二级子单元，用于将所述智能化中央厨房的操作人员的操作规范转换为规范向量；标签信息附加二级子单元，用于将所述规范向量作为所述多个候选框特征图的标签信息附加到所述多个候选框特征图；以及，跟踪结果生成二级子单元，用于将添加了标签信息的所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果。

上述用于智能化中央厨房的操作人员管理系统中，在训练过程中，所述第一卷积神经网络和所述第二卷积神经网络在第一时间周期内训练，所述候选框提取网络和所述用于图像跟踪的深度神经网络在第二时间周期内训练。

根据本申请的再一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的用于智能化中央厨房的操作人员管理方法。

根据本申请的又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的用于智能化中央厨房的操作人员管理方法。

与现有技术相比，本申请提供的用于智能化中央厨房的操作人员管理方法、系统和电子设备，其基于深度神经网络并利用监控视频中的时序信息，以适于解决在智能化中央厨房的场景下确定所述操作人员的操作行为是否符合操作规范。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的应用场景图。

图2图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的流程图。

图3图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的架构示意图。

图4图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法中基于所述跟踪特征图跟踪所述监控视频中的操作人员的流程图。

图5图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法中将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果的流程图。

图6图示了根据本申请实施例的用于智能化中央厨房的操作人员管理系统的框图。

图7图示了根据本申请实施例的用于智能化中央厨房的操作人员管理系统中操作规范确定单元的框图。

图8图示了根据本申请实施例的用于智能化中央厨房的操作人员管理系统中跟踪结果生成子单元的框图。

图9图示了根据本申请实施例的电子设备的框图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

随着经济的不断发展，食品行业迎来了发展的黄金期，新时期下，“中央厨房”凭借其在成本控制、集中采购、标准化作业以及加工配送方面的优势，已经成为餐饮工业化发展的必然趋势。然而，在中央厨房存在后厨操作不规范、监管难等问题。

近年来，深度学习尤其是神经网络的发展给智能化中央厨房的操作人员监管提供了新的解决思路和方案。

智能化中央厨房的操作人员监控问题，其核心是通过监控视频来进行操作人员的监控。具体地，通过使用基于深度学习的视频跟踪技术，在视频中跟踪操作人员，从而实现操作人员的监控。并且，在本申请中，主要的场景是监控操作人员的操作行为是否符合操作规范，也就是，通过视频跟踪技术来跟踪操作人员的行为，例如在烹饪行为之前是否进行相关的清洁操作，以及在结束烹饪行为之后是否进行了灭火、厨具归位等后续操作等。

目前，深度学习技术已经在各种图像类的任务中获得良好的性能，在处理视频时，主要遇到的问题在于如何有效地利用视频中的时序信息。现有技术之一是使用光流来提取视频中的时序信息，但是使用光流的方法计算量非常大，导致软硬件成本上升，不适于大规模使用。而针对上述本申请所涉及的技术场景，其中，最重要的部分就是基于时序信息来跟踪操作人员的各个行为，因此需要能够很好地利用视频中的时序信息的方法。

相应地，本申请发明人构思了一种使用时间注意力机制来提取视频中的连续图像帧之间的时序信息；进一步地，将视频的连续帧之间的时序信息引入特征图中的高维图像特征，从而使得所获得的跟踪特征图能够获得良好的视频跟踪效果。

基于此，本申请提出了一种用于智能化中央厨房的操作人员管理方法，其包括：获取智能化中央厨房的监控视频；从所述监控视频中截取当前帧和前一帧；将所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；将所述第一特征图和所述第二特征图相乘以获得时间注意力图；将所述当前帧输入第二卷积神经网络以获得第三特征图；将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图；以及，基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

相应地，通过将当前帧和前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，可以提取出当前帧和前一帧中的高维图像特征，而第一卷积神经网络的最后一层以Sigmoid函数激活，可以使得第一特征图和第二特征图中各位置的元素位于0和1之间。这样，通过将第一特征图和第二特征图相乘，可以提取出视频帧和前一帧中的高维图像特征在时序上的连续性，也就是，以0到1之间的值来表示高维图像特征在时序上的连续性程度。

这样，再通过将时间注意力图乘以将当前帧输入第二卷积神经网络而获得的第三特征图，就可以基于高维图像特征在时序上的连续性程度来对从当前帧得到的第三特征图中的高维图像特征进行加权，从而将视频的连续帧之间的时序信息引入特征图中的高维图像特征，从而使得所获得的跟踪特征图能够获得良好的视频跟踪效果。

值得注意的是，在本申请中，由于引入了时间注意力机制，可以良好地利用视频中的时序信息，从而适于解决在智能化中央厨房的场景下确定所述操作人员的操作行为是否符合操作规范的问题。并且，由于本申请的方案聚焦于视频中的时序信息，对图像质量没有要求，因此可以使用一般的智能化中央厨房的监控视频，可以在目前已有的设备条件下进行，而不会引入额外的硬件成本。

图1图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的应用场景图。

如图1所示，在该应用场景中，智能化中央厨房中设有多种厨房用设备，例如，微波炉、烤箱、食品保险柜等，其中，这些厨房用设备通过5G、物联网等技术实现互连通讯。相应地，通过部署于中央厨房的摄像头获取智能化中央厨房的监控视频，进而，将监控视频输入至部署有用于智能化中央厨房的操作人员管理算法的服务器中(例如，如图1所示意的S)，其中，所述服务器能够基于用于智能化中央厨房的操作人员管理算法对所述监控视频进行检测，以确定所述操作人员的操作行为是否符合操作规范。

在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

图2图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的流程图。如图2所示，根据本申请实施例的用于智能化中央厨房的操作人员管理方法，包括：S110，获取智能化中央厨房的监控视频；S120，从所述监控视频中截取当前帧和前一帧；S130，将所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；S140，将所述第一特征图和所述第二特征图相乘以获得时间注意力图；S150，将所述当前帧输入第二卷积神经网络以获得第三特征图；S160，将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图；以及，S170，基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

图3图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法的架构示意图。如图3所示，首先从获得的智能化中央厨房的监控视频中截取当前帧和前一帧(例如，如图3中所示意的Fr1和Fr2，其中，Fr1表示所述当前帧，Fr2表示前一帧)；然后，以第一卷积神经网络(例如，如图3中所示意的CNN1)对所述当前帧与前一帧进行卷积处理，以获得第一特征图(例如，如图3中所示意的F1)和第二特征图(例如，如图3中所示意的F2)，其中，第一特征图对应于所述当前帧，第二特征图对应于所述前一帧，特别地，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；接着，将所述第一特征图和所述第二特征图相乘以获得时间注意力图(例如，如图3中所示意的Fa)；并且，所述当前帧被进一步地输入第二卷积神经网络(例如，如图3中所示意的CNN2)，其中，所述第一卷积神经网络用于对所述当前帧进行卷积处理以获得第三特征图(例如，如图3中所示意的F3)；然后，将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图(例如，如图3中所示意的Ft)；进而，基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范，具体地，以用于图像跟踪的深度神经网络(例如，如图3中所示意的NDT)跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

在步骤S110中，获取智能化中央厨房的监控视频。例如，基于部署于智能化中央厨房的摄像头来获得所述监控视频。如前所述，在本申请实施例中，由于本申请的方案聚焦于视频中的时序信息，对图像质量没有要求，因此可以使用一般的智能化中央厨房监控视频，可以在目前已有的设备条件下进行，而不会引入额外的硬件成本。

在步骤S120中，从所述监控视频中截取当前帧和前一帧。这里，所述当前帧和所述前一帧是所述视频中相隔预定时间的图像帧，也就是，从所述监控视频中截取具有预设时间间隔的两帧，例如，所述当前帧与所述前一帧可以是相邻的两帧，即，所述预设时间间隔为帧率。

值得一提的是，在具体实施中，由于目前视频的帧率较高，而相隔时间很短的两帧并不能很好地反映出操作人员的动作的时序信息，因此可以设置所述当前帧和所述前一帧之间相隔预定时间，从而拉长获取图像帧并进行视频跟踪的时间尺度，以在保证足够的跟踪性能的同时，不至于浪费计算资源。

在本申请一具体实施中，从所述监控视频截取当前帧和前一帧的过程，包括：首先，检测所述智能化中央厨房中的智能化厨具的开启信号；然后，响应于检测到所述智能化厨具的开启信号，记录所述智能化厨具的开启时间信息；接着，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

也就是，在该示例中，利用智能化中央厨房的智能化厨具的状态来辅助本申请的操作人员管理，比如，可以利用服务器跟智能化厨具之间的通信连接来获取智能化厨具的开启状态，因为智能化厨具的开启状态可以表示操作人员的操作状态，因此可以在智能化厨具开启时，开始从视频截取视频帧并进行操作人员的监控，以提升操作人员的监控的效率。

在本申请另一示例中，从所述监控视频截取当前帧和前一帧的过程，包括：首先接收所述智能化中央厨房中的传感器的传感信号；然后，基于所述传感器的传感信号确定是否存在所述智能化中央厨房内的环境状态的改变；接着，响应于确定存在所述智能化中央厨房内的环境状态的改变，记录所述环境状态的改变的时间信息；继而，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧

也就是，在该示例中，利用智能化中央厨房的传感器的传感信号来辅助本申请的操作人员管理，比如，可以利用服务器跟传感器之间的通信连接来获取传感器的传感信号，以检测智能化中央厨房内的环境状态的改变，例如光照条件的改变、温度、湿度等的改变等。这是因为当操作人员开始在智能化中央厨房内操作时，必然会导致智能化中央厨房内的环境状态的改变，因此可以环境状态改变时，开始从视频截取视频帧并进行操作人员的监控，以提升操作人员的监控的效率。

值得一提的是，随着5G、物联网等技术的发展，智能化中央厨房的各种设备之间可以实现大规模机器互连通讯，因此，可以利用智能化中央厨房的传感器的传感信号来辅助本申请的操作人员管理。

在步骤S130中，将所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图。

应可以理解，将当前帧和前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，可以提取出当前帧和前一帧中的高维图像特征，而第一卷积神经网络的最后一层以Sigmoid函数激活，可以使得第一特征图和第二特征图中各位置的元素位于0和1之间。

在步骤S140中，将所述第一特征图和所述第二特征图相乘以获得时间注意力图。这样，通过将第一特征图和第二特征图相乘，可以提取出视频帧和前一帧中的高维图像特征在时序上的连续性，也就是，以0到1之间的值来表示高维图像特征在时序上的连续性程度

在步骤S150中，将所述当前帧输入第二卷积神经网络以获得第三特征图。也就是，通过所述第二卷积神经网络提取出所述当前帧中的高维图像特征。

值得一提的是，所述第二卷积神经网络可以与所述第一卷积神经网络具有相同的网络结构，但最终的激活函数存在一定差异，例如，第二卷积神经网络的激活函数可以是Softmax激活函数；当然，所述第二卷积神经网络的结构也可以与所述第一卷积神经网络的结构有所区别，对此，并不为本申请所局限。

在步骤S160中，将所述时间注意力图与所述第三特征图相乘以获得跟踪特征图。也就是，基于高维图像特征在时序上的连续性程度来对从当前帧得到的第三特征图中的高维图像特征进行加权，从而将视频的连续帧之间的时序信息引入特征图中的高维图像特征，从而使得所获得的跟踪特征图能够获得良好的视频跟踪效果。

在步骤S170中，基于所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

在本申请一具体示例中，基于所述跟踪特征图跟踪所述监控视频中的操作人员的过程，包括如下步骤。

首先，从所述监控视频中的多个图像帧获取时间上连续的多个跟踪特征图；应可以理解，在实际的监控过程是基于视频连续进行的，从视频中获取第一到第N帧，对于每两个帧，比如第一帧和第二帧，第二帧和第三帧使用上述方法，最终获得多个跟踪特征图。相应地，最终也能够获得包含一系列连续跟踪结果的最终结果。

接着，将所述多个跟踪特征图输入候选框提取网络以获取标识有候选框的多个候选框特征图。也就是，通过候选框提取网络对所述跟踪特征图中的高维图像特征进行标注，以获得标识有候选框的多个候选框特征图。应可以理解，通过候选框形式标注操作人员的行为，可以在基于用于图像跟踪的深度神经网络处理所述跟踪特征图的过程中，更好地提取出能够保证操作人员行为的图像特征，以获得更为准确的跟踪结果。

然后，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，所述跟踪结果用于表示所述操作人员的操作行为的行为轨迹是否符合操作规范。

具体地，在该示例中，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果的过程，包括：首先，将所述智能化中央厨房的操作人员的操作规范转换为规范向量，也就是，将操作规范转化为计算机可识别与处理的数据格式；然后，将所述规范向量作为所述多个候选框特征图的标签信息附加到所述多个候选框特征图，即，为候选框添加标签信息；接着，将添加了标签信息的所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果。

图5图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法中将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果的流程图。如图5所示，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，包括:S310，将所述智能化中央厨房的操作人员的操作规范转换为规范向量；S320,将所述规范向量作为所述多个候选框特征图的标签信息附加到所述多个候选框特征图；以及,S330，将添加了标签信息的所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果。

应可以理解，在本申请实施例中，获得跟踪结果的深度学习模式为有监督学习，即通过人为标注的标签信息来有监督地更新深度神经网络模型的参数，这样能够使得深度神经网络能够更快地收敛，提高训练效果。并且，在本申请实施例中，所述人为标准的标签信息为操作规范标签，因此，通过所述跟踪结果能够确认所述操作人员的操作行为是否符合操作规范，即，所述深度神经网络的输出的标签为：操作人员的操作行为符合操作规范，和，操作人员的操作行为不符合操作规范。

图4图示了根据本申请实施例的用于智能化中央厨房的操作人员管理方法中基于所述跟踪特征图跟踪所述监控视频中的操作人员的流程图。如图4所示，基于所述跟踪特征图跟踪所述监控视频中的操作人员，包括：S210，从所述监控视频中的多个图像帧获取时间上连续的多个跟踪特征图；S220，将所述多个跟踪特征图输入候选框提取网络以获取标识有候选框的多个候选框特征图；以及，S230，将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，所述跟踪结果用于表示所述操作人员的操作行为的行为轨迹是否符合操作规范。

值得一提的是，实际的监控过程是基于视频连续进行的，从视频中获取第一到第N帧，对于每两个帧，比如第一帧和第二帧，第二帧和第三帧使用上述方法，最终获得包含一系列连续跟踪结果的最终结果。

综上，基于本申请实施例的用于智能化中央厨房的操作人员管理方法被阐明，其基于深度神经网络并利用监控视频中的时序信息，以适于解决在智能化中央厨房的场景下确定所述操作人员的操作行为是否符合操作规范。

值得一提的是，本申请实施例所涉及的第一卷积神经网络、二卷积神经网络、候选框提取网络和用于图像跟踪的深度神经网络通过训练用监控视频中的图像帧训练获得，其中，在训练过程中，所述第一卷积神经网络和所述第二卷积神经网络可以通过分阶段训练获得，例如，所述第一卷积神经网络和所述第二卷积神经网络在第一时间周期内训练，所述候选框提取网络和所述用于图像跟踪的深度神经网络在第二时间周期内训练。

特别地，分阶段训练，可以保证每个阶段内训练的收敛性和稳定性。并且，在本申请中，分阶段训练的基础是所述第一卷积神经网络和所述第二卷积神经网络所提取的具有时序信息的图像高维特征相对于候选框提取和图像跟踪的训练过程具有独立性。

图6图示了根据本申请实施例的用于智能化中央厨房的操作人员管理系统的框图。

如图6所示，根据本申请实施例的用于智能化中央厨房的操作人员管理系统600，包括：监控视频获取单元610，用于获取智能化中央厨房的监控视频；视频帧截取单元620，用于从所述监控视频获取单元610获得的所述监控视频中截取当前帧和前一帧；第一特征图生成单元630，用于将所述视频帧截取单元620获得的所述当前帧和所述前一帧输入第一卷积神经网络以获得第一特征图和第二特征图，所述第一卷积神经网络的最后一层以Sigmoid函数激活而获得所述第一特征图和所述第二特征图；时间注意力图生成单元640，用于将所述第一特征图生成单元630获得的所述第一特征图和所述第二特征图相乘以获得时间注意力图；第二特征图生成单元650，用于将所述视频帧截取单元620获得的所述当前帧输入第二卷积神经网络以获得第三特征图；跟踪特征图生成单元660，用于将所述时间注意力图生成单元640获得的所述时间注意力图与所述第二特征图生成单元650获得的所述第三特征图相乘以获得跟踪特征图；以及，操作规范确定单元670，用于基于所述跟踪特征图生成单元660获得的所述跟踪特征图跟踪所述监控视频中的操作人员，以确定所述操作人员的操作行为是否符合操作规范。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，所述视频帧截取单元620，进一步用于：确定所述智能化中央厨房是否有人员进入；响应于所述智能化中央厨房有人员进入，记录所述人员进入的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，所述视频帧截取单元620，进一步用于：检测所述智能化中央厨房中的智能化厨具的开启信号；响应于检测到所述智能化厨具的开启信号，记录所述智能化厨具的开启时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，所述视频帧截取单元620，进一步用于：接收所述智能化中央厨房中的传感器的传感信号；基于所述传感器的传感信号确定是否存在所述智能化中央厨房内的环境状态的改变；响应于确定存在所述智能化中央厨房内的环境状态的改变，记录所述环境状态的改变的时间信息；以及，基于所述时间信息开始从所述监控视频截取所述当前帧和所述前一帧。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，所述当前帧和所述前一帧是所述视频中相隔预定时间的图像帧。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，如图7所示，所述操作规范确定单元670，包括：跟踪特征图生成子单元671，用于从所述监控视频中的多个图像帧获取时间上连续的多个跟踪特征图；候选框特征图生成子单元672，用于将所述多个跟踪特征图输入候选框提取网络以获取标识有候选框的多个候选框特征图；以及，跟踪结果生成子单元673，用于将所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果，所述跟踪结果用于表示所述操作人员的操作行为的行为轨迹是否符合操作规范。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，如图8所示，所述跟踪结果生成子单元673，包括：规范向量转化二级子单元674，用于将所述智能化中央厨房的操作人员的操作规范转换为规范向量；标签信息附加二级子单元675，用于将所述规范向量作为所述多个候选框特征图的标签信息附加到所述多个候选框特征图；以及，跟踪结果生成二级子单元676，用于将添加了标签信息的所述多个候选框特征图输入用于图像跟踪的深度神经网络以获得所述监控视频中的操作人员的跟踪结果。

在一个示例中，在上述用于智能化中央厨房的操作人员管理系统600中，在训练过程中，所述第一卷积神经网络和所述第二卷积神经网络在第一时间周期内训练，所述候选框提取网络和所述用于图像跟踪的深度神经网络在第二时间周期内训练。

这里，本领域技术人员可以理解，上述用于智能化中央厨房的操作人员管理系统600中的各个单元和模块的具体功能和操作已经在上面参考图1到图5的用于智能化中央厨房的操作人员管理方法描述中得到了详细介绍，并因此，将省略其重复描述。

如上所述，根据本申请实施例的用于智能化中央厨房的操作人员管理系统600可以实现在各种终端设备中，例如用于监控智能化中央厨房的服务器等。在一个示例中，根据本申请实施例的用于智能化中央厨房的操作人员管理系统600可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该用于智能化中央厨房的操作人员管理系统600可以是该终端设备的操作系统中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该用于智能化中央厨房的操作人员管理系统600同样可以是该终端设备的众多硬件模块之一。

替换地，在另一示例中，该用于智能化中央厨房的操作人员管理系统600与该终端设备也可以是分立的设备，并且该用于智能化中央厨房的操作人员管理系统600可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。

下面，参考图9来描述根据本申请实施例的电子设备。

图9图示了根据本申请实施例的电子设备的框图。

如图9所示，电子设备10包括一个或多个处理器11和存储器12。

处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的用于智能化中央厨房的操作人员管理方法中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如监控视频等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

该输入装置13可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括跟踪结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图9中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于智能化中央厨房的操作人员管理方法中的功能中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于智能化中央厨房的操作人员管理方法中的功能中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。