秘密梯度下降法计算方法、秘密深度学习方法、秘密梯度下降法计算系统、秘密深度学习系统、秘密计算装置及程序

摘要

在保持精度的状态下高速地进行秘密计算上的梯度下降法的计算。秘密梯度下降法计算方法在将梯度和参数隐匿的状态下对梯度下降法进行计算。初始化部将矩阵M、V的隐匿值[M]、[V]初始化(S11)。梯度计算部求出梯度g的矩阵G的隐匿值[G](S12)。参数更新部计算[M]←β1[M]+(1‑β1)[G](S13‑1)，计算[V]←β2[V]+(1‑β2)[G]○[G](S13‑2)，计算[M^]←β^1，t[M](S13‑3)，计算[V^]←β^2，t[V](S13‑4)，计算[G^]←Adam([V^])(S13‑5)，计算[G^]←[G^]○[M^](S13‑6)，并计算[W]←[W]‑[G^](S13‑7)。