基于同态加密的安全多分类Logistic回归模型研究与实现

摘要

随着云计算的广泛应用，用户越来越趋向于将复杂的机器学习任务外包给云服务器。然而如何保护云服务器上数据的隐私也随之成为一个重要问题。同态加密技术可以在不泄露任何明文信息的情况下，对密文进行运算，并在解密后得到与在明文上执行相应运算一致的结果。因此，同态加密是一种可行的有潜力的安全外包计算解决方案。但是，同态加密方案中同态操作的限制和效率缓慢的问题使其难以在商业和日常生活中被广泛应用。目前，基于同态加密的隐私保护机器学习研究在不断发展，但是还没有出现基于同态加密的安全多分类模型。　　本文完成的主要工作如下：　　①分析了HEAAN方案的加解密、同态计算以及旋转等过程，给出了开源库的主要函数和利用该软件库实现同态计算的操作过程。　　②分析了Logistic回归模型和通过多项式逼近实现sigmoid函数的近似计算方法，利用有效的编码方法将数据矩阵打包进一个密文以提高效率。　　③使用OvR策略，将二分类模型扩展到多分类模型。并基于HEAAN方案，设计了一种有效的保护数据隐私的多分类Logistic回归模型，实现安全外包计算。详细分析如何通过HEAAN方案的基本操作完成了梯度下降法的同态计算，包括密文的内积计算、sigmoid多项式近似函数计算和权重更新等过程。　　④根据软件工程的思想，实现了提出的基于同态加密的安全多分类Logistic回归模型的相关计算，具体分析了每一个类和重要的函数。　　⑤分析了保护隐私的多分类问题的应用场景，使用了有代表性的数据集对模型进行实验并记录测试结果，与在明文下的多分类模型进行对比分析。结果表明，设计的安全多分类Logistic回归模型不仅能够实现隐私保护，而且得到的预测准确率与在明文数据上的运算结果接近。　　通过上述工作，设计了基于同态加密的安全多分类Logistic回归模型，将同态加密应用于机器学习中以解决敏感数据的多分类问题，并通过实验验证了模型的准确性和可行性。

目录

目 录

1 绪 论

1.1 研究背景

1.2 国内外研究现状

1.2.1 同态加密的发展历程

1.2.2 同态加密在机器学习中的应用研究现状

1.2.3 同态加密在Logistic 回归中的应用研究现状

1.3 本文研究内容

1.4 本文组织结构

2 相关技术

2.1 HEAAN方案

2.2 HEAAN库

2.3 Logistic回归

2.4 Sigmoid多项式近似函数

2.5 数据编码

2.6 本章小结

3 基于同态加密的安全多分类模型的研究

3.1 多分类Logistic 回归

3.2 基于同态加密的多分类Logistic回归

3.3 梯度下降法的同态计算

3.4 本章小结

4 基于同态加密的安全多分类模型的实现

4.1 模型运算流程

4.2 模型整体设计

4.3 数据集处理的实现

4.4 数据加密的实现

4.5 梯度下降法的实现

4.6 数据解密的实现

4.7 本章小结

5 基于同态加密的安全多分类模型的应用

5.1 应用场景

5.2 仿真实验

5.2.1 实验数据集

5.2.2 实验环境

5.2.3 参数设置

5.2.4 实验过程

5.3 实验结果与分析

① Dermatology 数据集测试

② Heart Disease 数据集测试

③ Iris 数据集测试

④ Wine 数据集测试

5.4 本章小结

6 总结与展望

6.1 总结

6.2 展望

参考文献

附 录

A. 作者在攻读学位期间发表的论文目录

B. 作者在攻读学位期间参与的科研项目目录

C. 学位论文数据集

致 谢