一种基于Kubenetes集群的分布式爬虫方法和存储设备

摘要

本发明涉及爬虫技术领域，特别涉及一种基于Kubenetes集群的分布式爬虫方法和存储设备。所述一种基于Kubenetes集群的分布式爬虫方法，包括步骤：构建代码仓库；构建制品库；构建自动化部署流程；根据所述部署流程将制品库的镜像文件自动部署至Kubenetes的各个节点上；启动爬虫任务进行任务采集。通过以上方法，不需要逐一配置爬虫所需要的复杂环境配置，环境都已经打包在镜像包，部署升级不需要逐一升级爬虫程序，通过制品库根据自动化部署流程部署到各个爬虫机器上。使得当有更新时，爬虫部署简单方便易操作。