基于Java线程池技术的数据爬虫设计与实现

摘要

概要:为了改善数据获取爬虫程序的运行性能和提高数据获取效率,分析了数据爬虫的原理与架构,设计并实现了一种基于Java线程池技术的爬虫程序架构.该爬虫程序采用多个线程并行处理页面,极大地改善了数据获取的效率,提高了用来获取数据的机器的资源利用率.