上传者: csdnGuoYuying
|
上传时间: 2023-04-13 17:16:56
|
文件大小: 14.83MB
|
文件类型: RAR
系统需求概述
要求爬虫系统能完成对凤凰网新闻、网易新闻、新浪新闻、搜狐新闻等网站新闻数据的实时抓取,并正确抽取出正文,获取新闻的点击量,实现每日定时抓取。能将抓取回来的新闻进行中文分词,利用中文分词结果来计算新闻相似度,将相似的新闻合并起来,同时也合并点击率,最后一点,能将相似因为一段事件内的用户点击趋势以合适的形式展现出来。
基于网络爬虫技术的网络新闻分析由以下几个模块构成:
网络爬虫模块。
中文分词模块。
中文相似度判定模块。
数据结构化存储模块。
数据可视化展示模块。
基于网络爬虫技术的网络新闻分析主要用于网络数据爬取。本系统结构如下:
(1)网络爬虫模块。
(2)中文分词模块。
(3)中3文相似度判定模块。
(4)数据结构化存储模块。
(5)数据可视化展示模块。