上传者: 38638596
|
上传时间: 2022-06-16 02:08:26
|
文件大小: 609KB
|
文件类型: PDF
本博客介绍使用Scrapy爬取博客数据(标题,时间,链接,内容简介)。首先简要介绍Scrapy使用,scrapy安装自行百度安装。
创建爬虫项目
安装好scrapy之后,首先新建项目文件:scrapy startproject csdnSpider
创建项目之后会在相应的文件夹位置创建文件:
创建爬虫模块
首先编写爬虫模块,爬虫模块的代码都放置于spiders文件夹中 。 爬虫模块是用于从单个网站或者多个网站爬取数据的类,其应该包含初始 页面的URL, 以及跟进网页链接、分析页 面内容和提取数据函数。 创建一个Spider类,需要继承scrapy.Spider类,并且定义以下三个属性:
1