参考资料：Python网络爬虫与信息提取（北京理工大学慕课） Scrapy是什么？ Scrapy是一个功能强大并且非常快速的网络爬虫框架，是非常优秀的python第三方库，也是基于python实现网络爬虫的重要的技术路线。 Scrapy的安装： 直接在命令提示符窗口执行pip install scrapy貌似不行。 我们需要先下载需要的组件Twisted，然后再安装，下载地址在这里。 下载完就是这个东西： （有可能你下载的是其他版本，反正适合自己电脑的操作系统就对了） 然后我们打开命令提示符窗口（也就是平常所说的cmd），然后执行 pip install S:\Python\Twist

安装scrapy是一部血泪史。这个是在windows 32位平台下的安装包.zip

摘 要 随着社会经济的快速发展，城镇化的加速建设，房地产交易越来越火，尤其二手房交易市场居高不下，互联网涌现大批网上二手房交易网站，但是由于提供的房源质量参差不齐，对于个人用户的需求不够精确，无法做到房源精准投放，因此需要实现二手房房源推荐系统来解决用户需求，而房源推荐系统的实现首要就是需要获得足够多的房源信息，所以本毕设通过实现二手房数据爬取系统来爬取房源数据，为房源推荐系统提供数据支持。 本系统使用多线程多端爬虫的优势，设计一个基于Redis的分布式主题爬虫。本系统采用Scrapy爬虫框架来开发，使用Xpath网页提取技术对下载网页进行内容解析，使用Redis做分布式，使用MongoDB对提取的数据进行存储，使用Django开发可视化界面对爬取的结果进行友好展示，设计并实现了针对链家网二手房数据的分布式爬虫系统。 经过开发验证，本系统可以完成对链家二手房房源数据的分布式爬取，可以为房源推荐系统提供数据支持，也可以为数据分析师提供二手房数据分析的数据源。 关键词：二手房：分布式爬虫：Scrapy：可视化

DJango跟Scrapy爬虫框架实现对Zol硬件评价进行情绪分析并判断是否购买的例子 主要展示如何用Django跟Scrapy框架的使用 用Scrapyd API来实现在网页中调用爬虫

利用python的scrapy框架爬取天气预报的信息，是python爬虫入门的好程序，如果还有小伙伴不会运行scrapy框架程序的，可以在下方评论区里说明。

通过对scrapy框架的几大组成模型通俗细致的讲解，让大家可以非常清楚地理解scrapy框架的整体工作流程。

使用python3.6、scrapy环境、mysql。里面有每一步的注解，适合初学者步入中级的程序员们

Scrapy爬虫框架笔记

python爬虫scrapy框架实现音乐网站信息爬取,代码完整,代码可读性强,适合作为爬虫框架初学体验

MOOC_Scrapy 基于Scrapy的小爬虫，主要包括： 各个学科频道下的所有科目的基本信息(包括课程二级界面的评分信息) 指定关键词的搜索页面课程信息 爬取数据的存储和两种可视化库的小试水( & ) 主要目的是写一个走Ajax接口的爬虫练手（和交作业:sad_but_relieved_face:，初期的测试都是从零开始查看XHR信息，再fiddler抓包和模拟POST，测试完成再开写。 可视化试了 和 ，都各有各的优缺点，dash的页面写的真的很戳 （当时还没学完web基础！）数据分析意义其实感觉不是很大，尽量多花了几张图熟悉库操作而已。 ps ：cookie文件内容如失效请自行替换