这是新浪微博爬虫，采用python+selenium实现。 免费资源，希望对你有所帮助，虽然是傻瓜式爬虫，但是至少能运行。同时rar中包括源码及爬取的示例。 参考我的文章： http://blog.csdn.net/eastmount/article/details/50720436 [python爬虫] Selenium爬取新浪微博内容及用户信息 http://blog.csdn.net/eastmount/article/details/51231852 [Python爬虫] Selenium爬取新浪微博客户端用户信息、热点话题及评论 (上) 主要爬取内容包括： 新浪微博手机端用户信息

之前项目中需要全国的省市区数据，在网上找了很多，发现数据要么不全，要么就是过时了。最后去爬取的全国省市县级各地区区域名称信息，sql文件，用户后端给前端查询地区筛选时的数据调用，

golang爬虫将爬取的数据存入mongodb

【计算机课程设计】python 爬虫 网课数据爬取+可视化，本资源适合新手小白和在校学生，使用前请务必查看说明文档

【计算机课程设计】基于二手房数据爬取分析,本资源适合新手小白和在校学生，使用前请务必查看说明文档

【计算机课程设计】扫黑风暴电视剧相关数据爬取与可视化 , 本资源适合新手小白和在校学生，使用前请务必查看说明文档

本课题的主要目的是设计面向定向网站的网络爬虫程序，同时需要满足不同的性能要求，详细涉及到定向网络爬虫的各个细节与应用环节。 搜索引擎作为一个辅助人们检索信息的工具。但是，这些通用性搜索引擎也存在着一定的局限性。不同领域、不同背景的用户往往具有不同的检索目的和需求，通用搜索引擎所返回的结果包含大量用户不关心的网页。为了解决这个问题，一个灵活的爬虫有着无可替代的重要意义。 网络爬虫应用智能自构造技术，随着不同主题的网站，可以自动分析构造URL，去重。网络爬虫使用多线程技术，让爬虫具备更强大的抓取能力。对网络爬虫的连接网络设置连接及读取时间，避免无限制的等待。为了适应不同需求，使网络爬虫可以根据预先设定的主题实现对特定主题的爬取。研究网络爬虫的原理并实现爬虫的相关功能,并将爬去的数据清洗之后存入数据库，后期可视化显示。

python爬虫爬取百度云盘资源，输入关键字直接在主奥面生成网址

前言 本文主要介绍的是利用python爬取京东商城的方法，文中介绍的非常详细，下面话不多说了，来看看详细的介绍吧。 主要工具 scrapy BeautifulSoup requests 分析步骤 1、打开京东首页，输入裤子将会看到页面跳转到了这里，这就是我们要分析的起点 2、我们可以看到这个页面并不是完全的，当我们往下拉的时候将会看到图片在不停的加载，这就是ajax,但是当我们下拉到底的时候就会看到整个页面加载了60条裤子的信息，我们打开chrome的调试工具，查找页面元素时可以看到每条裤子的信息都在

这个标签中，如下图：

爬取应用宝 数据来源: 应用宝 开发环境：win10、python3.7 开发工具：pycharm、Chrome