本程序可以连续爬取一个或多个新浪微博用户（如胡歌、迪丽热巴、郭碧婷）的数据，并将结果信息写入文件或数据库。写入信息几乎包括用户微博的所有数据，包括用户信息和微博信息两大类。

使用Python2.7的版本，爬取智联招聘岗位信息，并将招聘结果保存在excel中。

基于weibo.com的新版API构建，拥有最丰富的字段信息 多种采集模式，包含微博用户,推文,粉丝,关注,转发,评论,关键词搜索 支持针对单个关键词获取单天超过1200页的检索结果 #257 支持长微博全文的获取 基于关键词微博搜索支持指定时间范围 添加IP归属地信息的采集，包括用户数据，微博数据和微博评论数据 该项目需要安装Python环境和MongoDB数据库，可以直接使用

> ### python爬虫爬取百度百科页面 > 简单爬虫框架： > 爬虫调度器 -> URL管理器 -> 网页下载器(urllib2) -> 网页解析器(BeautifulSoup) -> 价值数据 目录结构：  > 注：mac osx下用alt+enter添加相应方法 - (爬虫调度器)spider_main.py - (url管理器)url_manager.py - (下载器)html_downloader.py - (解析器)html_parser.py - (数据输出)html_outputer.py > 运行程序spider_main.py可进行爬取页面，最终文件输出为output.html,里面包含词条和词条解释，爬取完毕。 output.html: ![](http://images2015.cnblogs.com/blog/763083/201

通过python爬虫采集城市的酒店数据 内容概要：使用python采集酒店数据 适用人群：做酒店数据市场调研，数据分析报告的人群 使用场景及目标：需要依靠python3环境，执行爬虫脚本 其他说明：需要使用开发者工具捕捉网站中的目标城市对应的cityCode，城市编号，如有侵权，联系删除

使用python的requests配合re对微博评论进行获取存储在mysql数据库中 使用pandas库对数据进行分析处理 使用snownlp对文本进行分析 使用echarts.js将分析的数据进行可视化呈现 总体框架使用python 的Django框架

Python实现的基于Scrapy爬虫框架和Django框架的新闻采集和订阅系统 摘要 随着互联网的迅速发展，互联网大大提升了信息的产生和传播速度，网络上每天都会产生大量的内容，如何高效地从这些杂乱无章的内容中发现并采集所需的信息显得越来越重要。网络中的新闻内容也一样，新闻分布在不同的网站上，而且存在重复的内容，我们往往只关心其中的一部分新闻，网络中的新闻页面往往还充斥着大量许多与新闻不相关的信息，影响了我们的阅读效率和阅读体验，如何更加方便及时并高效地获取我们所关心的新闻内容，本系统能够帮我们做到这一点。本系统利用网络爬虫我们可以做到对网络上的新闻网站进行定时定向的分析和采集，然后把采集到的数据进行去重，分类等操作后存入数据库，最后提供个性化的新闻订阅服务。考虑了如何应对网站的反爬虫策略，避免被网站封锁爬虫。在具体实现上会使用Python配合scrapy等框架来编写爬虫，采用特定的内容抽取算法来提取目标数据，最后使用Django加上weui来提供新闻订阅后台和新闻内容展示页，使用微信向用户推送信息。用户可以通过本系统订阅指定关键字，当爬虫系统爬取到了含有指定关键字的内容时会把新闻推送

里面包括号码，时间，期号，金额等等 字段包括:期号,开奖日期,开奖号码,一等奖(注数,金额),销售额,奖池金额以及对应详情页面'一等奖中奖情况'.将爬取下来的评论保存到excel 网址:http://www.cwl.gov.cn/ygkj/wqkjgg/ssq/ 数据明了清晰，里面数据可保存到很多文本里面，并且源码数据更改还可以实现数据的保存方式

Python 58同城房价bs4 beautiful soup爬虫获取 room_name room_type room_area room_addr0 room_addr1 room_price房价名称类型面积地址价格等 jieba中文分词 tf-idf向量化 kmeans聚类 浏览器多页爬虫 jupyter notebook numpy pandas sklearn 数据分析 数据挖掘

电信输入，动态查询，可根据用户需求输入关键字进行查询