前言 喜马拉雅是专业的音频分享平台,汇集了有声小说,有声读物,有声书,FM电台,儿童睡前故事,相声小品,鬼故事等数亿条音频,我最喜欢听民间故事和德云社相声集,你呢? 今天带大家爬取喜马拉雅音频数据,一起期待吧!! 这个案例的视频地址在这里 https://v.douyu.com/show/a2JEMJj3e3mMNxml 项目目标 爬取喜马拉雅音频数据 受害者地址 https://www.ximalaya.com/ 本文知识点: 1、系统分析网页性质 2、多层数据解析 3、海量音频数据保存 环境: 1.确定数据所在的链接地址(url) 2.通过代码发送url地址的请求 3.解析数据(要的,
2021-08-09 15:11:04 265KB Python爬虫实战 喜马拉雅 实战
1
python并发爬取网站图片的DEMO,代码清晰,简单明了,非常适合在学习其他爬虫框架前打基础。
2021-08-09 13:13:40 8KB python 爬虫 并发
可以自行输入想要爬取的博主的用户名,下载主页的视频,可以自行输入想要爬取的博主的用户名,下载主页的视频
2021-08-09 01:00:18 3KB python 爬虫 微博 视频
1
从豆瓣批量获取看过电影的用户列表,并应用kNN算法预测用户性别 首先从豆瓣电影的“看过这部电影 的豆瓣成员”页面上来获取较为活跃的豆瓣电影用户。 获取数据 链接分析 这是看过"模仿游戏"的豆瓣成员的网页链接:http://movie.douban.com/subject/10463953/collections。 一页上显示了20名看过这部电影的豆瓣用户。当点击下一页时,当前连接变为:http://movie.douban.com/subject/10463953/collections?start=20。 由此可知,当请求下一页内容时,实际上就是将"start"后的索引增加20。 因此,我们可以设定base_url='http://movie.douban.com/subject/10463953/collections?start=',i=range(0,200,20),在循环中url=base_url+str(i)。 之所以要把i的最大值设为180,是因为后来经过测试,豆瓣只给出看过一部电影的最近200个用户。 读取网页 在访问时我设置了一个HTTP代理,并且为了防止访问频率过快而被豆瓣封ip,每读取一个网页后都会调用time.sleep(5)等待5秒。 在程序运行的时候干别的事情好了。 网页解析 本次使用BeautifulSoup库解析html。 每一个用户信息在html中是这样的: 七月 (银川) 2015-08-23   首先用读取到的html初始化soup=BeautifulSoup(html)。本次需要的信息仅仅是用户id和用户的电影主页,因此真正有用的信息在这段代码中: 因此在Python代码中通过td_tags=soup.findAll('td',width='80',valign='top')找到所有的块。 td=td_tags[0],a=td.a就可以得到 通过link=a.get('href')可以得到href属性,也就用户的电影主页链接。然后通过字符串查找也就可以得到用户ID了。
2021-08-08 17:09:29 25KB python 爬虫 预测 分类
啥都先不说,上代码: import requests, re, json, sqlite3, datetime, time class BilibiliRank: def __init__(self, name): self.set = MyDB(name) self.name = name def save(self, data): table = 'Rank{}'.format(str(datetime.date.today()).replace('-', '')) columns = ['mid', 'aut
2021-08-08 13:30:35 244KB 数据 爬虫
1
再也不用担心PPT模板下载问题,python爬虫 PPT模板批量下载的源脚本,批量下载需要的ppt模板
2021-08-07 18:08:48 3KB python 爬虫
1
项目介绍: 一款商城购物 App,商品数据采用 Python 爬虫爬取自某小型电商平台,服务端部署在腾讯云。项目主要分为:主页、分类、购物车、消息、和“我的”模块。特点 采用 Kotlin 语言进行开发 采用 MVP + dagger 2 架构 组件化开发,减少模块间的耦合 采用 Retrofit + RxKotlin 进行网络请求 使用 ARouter 进行页面路由和 EventBus 进行全局事件广播 使用到的第三方开源库 项目名称 简介 RxKotlin RxJava bindings for Kotlin RxAndroid 在 Android 中使用 RxJava ARouter 帮助 Android App 进行组件化改造的路由框架 Retrofit HTTP 请求工具库 OkHttp 适用于 Android 和 Java 应用的网络请求框架 Dagger 强大的依赖注入框架 Glide 好用的图片加载框架 CircleImageView 圆形图片不复杂 MultiStateView 通用状态切换视图 RxBus 适用于 Kotlin 的 RxBus FlowLayout Android 流式布局,支持单选、多选等,适合用于产品标签等 leakcanary 使用于 Android 和 Java 和内存泄漏检查工具 BadgeView 支持自由定制外观、拖拽消除的 MaterialDesign 风格 Android BadgeView使用到的工具/网站 网站名称 简介 Iconfont 阿里巴巴矢量图标库,提供了本项目中的大部分矢量图 aconvert 在线调整图片大小(PNG, JPG 和 GIF) convertio 在线图像文件转换器,支持 SVG 转换成 PNG logoko 在线 logo 设计 图帮主 在线平面设计 shields metadata 图标设计 compresspng 在线压缩 PNG 图像
2021-08-07 13:01:31 121B android studio 源码 网站源码
接单的一些代码的汇总: 这是两次接单的代码的汇总
2021-08-06 22:26:06 6KB 接单 代码 python 爬虫
1
这是关于python进行爬虫的代码和学习的步骤以及环境的搭建,只需 一块九 就可以让你掌握.如果你是初学者,这个价格很适合.只要你需要我就提供.
2021-08-06 17:08:56 197.61MB python爬虫
最简单Python爬虫.rar
2021-08-06 13:03:15 6KB python 爬虫1
1