华迪hadoop大数据开发训练
第二阶段模块开发训练：
1）网络数据采集，使用requests或者scrapy爬取数据（不能使用我案例中爬取的页面），存储到一个文本文件（文件命名为：姓名-学号-数据源文件.txt）中。
2）使用Spark RDD或者Spark Sql，读取“姓名-学号-数据源文件.txt”内容，对某一个字段的数据进行统计，获得词频前10的字段数据。把结果放在一个文本文件里面，命名为：姓名-学号-排行结果.txt
不能爬取下面2个网页内容，可以爬取其网站的其他网页内容
http://www.yingjiesheng.com/commend-fulltime-{}.html
https://www.bilibili.com/v/popular/rank/all
要求：
1）7月15号21:00前提交作业
2）提交的作业为：爬虫项目+处理数据项目+姓名-学号-数据源文件.txt+姓名-学号-排行结果.txt四个内容放在一个文件夹里面打包，命名为：姓名-学号-第二阶段作业.rar（或者zip），然后发给我。可以发邮件+私聊窗口（21:00前有效）
文件下载
资源详情
[{"title":"（ 2 个子文件 3KB ） 华迪hadoop大数据开发训练","children":[{"title":"python_homework","children":[{"title":"export_file","children":null,"spread":false},{"title":"spark","children":[{"title":"spark.py <span style='color:#111;'> 1.60KB </span>","children":null,"spread":false}],"spread":true},{"title":"request","children":[{"title":"request.py <span style='color:#111;'> 1.51KB </span>","children":null,"spread":false}],"spread":true}],"spread":true}],"spread":true}]
评论信息
其他资源
- HTML5+CSS3 精美登陆界面源码
- java实习周记
- bh1750光照数字传感器在cc2530协议栈的使用
- 一维离散余弦变换矩阵生成
- 基于web的仓库管理系统
- 航空航天器运动的建模-飞行动力学的理论基础
- verilog8*8点阵动态图案
- MySQL OCP 5.6 5.7题库标准答案
- usb2.0-serial驱动下载
- 3dVoronoi图
- java程序设计教程 第五版 答案
- 金融计算与建模：理论、算法与SAS程序-朱世武
- 金华道路矢量wgs84坐标系2021年最新shp.zip
- dm7-connector-java-7.16.jar
- C#设计模式（第二版）.pdf
- Docker Desktop Installer.part04.rar
- 毕设各种源码
- web育儿早教预约系统
- Arduino 无源蜂鸣器 音乐播放实验
- C#版KTV点歌系统源代码
- OpenGL 火箭实例源码
- 系统分析师论文范文79篇
- 2018中国区块链行业分析报告
- ASP.NET编写的论坛系统（源码）
免责申明
【只为小站】的资源来自网友分享，仅供学习研究，请务必在下载后24小时内给予删除，不得用于其他任何用途，否则后果自负。基于互联网的特殊性，【只为小站】 无法对用户传输的作品、信息、内容的权属或合法性、合规性、真实性、科学性、完整权、有效性等进行实质审查；无论 【只为小站】 经营者是否已进行审查，用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。
本站所有资源不代表本站的观点或立场，基于网友分享，根据中国法律《信息网络传播权保护条例》第二十二条之规定，若资源存在侵权或相关问题请联系本站客服人员，zhiweidada#qq.com，请把#换成@，本站将给予最大的支持与配合，做到及时反馈和处理。关于更多版权及免责申明参见 版权及免责申明
本站所有资源不代表本站的观点或立场，基于网友分享，根据中国法律《信息网络传播权保护条例》第二十二条之规定，若资源存在侵权或相关问题请联系本站客服人员，zhiweidada#qq.com，请把#换成@，本站将给予最大的支持与配合，做到及时反馈和处理。关于更多版权及免责申明参见 版权及免责申明