大数据爬虫技术第2章 爬虫的实现原理和技术.ppt

01 爬虫实现原理简介 02 爬虫抓取网页的详细流程 03 通用爬虫中网页的分类 04 通用爬虫相关网站文件 05 防爬虫应对策略 06 为什么选择Python做爬虫 网站通过robots.txt文件来告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。 哪些页面 不能爬取 哪些页面 可以爬取 robots.txt 当一个网络爬虫访问一个站点时，它会先检查该站点根目录下是否存在robots.txt文件。 robots.txt文件使用#号进行注释 # 第一行记录 User-agent: Googlebot Robots协议只是一种建议，它没有实际的约束力，网络爬虫可以选择不遵守这个协议，但可能会存在一定的法律风险。 为了方便网站管理员通知爬虫遍历和更新网站的内容，而无需爬取每个网页，网站提供了Sitemap.xml文件（网站地图）。 尽管Sitemap.xml文件提供了爬取网站的有效方式，但仍需要对其谨慎对待，这是因为该文件经常会出现缺失或过期的问题 01 爬虫实现原理简介 02 爬虫抓取网页的详细流程 03 通用爬虫中网页的分类 04 通用爬虫相关网站文件 05 防爬虫应对策略 06 为什