爬虫是一种模拟浏览器行为，从互联网上抓取数据的自动化程序。Python是一种非常适合编写爬虫的编程语言，具有丰富的库支持。本手册是一份面向Python爬虫新手的全面指南，涵盖了从基础安装、爬虫原理、网络请求处理、数据提取、反爬虫策略以及数据库操作等关键知识点。 **安装配置篇** - **Anaconda安装及环境变量配置**：Anaconda是一个方便的Python科学计算包管理器，支持多平台。在进行Python开发之前，建议安装Anaconda以管理不同的Python版本和包。环境变量配置是确保系统能够识别Python和相关工具命令的关键步骤。 - **Python虚拟环境设置**：虚拟环境是为不同的项目创建隔离的Python环境，这对于管理项目依赖非常有帮助，避免了不同项目之间的包版本冲突。 - **PyCharm安装与配置**：PyCharm是流行的Python集成开发环境（IDE），支持代码补全、调试等功能。正确安装并配置PyCharm虚拟环境，能够提高开发效率。 - **Linux虚拟机安装问题汇总**：在使用Linux时，可能会遇到安装软件包的问题。了解常见的Linux虚拟机安装问题汇总，有助于解决使用过程中的困扰。 - **数据库安装**：本手册还包括了数据库安装部分，如MongoDB和Redis的安装，以及Python中如何操作这些数据库的相关模块（如Pymongo和Redis模块）。数据库操作是存储爬取数据的重要环节。 **爬虫原理篇** - **爬虫与数据**：介绍爬虫的基本概念，即如何从网页上抓取数据。了解爬虫的工作原理，是编写爬虫前的必要准备。 - **通用爬虫与聚焦爬虫**：通用爬虫抓取目标广泛，而聚焦爬虫针对特定主题或网站进行数据抓取。了解两者的区别有助于确定爬虫项目的范围。 - **HTTP/HTTPS协议**：爬虫需要理解基本的网络协议，以便正确地发送请求和接收响应。本手册详细介绍了这些协议的工作原理。 - **Urllib库与Requests模块**：Urllib是Python标准库中的网络请求库，而Requests是一个第三方库，更加简洁易用。两者都是进行网络请求不可或缺的工具。 **网络请求深入探讨篇** - **Cookie与Session**：了解Web的会话管理机制，对于模拟登录、跟踪用户行为等复杂的网络请求处理是必要的。 - **SSL证书校验**：网络请求中，安全性的考虑是必须的，SSL证书校验能够帮助确保数据传输的安全性。 - **代理设置与异常处理**：为避免IP被封禁，代理的使用是爬虫实践中的重要组成部分。同时，能够处理网络请求中的各种异常，对提升爬虫的健壮性有显著帮助。 **数据提取篇** - **正则表达式提取数据**：正则表达式是处理字符串的强大工具，尤其在从复杂文本中提取特定数据时。 - **XPath提取数据**：XPath是一种在XML和HTML文档中查找信息的语言，配合lxml库，可以高效地进行数据提取。 - **BeautifulSoup4**：BeautifulSoup是一个用于解析HTML和XML文档的库，它通过转换这些文档为复杂的树形结构，简化了数据提取的过程。 **动态HTML处理篇** - **动态HTML与反爬虫技术**：互联网上很多页面是动态加载的，因此需要了解如何使用Selenium或PhantomJS这类工具来模拟浏览器行为，以获取动态内容。同时，了解反爬虫机制对于编写健壮的爬虫代码同样重要。 **Scrapy框架篇** - **Scrapy框架**：Scrapy是Python开发的一个快速、高层次的网页抓取和Web爬虫框架，适合于大规模的爬虫项目。手册介绍了Scrapy的基本使用、安装以及实战项目。 **实战项目与数据库操作篇** - **Scrapy实战项目**：手册提供了实际的Scrapy爬虫项目案例，如爬取腾讯招聘数据、淘宝商品信息，以帮助读者理解如何将所学知识应用于真实世界的问题解决。 - **MySQL和MongoDB数据库**：介绍了如何使用Python进行MySQL和MongoDB数据库的基本操作。这些数据库在存储爬取数据时起着至关重要的作用。 **反爬虫策略篇** - **反爬虫方法**：随着爬虫技术的普及，越来越多的网站开始实施反爬虫策略，如通过User-Agent判断是否为爬虫。了解这些策略有助于编写能够应对各种挑战的爬虫程序。 以上为手册的主要知识点概述。对于初学者来说，通过逐步学习手册中的内容，可以掌握Python爬虫从基础到应用的各项技能。需要注意的是，实际编写爬虫时，还应遵守相关法律法规以及网站的服务条款，确保爬取行为的合法性和道德性。

利用WebClient爬取古诗文网诗词，获取指定页的所有代码，截取转向的路径，拼接子页，获取子页数据，然后存入数据库

利用python3的requests请求库和re正则表达式模块，爬取猫眼电影排行，并存储到MySQL数据库中。

利用sorted()函数进行人气值排名，按照关键词k进行检索,通常是将人气值利用正则表达式将数字输出出来，通常取正则表达式输出列表的0号位置置换成浮点型即可，但是随着人气值超过1000万，如1200万人气，在正则表达式输出时会是‘1,200万’，但是此时转换成浮点数，只会输出‘1’，不能识别‘，’后边的‘200万’，采用新方法if()函数使其合理化。