说起爬虫一般想到的情况是，使用 python 中都通过 requests 库获取网页内容，然后通过 beautifulSoup 进行筛选文档中的标签和内容。但是这样有个问题就是，容易被反扒机制所拦住。
反扒机制有很多种，例如知乎：刚开始只加载几个问题，当你往下滚动时才会继续往下面加载，而且在往下滚动一段距离时就会出来一个登陆的弹框。
这样的机制对于通过获取服务器返回内容的爬虫方式进行了限制，我们只能获得前几个回答，而没办法或许后面的回答。
所以需要使用 selenium 模拟真实浏览器进行操作。
最终实现效果如下：
前提是需要自行搜索教程安装：
chromeDriver
selen
2021-05-31 20:39:24
72KB
1
利用selenium编写的python网络爬虫-淘宝商品信息并保存到mysql数据库。包括宝贝的详细信息
2020-01-08 03:05:48
4KB
1