上传者: 42181545
|
上传时间: 2021-10-06 14:11:07
|
文件大小: 32.65MB
|
文件类型: -
C#爬虫项目
CSharpCrawler :spider:
关于项目
C#开发爬虫的知识总结,目前还在更新中。这并不是一个完整的爬虫程序,只是一些示例。
为什么要拿C#开发爬虫项目,因为个人还是比较喜欢C#。C#虽然库少一点,但想要的功能基本还是能实现的。
总结的知识点如果什么错误之处,还恳请大家提个issue指正,一起学习进步:male_sign:( ̄▽ ̄)/
功能介绍
基础知识
网页抓取原理
使用套接字来获取网页源码
法律与道德约束
爬虫协议
C#如何获取网站的爬虫协议;
C#中如何解析爬虫协议;
抓取网页
HttpWebRequest类的使用
HttpClient类的使用
获取指定url的IP地址
获取指定url的网页头信息
如何从网页源码中提取页面的编码
抓取动态网页
使用来抓取动态网页
使用WebBrowser(IE)来抓取动态网页
使用来抓取动态网页
使用来抓取动态网页
WebAPI调用
获取实时天气
调用中