C#(Csharp)多线程HTTP并发请求(HttpWebRequest)采集蜘蛛
2022-11-21 21:49:44 52KB 采集蜘蛛 爬虫 c#
1
网络蜘蛛是一款使用简单、高效、可定向搜索的邮箱采集软件。 使用多线程、线程池技术,使用最新.NET4.0开发配合MSSQL2005数据库提高IO读写速度,保存蜘蛛爬过的历史, 能避免采集到重复的Email,避免爬行重复的URL。如果有较高的硬件支持,蜘蛛理论上数日便能爬遍整个网络。 安全高效:.NET4.0开发绝对无毒,欢迎检测! 定向搜索:可搜索指定行业的邮件! 使用方法: 1:附加数据库 Spider1.mdf 2:修改数据库连接 3:初始化种子URL,蜘蛛刚开始工作需要有种子URL。您可以点击工具栏上的按钮自动生成种子URL, 也可以使用数据库工具打开表NewUrlOther 往Url添加添加种子URL,种子URL个数无上限。 4:运行程序、点工具栏中的开始按钮即可开始采集Email。 5:有任何问题欢迎您给我邮件或登录布谷技术小组网站。 请保留联系作者地址:http://www.bugucn.com ,谢谢! --------------------------------------------------------------------------------
2022-02-22 10:55:25 773KB 蜘蛛 多线程 Email采集 邮箱采集
1
C#(也称Csharp)在多线程下并发执行HTTP请求的实现,采用C#封装HttpWebRequest类开发的多线程并发采集程序源码文档,文档中详细说明了HttpWebRequest并发HTTP请求实现网站采集的方法,经过测试同时并发1000+不是问题,好东西和大家分享哦:)
2019-12-21 19:47:35 140KB WebRequest 多线程 并发 HTTP请求
1