WEB开发网
开发学院WEB开发Jsp 从网上抓取指定URL源码的方案 阅读

从网上抓取指定URL源码的方案

 2008-01-05 20:10:22 来源:WEB开发网   
核心提示: 引言:在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,从网上抓取指定URL源码的方案,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,假如不设置,则返回字符串 gpc.GetSource();//处理 string tempErr=gp

  引言:

  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。

  类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理服务器的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种是直接写到本地的某个文件中,另外一种就是返回字符串的。类里已经作了比较具体的注释,我想大家很轻易就看明白了,假如实在不明白, 那就msn上问吧,MSN:yubo@x263.net。

  调用方式:
  #region 测试获取远程网页
  GetPageCode gpc = new GetPageCode();
  gpc.Url="http://ppcode.com";
  gpc.PRoxyState=1;//使用代理服务器,0为不使用,设置为1后下面的代理设置才起作用
  gpc.ProxyAddress="http://proxyName.com";//代理服务器地址
  gpc.ProxyPort="80";//代理服务器的端口
  gpc.ProxyAccount="proxy";//代理服务器账号
  gpc.ProxyPassWord="password";//代理服务器密码
  gpc.ProxyDomain="bqc";//代理服务器域
  gpc.OutFilePath=filePath;//设置输出文件路径的地方,假如不设置,则返回字符串
  gpc.GetSource();//处理
  string tempErr=gpc.NoteMessage;//假如出错,这里会提示
  string tempCode=gpc.OutString;//返回的字符串
  #endregion
  类代码:
  using System;
  using System.Collections;
  using System.ComponentModel;
  using System.Data;
  using System.Drawing;
  using System.IO;
  using System.Net;
  using System.Text;
  using System.Web;
 
进入讨论组讨论。
  namespace Test.Com
  {
   /// <summary>
   /// 功能:取得Internet上的URL页的源码
   /// 创建:2004-03-22
   /// 作者:Rexsp MSN:yubo@x263.net
 /// </summary>
   public class GetPageCode
   {
  #region 私有变量
  /// <summary>
  /// 网页URL地址
  /// </summary>
  private string url=null;
  /// <summary>
  /// 是否使用代码服务器:0 不使用  1 使用代理服务器
  /// </summary>

Tags:网上 抓取 指定

编辑录入:爽爽 [复制链接] [打 印]
赞助商链接