首页 | IT新闻 | 硬件 | 操作系统 | 开发 | 网络编程 | 数据库 | 热门框架 | 网络安全 | 组网 | 建站指南 | 网页制作 | 特效 | 实用技巧 | 服务器 | 办公 | QQ | 探索 | 社区

  • 技术部落
  • 部落首页 > 程序开发 > JAVA专栏 > 正文
  • 用Java从网上抓取指定URL源码的方案
      2007-3-14  来源:网络资源  编辑:Jsbulo  热度:

    引言:
      在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。

      类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理服务器的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种是直接写到本地的某个文件中,另外一种就是返回字符串的。类里已经作了比较详细的注释,我想大家很容易就看明白了。

    调用方式:
    #region 测试获取远程网页
    GetPageCode gpc = new GetPageCode();
    gpc.Url="http://ppcode.com";
    gpc.ProxyState=1;//使用代理服务器,0为不使用,设置为1后下面的代理设置才起作用
    gpc.ProxyAddress="http://proxyName.com";//代理服务器地址
    gpc.ProxyPort="80";//代理服务器的端口
    gpc.ProxyAccount="proxy";//代理服务器账号
    gpc.ProxyPassword="password";//代理服务器密码
    gpc.ProxyDomain="bqc";//代理服务器域
    gpc.OutFilePath=filePath;//设置输出文件路径的地方,如果不设置,则返回字符串
    gpc.GetSource();//处理
    string tempErr=gpc.NoteMessage;//如果出错,这里会提示
    string tempCode=gpc.OutString;//返回的字符串
    #endregion
    类代码:
    using System;
    using System.Collections;
    using System.ComponentModel;
    using System.Data;
    using System.Drawing;
    using System.IO;
    using System.Net;
    using System.Text;
    using System.Web;
    namespace Test.Com
    {
    /// &lt summary &gt
    /// 功能:取得Internet上的URL页的源码
    /// 创建:2004-03-22
    /// 作者:Rexsp MSN:yubo@x263.net
    /// &lt /summary &gt
    public class GetPageCode
    {
    #region 私有变量
    /// &lt summary &gt
    /// 网页URL地址
    /// &lt /summary &gt
    private string url=null;
    /// &lt summary &gt
    /// 是否使用代码服务器:0 不使用 1 使用代理服务器
    /// &lt /summary &gt
    private int proxyState=0;
    /// &lt summary &gt
    /// 代理服务器地址
    /// &lt /summary &gt
    private string proxyAddress=null;
    /// &lt summary &gt
    /// 代理服务器端口
    /// &lt /summary &gt
    private string proxyPort=null;
    /// &lt summary &gt
    /// 代理服务器用户名
    /// &lt /summary &gt
    private string proxyAccount=null;
    /// &lt summary &gt
    /// 代理服务器密码
    /// &lt /summary &gt
    private string proxyPassword=null;
    /// &lt summary &gt
    /// 代理服务器域
    /// &lt /summary &gt
    private string proxyDomain=null;
    /// &lt summary &gt
    /// 输出文件路径
    /// &lt /summary &gt
    private string outFilePath=null;
    /// &lt summary &gt
    /// 输出的字符串
    /// &lt /summary &gt
    private string outString=null;
    /// &lt summary &gt
    /// 提示信息
    /// &lt /summary &gt
    private string noteMessage;

    #endregion

    #region 公共属性
    /// &lt summary &gt
    /// 欲读取的URL地址
    /// &lt /summary &gt
    public string Url
    {
    get{return url;}
    set{url=value;}
    }
    /// &lt summary &gt
    /// 是否使用代理服务器标志
    /// &lt /summary &gt
    public int ProxyState
    {
    get{return proxyState;}
    set{proxyState=value;}
    }
    /// &lt summary &gt
    /// 代理服务器地址
    /// &lt /summary &gt
    public string ProxyAddress
    {
    get{return proxyAddress;}
    set{proxyAddress=value;}
    }
    /// &lt summary &gt


    /// 代理服务器端口
    /// &lt /summary &gt
    public string ProxyPort
    {
    get{return proxyPort;}
    set{proxyPort=value;}
    }
    /// &lt summary &gt
    /// 代理服务器账号
    /// &lt /summary &gt
    public string ProxyAccount
    {
    get{return proxyAccount;}
    set{proxyAccount=value;}
    }
    /// &lt summary &gt
    /// 代理服务器密码
    /// &lt /summary &gt
    public string ProxyPassword
    {
    get{return proxyPassword;}
    set{proxyPassword=value;}
    }
    /// &lt summary &gt
    /// 代理服务器域
    /// &lt /summary &gt
    public string ProxyDomain
    {
    get{return proxyDomain;}
    set{proxyDomain=value;}
    }
    /// &lt summary &gt
    /// 输出文件路径
    /// &lt /summary &gt
    public string OutFilePath
    {
    get{return outFilePath;}
    set{outFilePath=value;}
    }
    /// &lt summary &gt
    /// 返回的字符串
    /// &lt /summary &gt
    public string OutString
    {
    get{return outString;}

    }
    /// &lt summary &gt
    /// 返回提示信息
    /// &lt /summary &gt
    public string NoteMessage
    {
    get{return noteMessage;}

    }

    #endregion

    #region 构造函数
    public GetPageCode()
    {
    }
    #endregion

    #region 公共方法
    /// &lt summary &gt
    /// 读取指定URL地址,存到指定文件中
    /// &lt /summary &gt
    public void GetSource()
    {
    WebRequest request = WebRequest.Create(this.url);
    //使用代理服务器的处理
    if(this.proxyState==1)
    {
    //默认读取80端口的数据

    if(this.proxyPort==null)
    this.ProxyPort="80";
    WebProxy myProxy=new WebProxy();
    myProxy = (WebProxy)request.Proxy;
    myProxy.Address = new Uri(this.ProxyAddress+":"+this.ProxyPort);
    myProxy.Credentials = new NetworkCredential(this.proxyAccount, this.proxyPassword, this.ProxyDomain);
    request.Proxy = myProxy;
    }
    try

    {
    //请求服务
    WebResponse response = request.GetResponse();
    //返回信息
    Stream resStream = response.GetResponseStream();
    StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default);
    string tempCode= sr.ReadToEnd();
    resStream.Close();
    sr.Close();

    //如果输出文件路径为空,便将得到的内容赋给OutString属性
    if(this.outFilePath==null)
    {
    this.outString=tempCode;
    }
    else
    {

    FileInfo fi = new FileInfo(this.outFilePath);
    //如果存在文件则先干掉
    if(fi.Exists)
    fi.Delete();
    StreamWriter sw = new StreamWriter(this.outFilePath,true,Encoding.Default);
    sw.Write(tempCode);
    sw.Flush();
    sw.Close();
    }
    }
    catch
    {
    this.noteMessage="出错了,请检查网络是否连通;";
    }

    }
    #endregion

    }