（转）Java爬虫，信息抓取的实现

转载请注明出处：http://blog.csdn.net/lmj623565791/article/details/23272657

今天公司有个需求，需要做一些指定网站查询后的数据的抓取，于是花了点时间写了个demo供演示使用。

思想很简单：就是通过Java访问的链接，然后拿到html字符串，然后就是解析链接等需要的数据。

技术上使用Jsoup方便页面的解析，当然Jsoup很方便，也很简单，一行代码就能知道怎么用了：

[java] view plaincopyprint?

  1. Document doc = Jsoup.connect("http://www.oschina.net/")
  2. .data("query", "Java")   // 请求参数
  3. .userAgent("I ’ m jsoup") // 设置 User-Agent
  4. .cookie("auth", "token") // 设置 cookie
  5. .timeout(3000)           // 设置连接超时时间
  6. .post();                 // 使用 POST 方法访问 URL
 Document doc = Jsoup.connect("http://www.oschina.net/")
  .data("query", "Java")   // 请求参数
  .userAgent("I ’ m jsoup") // 设置 User-Agent
  .cookie("auth", "token") // 设置 cookie
  .timeout(3000)           // 设置连接超时时间
  .post();                 // 使用 POST 方法访问 URL

下面介绍整个实现过程：

1、分析需要解析的页面：

网址：http://www1.sxcredit.gov.cn/public/infocomquery.do?method=publicIndexQuery

页面：

先在这个页面上做一次查询：观察下请求的url，参数，method等。

这里我们使用chrome内置的开发者工具（快捷键F12），下面是查询的结果：

我们可以看到url，method，以及参数。知道了如何或者查询的URL，下面就开始代码了，为了重用与扩展，我定义了几个类：

1、Rule.java用于指定查询url,method,params等

[java] view plaincopyprint?

  1. package com.zhy.spider.rule;
  2. /**
  3. * 规则类
  4. *
  5. * @author zhy
  6. *
  7. */
  8. public class Rule
  9. {
  10. /**
  11. * 链接
  12. */
  13. private String url;
  14. /**
  15. * 参数集合
  16. */
  17. private String[] params;
  18. /**
  19. * 参数对应的值
  20. */
  21. private String[] values;
  22. /**
  23. * 对返回的HTML，第一次过滤所用的标签，请先设置type
  24. */
  25. private String resultTagName;
  26. /**
  27. * CLASS / ID / SELECTION
  28. * 设置resultTagName的类型，默认为ID
  29. */
  30. private int type = ID ;
  31. /**
  32. *GET / POST
  33. * 请求的类型，默认GET
  34. */
  35. private int requestMoethod = GET ;
  36. public final static int GET = 0 ;
  37. public final static int POST = 1 ;
  38. public final static int CLASS = 0;
  39. public final static int ID = 1;
  40. public final static int SELECTION = 2;
  41. public Rule()
  42. {
  43. }
  44. public Rule(String url, String[] params, String[] values,
  45. String resultTagName, int type, int requestMoethod)
  46. {
  47. super();
  48. this.url = url;
  49. this.params = params;
  50. this.values = values;
  51. this.resultTagName = resultTagName;
  52. this.type = type;
  53. this.requestMoethod = requestMoethod;
  54. }
  55. public String getUrl()
  56. {
  57. return url;
  58. }
  59. public void setUrl(String url)
  60. {
  61. this.url = url;
  62. }
  63. public String[] getParams()
  64. {
  65. return params;
  66. }
  67. public void setParams(String[] params)
  68. {
  69. this.params = params;
  70. }
  71. public String[] getValues()
  72. {
  73. return values;
  74. }
  75. public void setValues(String[] values)
  76. {
  77. this.values = values;
  78. }
  79. public String getResultTagName()
  80. {
  81. return resultTagName;
  82. }
  83. public void setResultTagName(String resultTagName)
  84. {
  85. this.resultTagName = resultTagName;
  86. }
  87. public int getType()
  88. {
  89. return type;
  90. }
  91. public void setType(int type)
  92. {
  93. this.type = type;
  94. }
  95. public int getRequestMoethod()
  96. {
  97. return requestMoethod;
  98. }
  99. public void setRequestMoethod(int requestMoethod)
  100. {
  101. this.requestMoethod = requestMoethod;
  102. }
  103. }

简单说一下：这个规则类定义了我们查询过程中需要的所有信息，方便我们的扩展，以及代码的重用，我们不可能针对每个需要抓取的网站写一套代码。

2、需要的数据对象，目前只需要链接，LinkTypeData.java

[java] view plaincopyprint?

  1. package com.zhy.spider.bean;
  2. public class LinkTypeData
  3. {
  4. private int id;
  5. /**
  6. * 链接的地址
  7. */
  8. private String linkHref;
  9. /**
  10. * 链接的标题
  11. */
  12. private String linkText;
  13. /**
  14. * 摘要
  15. */
  16. private String summary;
  17. /**
  18. * 内容
  19. */
  20. private String content;
  21. public int getId()
  22. {
  23. return id;
  24. }
  25. public void setId(int id)
  26. {
  27. this.id = id;
  28. }
  29. public String getLinkHref()
  30. {
  31. return linkHref;
  32. }
  33. public void setLinkHref(String linkHref)
  34. {
  35. this.linkHref = linkHref;
  36. }
  37. public String getLinkText()
  38. {
  39. return linkText;
  40. }
  41. public void setLinkText(String linkText)
  42. {
  43. this.linkText = linkText;
  44. }
  45. public String getSummary()
  46. {
  47. return summary;
  48. }
  49. public void setSummary(String summary)
  50. {
  51. this.summary = summary;
  52. }
  53. public String getContent()
  54. {
  55. return content;
  56. }
  57. public void setContent(String content)
  58. {
  59. this.content = content;
  60. }
  61. }


3、核心的查询类：ExtractService.java


[java] view plaincopyprint?


    

  1. package com.zhy.spider.core;
    2. 

  2. import java.io.IOException;
    3. 

  3. import java.util.ArrayList;
    4. 

  4. import java.util.List;
    5. 

  5. import java.util.Map;
    6. 

  6. import javax.swing.plaf.TextUI;
    7. 

  7. import org.jsoup.Connection;
    8. 

  8. import org.jsoup.Jsoup;
    9. 

  9. import org.jsoup.nodes.Document;
    10. 

  10. import org.jsoup.nodes.Element;
    11. 

  11. import org.jsoup.select.Elements;
    12. 

  12. import com.zhy.spider.bean.LinkTypeData;
    13. 

  13. import com.zhy.spider.rule.Rule;
    14. 

  14. import com.zhy.spider.rule.RuleException;
    15. 

  15. import com.zhy.spider.util.TextUtil;
    16. 

  16. /**
    17. 

  17. *
    18. 

  18. * @author zhy
    19. 

  19. *
    20. 

  20. */
    21. 

  21. public class ExtractService
    22. 

  22. {
    23. 

  23. /**
    24. 

  24. * @param rule
    25. 

  25. * @return
    26. 

  26. */
    27. 

  27. public static List<LinkTypeData> extract(Rule rule)
    28. 

  28. {
    29. 

  29. // 进行对rule的必要校验
    30. 

  30. validateRule(rule);
    31. 

  31. List<LinkTypeData> datas = new ArrayList<LinkTypeData>();
    32. 

  32. LinkTypeData data = null;
    33. 

  33. try
    34. 

  34. {
    35. 

  35. /**
    36. 

  36. * 解析rule
    37. 

  37. */
    38. 

  38. String url = rule.getUrl();
    39. 

  39. String[] params = rule.getParams();
    40. 

  40. String[] values = rule.getValues();
    41. 

  41. String resultTagName = rule.getResultTagName();
    42. 

  42. int type = rule.getType();
    43. 

  43. int requestType = rule.getRequestMoethod();
    44. 

  44. Connection conn = Jsoup.connect(url);
    45. 

  45. // 设置查询参数
    46. 

  46. if (params != null)
    47. 

  47. {
    48. 

  48. for (int i = 0; i < params.length; i++)
    49. 

  49. {
    50. 

  50. conn.data(params[i], values[i]);
    51. 

  51. }
    52. 

  52. }
    53. 

  53. // 设置请求类型
    54. 

  54. Document doc = null;
    55. 

  55. switch (requestType)
    56. 

  56. {
    57. 

  57. case Rule.GET:
    58. 

  58. doc = conn.timeout(100000).get();
    59. 

  59. break;
    60. 

  60. case Rule.POST:
    61. 

  61. doc = conn.timeout(100000).post();
    62. 

  62. break;
    63. 

  63. }
    64. 

  64. //处理返回数据
    65. 

  65. Elements results = new Elements();
    66. 

  66. switch (type)
    67. 

  67. {
    68. 

  68. case Rule.CLASS:
    69. 

  69. results = doc.getElementsByClass(resultTagName);
    70. 

  70. break;
    71. 

  71. case Rule.ID:
    72. 

  72. Element result = doc.getElementById(resultTagName);
    73. 

  73. results.add(result);
    74. 

  74. break;
    75. 

  75. case Rule.SELECTION:
    76. 

  76. results = doc.select(resultTagName);
    77. 

  77. break;
    78. 

  78. default:
    79. 

  79. //当resultTagName为空时默认去body标签
    80. 

  80. if (TextUtil.isEmpty(resultTagName))
    81. 

  81. {
    82. 

  82. results = doc.getElementsByTag("body");
    83. 

  83. }
    84. 

  84. }
    85. 

  85. for (Element result : results)
    86. 

  86. {
    87. 

  87. Elements links = result.getElementsByTag("a");
    88. 

  88. for (Element link : links)
    89. 

  89. {
    90. 

  90. //必要的筛选
    91. 

  91. String linkHref = link.attr("href");
    92. 

  92. String linkText = link.text();
    93. 

  93. data = new LinkTypeData();
    94. 

  94. data.setLinkHref(linkHref);
    95. 

  95. data.setLinkText(linkText);
    96. 

  96. datas.add(data);
    97. 

  97. }
    98. 

  98. }
    99. 

  99. } catch (IOException e)
    100. 

  100. {
    101. 

  101. e.printStackTrace();
    102. 

  102. }
    103. 

  103. return datas;
    104. 

  104. }
    105. 

  105. /**
    106. 

  106. * 对传入的参数进行必要的校验
    107. 

  107. */
    108. 

  108. private static void validateRule(Rule rule)
    109. 

  109. {
    110. 

  110. String url = rule.getUrl();
    111. 

  111. if (TextUtil.isEmpty(url))
    112. 

  112. {
    113. 

  113. throw new RuleException("url不能为空！");
    114. 

  114. }
    115. 

  115. if (!url.startsWith("http://"))
    116. 

  116. {
    117. 

  117. throw new RuleException("url的格式不正确！");
    118. 

  118. }
    119. 

  119. if (rule.getParams() != null && rule.getValues() != null)
    120. 

  120. {
    121. 

  121. if (rule.getParams().length != rule.getValues().length)
    122. 

  122. {
    123. 

  123. throw new RuleException("参数的键值对个数不匹配！");
    124. 

  124. }
    125. 

  125. }
    126. 

  126. }
    127. 

  127. }
    128. 



4、里面用了一个异常类：RuleException.java


[java] view plaincopyprint?


    

  1. package com.zhy.spider.rule;
    2. 

  2. public class RuleException extends RuntimeException
    3. 

  3. {
    4. 

  4. public RuleException()
    5. 

  5. {
    6. 

  6. super();
    7. 

  7. // TODO Auto-generated constructor stub
    8. 

  8. }
    9. 

  9. public RuleException(String message, Throwable cause)
    10. 

  10. {
    11. 

  11. super(message, cause);
    12. 

  12. // TODO Auto-generated constructor stub
    13. 

  13. }
    14. 

  14. public RuleException(String message)
    15. 

  15. {
    16. 

  16. super(message);
    17. 

  17. // TODO Auto-generated constructor stub
    18. 

  18. }
    19. 

  19. public RuleException(Throwable cause)
    20. 

  20. {
    21. 

  21. super(cause);
    22. 

  22. // TODO Auto-generated constructor stub
    23. 

  23. }
    24. 

  24. }
    25. 



5、最后是测试了：这里使用了两个网站进行测试，采用了不同的规则，具体看代码吧


[java] view plaincopyprint?


    

  1. package com.zhy.spider.test;
    2. 

  2. import java.util.List;
    3. 

  3. import com.zhy.spider.bean.LinkTypeData;
    4. 

  4. import com.zhy.spider.core.ExtractService;
    5. 

  5. import com.zhy.spider.rule.Rule;
    6. 

  6. public class Test
    7. 

  7. {
    8. 

  8. @org.junit.Test
    9. 

  9. public void getDatasByClass()
    10. 

  10. {
    11. 

  11. Rule rule = new Rule(
    12. 

  12. "http://www1.sxcredit.gov.cn/public/infocomquery.do?method=publicIndexQuery",
    13. 

  13. new String[] { "query.enterprisename","query.registationnumber" }, new String[] { "兴网","" },
    14. 

  14. "cont_right", Rule.CLASS, Rule.POST);
    15. 

  15. List<LinkTypeData> extracts = ExtractService.extract(rule);
    16. 

  16. printf(extracts);
    17. 

  17. }
    18. 

  18. @org.junit.Test
    19. 

  19. public void getDatasByCssQuery()
    20. 

  20. {
    21. 

  21. Rule rule = new Rule("http://www.11315.com/search",
    22. 

  22. new String[] { "name" }, new String[] { "兴网" },
    23. 

  23. "div.g-mn div.con-model", Rule.SELECTION, Rule.GET);
    24. 

  24. List<LinkTypeData> extracts = ExtractService.extract(rule);
    25. 

  25. printf(extracts);
    26. 

  26. }
    27. 

  27. public void printf(List<LinkTypeData> datas)
    28. 

  28. {
    29. 

  29. for (LinkTypeData data : datas)
    30. 

  30. {
    31. 

  31. System.out.println(data.getLinkText());
    32. 

  32. System.out.println(data.getLinkHref());
    33. 

  33. System.out.println("***********************************");
    34. 

  34. }
    35. 

  35. }
    36. 

  36. }
    37. 



输出结果：


[java] view plaincopyprint?


    

  1. 深圳市网兴科技有限公司
    2. 

  2. http://14603257.11315.com
    3. 

  3. ***********************************
    4. 

  4. 荆州市兴网公路物资有限公司
    5. 

  5. http://05155980.11315.com
    6. 

  6. ***********************************
    7. 

  7. 西安市全兴网吧
    8. 

  8. #
    9. 

  9. ***********************************
    10. 

  10. 子长县新兴网城
    11. 

  11. #
    12. 

  12. ***********************************
    13. 

  13. 陕西同兴网络信息有限责任公司第三分公司
    14. 

  14. #
    15. 

  15. ***********************************
    16. 

  16. 西安高兴网络科技有限公司
    17. 

  17. #
    18. 

  18. ***********************************
    19. 

  19. 陕西同兴网络信息有限责任公司西安分公司
    20. 

  20. #
    21. 

  21. ***********************************
    22. 




深圳市网兴科技有限公司
http://14603257.11315.com
***********************************
荆州市兴网公路物资有限公司
http://05155980.11315.com
***********************************
西安市全兴网吧
#
***********************************
子长县新兴网城
#
***********************************
陕西同兴网络信息有限责任公司第三分公司
#
***********************************
西安高兴网络科技有限公司
#
***********************************
陕西同兴网络信息有限责任公司西安分公司
#
***********************************


最后使用一个Baidu新闻来测试我们的代码：说明我们的代码是通用的。


[java] view plaincopyprint?


    

  1. /**
    2. 

  2. * 使用百度新闻，只设置url和关键字与返回类型
    3. 

  3. */
    4. 

  4. @org.junit.Test
    5. 

  5. public void getDatasByCssQueryUserBaidu()
    6. 

  6. {
    7. 

  7. Rule rule = new Rule("http://news.baidu.com/ns",
    8. 

  8. new String[] { "word" }, new String[] { "支付宝" },
    9. 

  9. null, -1, Rule.GET);
    10. 

  10. List<LinkTypeData> extracts = ExtractService.extract(rule);
    11. 

  11. printf(extracts);
    12. 

  12. }
    13. 




         /**
	 * 使用百度新闻，只设置url和关键字与返回类型
	 */
	@org.junit.Test
	public void getDatasByCssQueryUserBaidu()
	{
		Rule rule = new Rule("http://news.baidu.com/ns",
				new String[] { "word" }, new String[] { "支付宝" },
				null, -1, Rule.GET);
		List<LinkTypeData> extracts = ExtractService.extract(rule);
		printf(extracts);
	}


我们只设置了链接、关键字、和请求类型，不设置具体的筛选条件。


结果：有一定的垃圾数据是肯定的，但是需要的数据肯定也抓取出来了。我们可以设置Rule.SECTION,以及筛选条件进一步的限制。


[html] view plaincopyprint?


    

  1. 按时间排序
    2. 

  2. /ns?word=支付宝&ie=utf-8&bs=支付宝&sr=0&cl=2&rn=20&tn=news&ct=0&clk=sortbytime
    3. 

  3. ***********************************
    4. 

  4. x
    5. 

  5. javascript:void(0)
    6. 

  6. ***********************************
    7. 

  7. 支付宝将联合多方共建安全基金 首批投入4000万
    8. 

  8. http://finance.ifeng.com/a/20140409/12081871_0.shtml
    9. 

  9. ***********************************
    10. 

  10. 7条相同新闻
    11. 

  11. /ns?word=%E6%94%AF%E4%BB%98%E5%AE%9D+cont:2465146414%7C697779368%7C3832159921&same=7&cl=1&tn=news&rn=30&fm=sd
    12. 

  12. ***********************************
    13. 

  13. 百度快照
    14. 

  14. http://cache.baidu.com/c?m=9d78d513d9d437ab4f9e91697d1cc0161d4381132ba7d3020cd0870fd33a541b0120a1ac26510d19879e20345dfe1e4bea876d26605f75a09bbfd91782a6c1352f8a2432721a844a0fd019adc1452fc423875d9dad0ee7cdb168d5f18c&p=c96ec64ad48b2def49bd9b780b64&newp=c4769a4790934ea95ea28e281c4092695912c10e3dd796&user=baidu&fm=sc&query=%D6%A7%B8%B6%B1%A6&qid=a400f3660007a6c5&p1=1
    15. 

  15. ***********************************
    16. 

  16. OpenSSL漏洞涉及众多网站 支付宝称暂无数据泄露
    17. 

  17. http://tech.ifeng.com/internet/detail_2014_04/09/35590390_0.shtml
    18. 

  18. ***********************************
    19. 

  19. 26条相同新闻
    20. 

  20. /ns?word=%E6%94%AF%E4%BB%98%E5%AE%9D+cont:3869124100&same=26&cl=1&tn=news&rn=30&fm=sd
    21. 

  21. ***********************************
    22. 

  22. 百度快照
    23. 

  23. http://cache.baidu.com/c?m=9f65cb4a8c8507ed4fece7631050803743438014678387492ac3933fc239045c1c3aa5ec677e4742ce932b2152f4174bed843670340537b0efca8e57dfb08f29288f2c367117845615a71bb8cb31649b66cf04fdea44a7ecff25e5aac5a0da4323c044757e97f1fb4d7017dd1cf4&p=8b2a970d95df11a05aa4c32013&newp=9e39c64ad4dd50fa40bd9b7c5253d8304503c52251d5ce042acc&user=baidu&fm=sc&query=%D6%A7%B8%B6%B1%A6&qid=a400f3660007a6c5&p1=2
    24. 

  24. ***********************************
    25. 

  25. 雅虎日本6月起开始支持支付宝付款
    26. 

  26. http://www.techweb.com.cn/ucweb/news/id/2025843
    27. 

  27. ***********************************
    28. 




按时间排序
/ns?word=支付宝&ie=utf-8&bs=支付宝&sr=0&cl=2&rn=20&tn=news&ct=0&clk=sortbytime
***********************************
x
javascript:void(0)
***********************************
支付宝将联合多方共建安全基金 首批投入4000万
http://finance.ifeng.com/a/20140409/12081871_0.shtml
***********************************
7条相同新闻
/ns?word=%E6%94%AF%E4%BB%98%E5%AE%9D+cont:2465146414%7C697779368%7C3832159921&same=7&cl=1&tn=news&rn=30&fm=sd
***********************************
百度快照
http://cache.baidu.com/c?m=9d78d513d9d437ab4f9e91697d1cc0161d4381132ba7d3020cd0870fd33a541b0120a1ac26510d19879e20345dfe1e4bea876d26605f75a09bbfd91782a6c1352f8a2432721a844a0fd019adc1452fc423875d9dad0ee7cdb168d5f18c&p=c96ec64ad48b2def49bd9b780b64&newp=c4769a4790934ea95ea28e281c4092695912c10e3dd796&user=baidu&fm=sc&query=%D6%A7%B8%B6%B1%A6&qid=a400f3660007a6c5&p1=1
***********************************
OpenSSL漏洞涉及众多网站 支付宝称暂无数据泄露
http://tech.ifeng.com/internet/detail_2014_04/09/35590390_0.shtml
***********************************
26条相同新闻
/ns?word=%E6%94%AF%E4%BB%98%E5%AE%9D+cont:3869124100&same=26&cl=1&tn=news&rn=30&fm=sd
***********************************
百度快照
http://cache.baidu.com/c?m=9f65cb4a8c8507ed4fece7631050803743438014678387492ac3933fc239045c1c3aa5ec677e4742ce932b2152f4174bed843670340537b0efca8e57dfb08f29288f2c367117845615a71bb8cb31649b66cf04fdea44a7ecff25e5aac5a0da4323c044757e97f1fb4d7017dd1cf4&p=8b2a970d95df11a05aa4c32013&newp=9e39c64ad4dd50fa40bd9b7c5253d8304503c52251d5ce042acc&user=baidu&fm=sc&query=%D6%A7%B8%B6%B1%A6&qid=a400f3660007a6c5&p1=2
***********************************
雅虎日本6月起开始支持支付宝付款
http://www.techweb.com.cn/ucweb/news/id/2025843
***********************************


如果有什么不足，可以指出；如果觉得对你有用，顶一下~~哈哈


源码下载，点击这里。
				


				
时间： 2024-10-25 11:15:05 

		


		


	

	
	

		


		
（转）Java爬虫，信息抓取的实现的相关文章


						

		

			

                教您使用java爬虫gecco抓取JD全部商品信息
			

		

		

									

				gecco爬虫 如果对gecco还没有了解可以参看一下gecco的github首页.gecco爬虫十分的简单易用,JD全部商品信息的抓取9个类就能搞定. JD网站的分析 要抓取JD网站的全部商品信息,我们要先分析一下网站,京东网站可以大体分为三级,首页上通过分类跳转到商品列表页,商品列表页对每个商品有详情页.那么我们通过找到所有分类就能逐个分类抓取商品信息. 入口地址 http://www.jd.com/allSort.aspx,这个地址是JD全部商品的分类列表,我们以该页面作为开始页面,抓取J			

		

	

				

		

			

                Java广度优先爬虫示例(抓取复旦新闻信息)
			

		

		

									

				一.使用的技术 这个爬虫是近半个月前学习爬虫技术的一个小例子,比较简单,怕时间久了会忘,这里简单总结一下.主要用到的外部Jar包有HttpClient4.3.4,HtmlParser2.1,使用的开发工具(IDE)为intelij 13.1,Jar包管理工具为Maven,不习惯用intelij的同学,也可以使用eclipse新建一个项目. 二.爬虫基本知识 1.什么是网络爬虫?(爬虫的基本原理) 网络爬虫,拆开来讲,网络即指互联网,互联网就像一个蜘蛛网一样,爬虫就像是蜘蛛一样可以到处爬来爬去,把			

		

	

				

		

			

                【JAVA系列】Google爬虫如何抓取JavaScript的？
			

		

		

									

				公众号:SAP Technical 本文作者:matinal 原文出处:http://www.cnblogs.com/SAPmatinal/ 原文链接:[JAVA系列]Google爬虫如何抓取JavaScript的? 前言部分 大家可以关注我的公众号,公众号里的排版更好,阅读更舒适. 正文部分 我们测试了谷歌爬虫是如何抓取 JavaScript,下面就是我们从中学习到的知识. 认为 Google 不能处理 JavaScript ?再想想吧.Audette Audette 分享了一系列测试结果,他			

		

	

				

		

			

                Python爬虫实战---抓取图书馆借阅信息
			

		

		

									

				原创作品,引用请表明出处:Python爬虫实战---抓取图书馆借阅信息 前段时间在图书馆借了很多书,借得多了就容易忘记每本书的应还日期,老是担心自己会违约,影响日后借书,而自己又懒得总是登录到学校图书馆借阅系统查看,于是就打算写一个爬虫来抓取自己的借阅信息,把每本书的应还日期给爬下来,并写入txt文件,这样每次忘了就可以打开该txt文件查看,每次借阅信息改变了,只要再重新运行一遍该程序,原txt文件就会被新文件覆盖,里面的内容得到更新. 用到的技术: Python版本是 2.7 ,同时用到了ur			

		

	

				

		

			

                (插播)网络爬虫，抓取你想要得东西。
			

		

		

									

				最近,有个朋友说,想在一些页面上获取一些关键性得信息.比如,电话,地址等等.一个个页面去找 又很麻烦.这时候,想起了 何不去用"爬虫"去抓取一些想要得东西.省事,省里.好,今天 我们就讲讲,关于爬虫得一些东西. 这里 自己也是,看了一些关于爬虫得知识,正好,这几日闲来没事.做了一个功能小得爬虫. 这里是使用 java来进行编写得  首先 我们来介绍下.使用得框架,jdk1.6,htmlparser.jar(java 经典访问html页面得类),httpclient-3.01.jar,l			

		

	

				

		

			

                网易新闻页面信息抓取 -- htmlagilitypack搭配scrapysharp
			

		

		

									

				最近在弄网页爬虫这方面的,上网看到关于htmlagilitypack搭配scrapysharp的文章,于是决定试一试~ 于是到https://www.nuget.org/packages/ScrapySharp去看看, 看到这句下载提示:To install ScrapySharp, run the following command in the Package Manager Console PM> Install-Package ScrapySharp 接下去我就去找package man			

		

	

				

		

			

                Atitit.web的自动化操作与信息抓取&#160;attilax总结
			

		

		

									

				Atitit.web的自动化操作与信息抓取 attilax总结 1. Web操作自动化工具,可以简单的划分为2大派系: 1.录制回放 2.手工编写0 U' z; D! s2 d/ Q! ^1 2. 常用的软件1 2.1. swt (ie com)  ,nativeswing2 2.2. 基于 selenium2 2.3. Imacro for firefox插件2 2.4. Zenno Poster2 2.5. Ubot在Zenno Poster出来以前应该是最火爆的Web自动化工具(BHW最常			

		

	

				

		

			

                Java写的抓取任意网页中email地址的小程序
			

		

		

									

				/* * 从网页中抓取邮箱地址 * 正则表达式:java.util.regex.Pattern * 1.定义好邮箱的正则表达式 * 2.对正则表达式预编译 * 3.对正则和网页中的邮箱格式进行匹配 * 4.找到匹配结果 * 5.通过网络程序,打通机器和互联网的一个网站的连接 */ import java.net.*; import java.util.regex.*; import java.io.*; public class EmailAddressFetch { public static			

		

	

				

		

			

                java 网页页面抓取标题和正文
			

		

		

									

				import java.io.BufferedReader; import java.io.IOException; import java.io.InputStreamReader; import java.net.MalformedURLException; import java.net.URL; import java.util.ArrayList; import java.util.HashMap; import java.util.List; import java.util.reg			

		

	

				

		

			

                java中用jsoup抓取网页源码，并批量下载图片
			

		

		

									

				一.导入jsoup的核心jar包jsoup-xxx.jar jar包下载地址:jsoup-1.8.2.jar 中文API地址:http://www.open-open.com/jsoup/parsing-a-document.htm 二.java中用jsoup抓取网页源码,并批量下载图片 package com.dgh.test; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; i