• Python网络爬虫7 – 使用cookie

    很多时候,我们要查看的内容必须要先登录才能找到,比如知乎的回答,QQ空间的好友列表、微博上关注的人和粉丝等。要使用爬虫直接登录抓取这些信息时,有一个不太好解决的难题,就是这些网站设置的登录规则以及登录

    [阅读更多...]
  • HttpClient多线程并发

    说明:以下的代码基于httpclient4.5.2实现。 我们要使用java的HttpClient实现get请求抓取网页是一件比较容易实现的工作: 要多线程执行get请求时上面的方法也堪用。不过这种多

    [阅读更多...]
  • Java Fork/Join

    Fork/Join框架是ExecutorService接口的一个实现,通过它我们可以实现多进程。Fork/Join可以用来将一个大任务递归的拆分为多个小任务,目标是充分利用所有的资源尽可能增强应用的性

    [阅读更多...]
  • Python网络爬虫6 – 网页编码

    在抓取网页时遇到了一段报错信息: 抓取网页的代码及网址如下: 在错误信息中提示了网页的编码不是utf-8。那么如何确认网页的编码形式呢?有如下几种方式: 从网页源码中查找chaset信息; 使用Fir

    [阅读更多...]
  • Python网络爬虫5 – 图片抓取

    这一节看下如何抓取网页中的图片。目标网址是:http://pp.163.com/longer-yowoo/pp/10069141.html。这里有一组我非常喜欢的图片。 要抓取网页首先就要找出图片的网

    [阅读更多...]
  • Python网络爬虫4 – 多线程抓取

    之前的内容已经大致实现了如何获取网页、分析网页、获取目标内容。接下来的目标是如何让网页抓取进行得更效率些。在进行抓取的时候,时间的消耗主要是在请求等待的时间上,所以一个最容易想到的优化方式就是使用多线

    [阅读更多...]
  • lambda表达式3 – 方法引用

    一个实例 使用lambda表达式可以创建简洁的匿名方法。不过,有时候lambda表达式只是简单的调用了已有的方法。此时,使用方法引用无疑是一个更简洁易读的方案。 再来看看之前使用过的Person类:

    [阅读更多...]
  • intellij idea git ignore

    使用intellij idea时想将一个文件或目录排除在版本控制外,却找不到add to ignore选项。在使用git时,可以直接编辑.ignore文件,但是还是觉得有些不方便。所以安装一个插件好了

    [阅读更多...]
  • 关于https的一个错误

    前两天我维护的服务出了一个问题,在请求一个连接时发生了Exception: 异常大致说的是在进行https请求时,验证证书出了问题。 服务基于JDK1.6,使用httpclient(版本是4.5.1)

    [阅读更多...]
  • Python网络爬虫3 – 使用BeautifulSoup解析网页

    在第一节演示过如何使用正则表达式截取网页内容。不过html是比正则表达式更高一级的语言,仅仅使用正则表达式来获取内容还是有些困难的。 这次会使用一个新的工具:python的BeautifulSoup库

    [阅读更多...]
第 4 页,共 8 页« 最新...23456...最旧 »