WebMagic是 官一款可以扶植您创建网页爬虫工具的代码编辑软件，通过本软件，新版您可以在设计网页抓取工具的 官时候得到更方面的代码设计筹备，对于网页信息捕捉来会谈 ，新版使用爬虫工具抓取是 官最方便的 ，但是新版其设计的代码非常艰辛 ，不是 官专业人士很难在短时间内落成设计 ，针对这个尴尬 ，新版小编推荐您使用WebMagic软件， 官他已经内置了一个爬虫编辑计划，新版所有的 官源代码都已经设计好了 ，你只需要将这个代码框架发送到开发软件上
，新版就可以快速建立一个网页爬虫程序 ！ 官

软件功能

　　1 、新版WebMagic是 官一个网页爬虫代码
 ，可以扶植您抓取网页的信息

　　2、您可以将这个代码加载到文本应用程序中 ，这样就可以设计网页信息抓取的软件了

　　3、该软件基于Java开发，主要的目的就是让您可以在设计web抓取工具的时候晋升代码编辑速度

　　4、通过WebMagic，您可以裁减繁杂代码的编辑 ，优化web信息得到的方式

　　5、提供多个代码编辑模块 ，您可以在软件上选择对应对方模块加载到开发环境中使用

　　6 、灵活性强大，所有发的模块都可以自己编辑，也就是，您可以选择合适自己使用的模块编辑

　　7 、软件提供多个编辑方式 ，内置扩展模块的编辑 ，方便您自己定制爬虫的编写方式

　　8 、内置webmagic-extension 、webmagic-saxon数据包，主要用于调试爬虫的脚本

软件特色

　　1 实现PageProcessor

　　2 使用Selectable抽取元素

　　3 使用Pipeline保存结果

　　4 爬虫的配置 、打开和终止

　　5 Jsoup与Xsoup

　　6 爬虫的监控

　　7 配置代理

　　8 筹备非HTTP GET请求

使用计划

　　我们这里抽取一个github项目的名称 、作家和简介三个信息，所以我们定义了一个Model类  。

　　在这个例子中，区分方式很简易，因为列表页和目标页在URL格式上是不同的 ，所以直接用URL区分就可以了！

　　一般情况下，Formatter会根据字段类型铺开转换
，但是特殊情况下 ，我们会需要手动指定类型。这主要裸露在字段是List类型的时候 。

　　WebMagic的监控使用JMX提供控制 ，你可以使用任何拥穿着JMX的客户端来铺开接合。我们这里以JDK自带的JConsole为例。我们首先打开WebMagic的一个Spider，并增补监控代码。然后我们通过JConsole来铺开查校验。

　　这里我们也可以选择“操作” ，在操作里可以选择打开-start()和终止爬虫-stop()
，这会直接调用对应Spider的start()和stop()计划 ，来达到基本控制的目的。

　　编译和执行源码

　　导入大捷之后 ，应该就没有编译错误了 ！此时你可以运行一下webmagic-core项目中自带的

更新日志

　　通过 Page.isDownloadSuccess 而不是 Page 对象本身为空来判断是否下载出局

　　为 PageModel 增补不发现新 URL 的功能 #575

　　为 Site 增补了 disableCookieManagement 属性，在不想使用 cookie 时使用 #577

　　WebMagic 0.5.3 版本发布，Java 爬虫框架

　　WebMagic 0.6.0 版本发布 ，Java 爬虫框架

　　WebMagic 0.6.1 版本发布，Java 爬虫框架

　　WebMagic 0.7.0 版本发布
，Java 爬虫框架