网页正文抽取算法 ContentExtractor

码农软件 · 软件分类 · 其他开发相关 · 2019-10-21 19:14:16

软件介绍

简介

ContentExtractor 是一个开源的网页正文抽取工具,用JAVA实现,具有非常高的抽取精度。


算法

ContentExtractor的网页正文抽取算法使用的是CEPR,适用于几乎所有的包含正文的网页。 算法简介:http://dl.acm.org/citation.cfm?id=2505558


项目地址转移

项目已和WebCollector合并,当前项目为老版本ContentExtractor,请前往WebCollector项目查看ContentExtractor的最新版本源码和API。


教程(只适用于老版本,新版本请前往WebCollector)

ContentExtractor的接口非常简单,用户可以根据网页的url,或者网页的html,来进行网页正文抽取:

根据url,抽取网页的正文:

public static void main(String[] args) throws Exception {
        String content=ContentExtractor.getContentByURL("http://news.
            xinhuanet.com/world/2014-11/02/c_127166728.htm");
        System.out.println(content);
}

根据html,抽取网页的正文:

public static void main(String[] args) throws Exception {
        String html="获取到的html源码";
        String content=ContentExtractor.getContentByHtml(html);
        System.out.println(content);
}


导入项目(只适用于老版本,新版本请前往WebCollector)

从ContentExtractor的github主页https://github.com/hfut-dmic/ContentExtractor上下载ContentExtractor-{版本号}-bin.zip,将解压后得到的jar包全部放到工程的build path即可。


ContentExtractor由合肥工业大学dmic团队开发

Git@OSC:http://git.oschina.net/webcollector/ContentExtractor

本文地址:https://www.codercto.com/soft/d/17265.html

Web程序设计

Web程序设计

(美)塞巴斯塔 / 王春智、刘伟梅 / 清华大学出版社 / 2011-1 / 69.00元

《Web程序设计(第6版)》浓墨重彩地描述客户端和服务器端Web开发技术,深入分析Web站点构造和维护工具,并透彻讲解主流Web编程语言。《Web程序设计(第6版)》对上一版内容做了全面细致的修改,并融入了NetBeans 6.7、Visual Studio 8和ASP.NET Web服务等最新技术。《Web程序设计(第6版)》既可以作为高校教材,也可供专业Web编程人员参考使用。一起来看看 《Web程序设计》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

URL 编码/解码
URL 编码/解码

URL 编码/解码