可扩展的网页关键信息抽取探究论文.docx

可扩展的网页关键信息抽取探究论文可扩展的网页关键信息抽取探究论文1引言网页的关键信息是网页的最基本的信息，它体现了该网页和其他网页的差别。常见的关键信息有正文、作者、来源、发布时间等。在网络舆情监控、网络情报分析、搜索引擎等重大网络应用中，这些关键信息都是后期分析挖掘必不可少的基础数据。需要利用网络信息抽取技术从网页中抽取出这些关键信息。从某种角度上讲，关键信息的抽取质量直接决定了网络应用服务的效果。因此，网页的关键信息抽取研究具有重大的应用价值。随着网页规模呈指数级增长，在网络应用中，模板无关的全自动信息抽取算法和基于模板的信息抽取算法以其特有的优势成为信息抽取环节的主流算法。该算法通常针对特定需求，利用一些经验规则处理特定领域或特定格式的网页。因为抽取过程无需人工干预，所以此类算法越来越多地应用于实际网络环境中。基于模板的信息抽取算法充分利用了动态网页的规律：网页是由同一个模板生成的，属于模板的符号不会变化，变化的只是模板中填充的数据。因此，该算法在对动态网页进行抽取时能够取得较高的精度。但是，这两类抽取算法也存在着其固有的缺陷。模板无关的全自动抽取算法通常基于过强的假设。在处理多样性日益显著的网页时，常常因为某些网页不符合假设，而导致出现抽取精度不能满足需求的情况;并且由于使用过多规则，导致抽取效率低的情况。使用基于模板的信息抽取算法进行抽取时，需先针对某类网页学习出模板，后人工标注。面对日益增多的数据源，会导致网络应用的运维代价过大;同时日益复杂的网页使得模板的准确性下降，从而导致抽取精度下降。针对上述模板无关的全自动信息抽取算法和基于模板的信息抽取算法的缺陷，本文进行了深入研究。本文的贡献主要有以下两点。首先，提出了一种可扩展的网页关键信息抽取框架。该框架通过输入训练网页或其他算法的抽取结果，生成关键信息模板集。再通过模板的正交过滤算法，生成候选的关键信息模板。最后通过模板的特征过滤算法，生成最终的关键信息模板。利用该模板可快速、准确地从同类型网页中抽取关键信息。该框架很好地融合了模板无关的全自动信息抽取算法和基于模板的信息抽取算法，使得两类算法能够充分发挥各自的优点，并在缺点方面互相弥补。实验结果表明，该框架能够在抽取精度、抽取效率方面有本质上的提高。此外，该框架具有很好的可扩展性，框架中的一些关键环节可根据需求进行替换。其次，本文提出了模板的正交过滤算法，该算法将训练网页或其他算法的抽取结果分成若干份，生成若干个模板，再通过模板的正交过滤算法，过滤掉模板中的噪音部分，得到候选模板。将该算法引入基于模板的抽取算法中，能够从本质上提高生成的模板的准确性，最后的实验结果也充分验证了这一结论。本文的组织结构如下：第1节介绍了本文提出的可扩展的网页关键信息抽取框架的背景及意义，并简单介绍该框架及核心算法。第2节介绍主要的相关工作。第3节详细介绍可扩展的网页关键信息抽取框架，重点介绍框架中的关键技术点。第4节介绍实验与结果分析。第5节对本文工作进行总结，并介绍未来工作。2相关工作网页信息抽取是一种针对网络数据源和网页进行深度处理和加工的过程。由于网页的复杂性和多样性，使得网页信息抽取算法也越来越多。常见的网页信息抽取算法主要可分为4类：包装器语言、包装器归纳、基于模板的信息抽取和模板无关的全自动信息抽取。由于包装器语言和包装器归纳都需要过多的人工干预，所以在实际的工程应用中，基于模板的信息抽取算法和模板无关的全自动信息抽取算法以其较强的实用性占据了主流的位置。基于模板的信息抽取通常基于这样的假设：待抽取的网页是由同一个模板生成的，属于模板的符号不会变化，变化的只是模板中填充的数据。符合这种生成模型的网页都可以利用网页模板分析方法来抽取。互联网上大量存在的动态网页是由机器生成的(例如论坛)网页。基于模板的信息抽取的工作流程是：1)利用多个同类型网页中具有共性的不变的部分生成一个模板;2)根据模板对同类型网页进行抽取。因为此类算法过滤了网页中的大量模板，只留下了数据，同时自动还原出了数据的结构，使得用户在付出较小人工代价的同时，能够获得较为准确的关键信息。因此此类算法一直都是网络应用中的主流算法。但是该类算法具有这样的缺陷：首先需要针对同类型的网页生成一个模板。模板的准确性直接决定了后续信息抽取的精确度。随着网页复杂性以及同一类型网页的差异性的增大，生成的模板准确性随之降低。模板无关的全自动信息抽取算法进一步提高了信息抽取的自动化程度。此类算法通常利用一些经验规则处理特定领域或特定格式的网页，例如，经典的全自动信息抽取算法MDR。该算法的缺陷在于通常基于过强的假设。以网页正文抽取为例。网页的正文往往是各大网络应用都需要的关键信息，有不少针对正文抽取的模板无关的全自动抽取算法。CoreEx是通过计算DOM树中的链接文本比来确定正文