自动关键词&摘要

来源:百度文库 编辑:神马文学网 时间:2024/05/04 01:32:26

自动抽取文章关键词生成摘要
  对任何一篇文章都能快速生成准确的文章关键词和摘要,其有效性可以与人工比肩。如果您现在是靠大量的人工在做这关键词标注和摘要编写的话,这个服务可以为您节省大量的成本,而且效率更高! 原理 自动关键词提取又称自动标引,50年前就有人研究了。目前比较实用的方法是甚于TF*IDF模型,具体的实现方式有很多种,但基本思想是一致的,如果一个词在一篇文章中经常出现,但在其它文章中不常出现,那么这个词就可能就是这篇文章的关键词。这很好理解。

自动关键词提取的效果据一般报道是80%左右(1,2),这不是指自动提取的关键词与人工标注的结果有80%的重合(如果提取5个关键词时,重合的一般只有1个),而是指人工判断自动关键词提取的结果时,认为其中80%是可以接受的。  技术介绍主要步骤主要可以分为如下三个步骤:

1,通过分词算法将标题和内容分别进行分割,提取出关键词和频度在内容的分词阶段,当前主要的两个算法是中科院的ICTCLAS和隐马尔可夫模型。但这两个都太高端,有一定的门槛,且都是只支持C++/JAVA。基于PHP的当前有两个是值得推荐的PSCWS和HTTPCWS。 SCWS于2008-03-08发布1.0.0 正式版,到现在最新版本已经到了1.0.4。PSCWS是它的PHP版。而HTTPCWS是张宴开发的,之前叫PHPCWS。PHPCWS 先使用“ICTCLAS 3.0 共享版中文分词算法”的API进行初次分词处理,再使用自行编写的“逆向最大匹配算法”对分词和进行词语合并处理,并增加标点符号过滤功能,得出分词结果。目前仅支持Linux/Unix系统。

2,将提取结果与现有词库进行比较,得到最符合规则的关键词这里主要就是要看词库了,我们可以自己定义词库,也可以使用现有的成熟词库。

3,然后将这两套关键词进行比较,得到最符合当前内容的关键词在这个阶段就是具体情况具体分析了。当前PHP类CMS都自有自己的提取关键词系统。其中在网络上流传最广的是DEDECMS的分词源码,我也在我的POPCMS上作过测试,效果很不错,不过类似“我们”等无意义的词提取并被列为关键词的频率太高,甚至有时候还会把空格的HTML提出来做为关键词,亟待改进。不过如果作为辅助功能,它已经很好了。另外PHPCMS和DISCUZ的自动提取关键词功能也很强大。
  1、分词算法:分词就是把一句完整的话分成几个词2、关键词:我的方法是……(比较烂,但是通常有效),找出这句话中长度最长的词作为关键词。没有为什么,因为这样速度会快些。3、分词库  整句匹配语料库:select * from reply where `key` = ‘"+sentense+"‘ order by rand() limit 1