用lucene.net根据关键字检索本地word文档

目前在做一个winform小软件,其中有一个功能是能根据关键字检索本地保存的word文档。第一次是用com读取word方式(见上一篇文章),先遍历文件夹下的word文档,读取每个文档时循环关键字查找,结果可想而知效率很慢。检索结果是一条接一条显示出来的o(>_<)o
~~。连菜鸟级别的自己看到这效率都觉得很无语。然后想到计算机的本地搜索及google,百度搜索引擎,它们能做到在海量文件中快速搜到匹配某些关键字的文件,应该是运用其它比较先进成熟的技术来实现。于是上网搜了好多资料,发现有一种叫lucene的全文搜索引擎架构。连忙下了一些demo及源码来学,但对于在编程方面还是菜鸟级别的人来说,这些很高深!呼(~
o ~)~zZ……赶鸭子上架,还是硬着头皮慢慢弄了。。。

大致了解了下,我是用C#的,所以要用lucene.net框架,还需要有分词器,lucene.net可以在nuget组件管理中搜到,直接下载到项目中,分词器nuget上也可以搜到。。大概的思路是:遍历文件夹,读取文档内容,进行分词、建索引……

代码:

一、声明索引文件位置,名称,分词器


1 string filesDirectory = System.IO.Path.Combine(AppDomain.CurrentDomain.BaseDirectory, "Files");
2 static string indexDirectory = System.IO.Path.Combine(AppDomain.CurrentDomain.BaseDirectory, "Index");
3 // Analyzer analyzer = new Lucene.Net.Analysis.Cn.ChineseAnalyzer();
4 static Analyzer analyzer = new Lucene.Net.Analysis.Standard.StandardAnalyzer(Lucene.Net.Util.Version.LUCENE_30);//用standardAnalyzer分词器

StandardAnalyzer分词器与ChineseAnalyzer分词器的区别:

对“123木头人”这句话进行分词,StandardAnalyzer的分词结果:1 2 3 木 头 人;ChineseAnalyzer的分词结果:木 头
人,把数字过滤了。

二、遍历文件夹及文件,创建索引


  1         /// <summary>
2 /// 创建索引按钮事件
3 /// </summary>
4 private void btnSetIndex_Click(object sender, EventArgs e)
5 {
6 this.folderBrowserDialog1.ShowDialog();
7 string rootPath = this.folderBrowserDialog1.SelectedPath;
8 if(rootPath!="")
9 {
10 GetAllFiles(rootPath);
11 MessageBox.Show("创建索引完成!");
12 }
13 }
14
15 /// <summary>
16 /// 获取指定根目录下的子目录及其文档
17 /// </summary>
18 /// <param name="rootPath">检索的文档根目录</param>
19 private void GetAllFiles(string rootPath)
20 {
21 List<FileInfo> files = new List<FileInfo>(); //声明一个files包,用来存储遍历出的word文档
22 if (!System.IO.Directory.Exists(rootPath))
23 {
24 MessageBox.Show("指定的目录不存在");
25 return;
26 }
27 GetAllFiles(rootPath, files);
28 CreateIndex(files); //创建索引方法
29 }
30
31 /// <summary>
32 /// 获取指定根目录下的子目录及其文档
33 /// </summary>
34 /// <param name="rootPath">根目录路径</param>
35 /// <param name="files">word文档存储包</param>
36 private void GetAllFiles(string rootPath,List<FileInfo>files)
37 {
38 DirectoryInfo dir = new DirectoryInfo(rootPath);
39 string[] dirs = System.IO.Directory.GetDirectories(rootPath);//得到所有子目录
40 foreach (string di in dirs)
41 {
42 GetAllFiles(di,files); //递归调用
43 }
44 FileInfo[] file = dir.GetFiles("*.doc"); //查找word文件
45 //遍历每个word文档
46 foreach (FileInfo fi in file)
47 {
48 string filename = fi.Name;
49 string filePath = fi.FullName;
50 object filepath = filePath;
51 files.Add(fi);
52 }
53 }
54
55
56 /// <summary>
57 /// 创建索引
58 /// </summary>
59 /// <param name="files">获得的文档包</param>
60 private void CreateIndex(List<FileInfo> files)
61 {
62 bool isCreate = false;
63 //判断是创建索引还是增量索引
64 if (!System.IO.Directory.Exists(indexDirectory))
65 {
66 isCreate = true;
67 }
68 IndexWriter writer = new IndexWriter(FSDirectory.Open(indexDirectory),analyzer,isCreate,IndexWriter.MaxFieldLength.UNLIMITED); //FSDirectory表示索引存放在硬盘上,RAMDirectory表示放在内存上
69 for (int i = 0; i < files.Count(); i++)
70 {
71 //读取word文档内容
72 Microsoft.Office.Interop.Word.ApplicationClass wordapp = new Microsoft.Office.Interop.Word.ApplicationClass();
73 string filename = files[i].Name;
74 object file = files[i].DirectoryName + "\\" + filename;
75 object isreadonly = true;
76 object nullobj = System.Reflection.Missing.Value;
77 Microsoft.Office.Interop.Word._Document doct = wordapp.Documents.Open(ref file, ref nullobj, ref isreadonly, ref nullobj, ref nullobj, ref nullobj,
ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj, ref nullobj);
78 //doct.ActiveWindow.Selection.WholeStory();
79 //doct.ActiveWindow.Selection.Copy();
80 //IDataObject data = Clipboard.GetDataObject();
81 ////读出的内容赋给content变量
82 //string content = data.GetData(DataFormats.Text).ToString();
83 string content = doct.Content.Text;
84 FileInfo fi = new FileInfo(file.ToString());
85 string createTime = fi.CreationTime.ToString();
86 string filemark = files[i].DirectoryName + createTime;
87 //关闭word
88 object missingValue = Type.Missing;
89 object miss = System.Reflection.Missing.Value;
90 object saveChanges = WdSaveOptions.wdDoNotSaveChanges;
91 doct.Close(ref saveChanges, ref missingValue, ref missingValue);
92 wordapp.Quit(ref saveChanges, ref miss, ref miss);
93 // StreamReader reader = new StreamReader(fileInfo.FullName);读取txt文件的方法,如读word会出现乱码,不适用于word的读取
94 Lucene.Net.Documents.Document doc = new Lucene.Net.Documents.Document();
95
96 writer.DeleteDocuments(new Term("filemark", filemark)); //当索引文件中含有与filemark相等的field值时,会先删除再添加,以防出现重复
97 doc.Add(new Lucene.Net.Documents.Field("filemark", filemark, Lucene.Net.Documents.Field.Store.YES, Lucene.Net.Documents.Field.Index.NOT_ANALYZED)); //不分词建索引
98 doc.Add(new Lucene.Net.Documents.Field("FileName", filename, Lucene.Net.Documents.Field.Store.YES, Lucene.Net.Documents.Field.Index.ANALYZED)); //ANALYZED分词建索引
99 doc.Add(new Lucene.Net.Documents.Field("Content", content, Lucene.Net.Documents.Field.Store.NO, Lucene.Net.Documents.Field.Index.ANALYZED));
100 doc.Add(new Lucene.Net.Documents.Field("Path", file.ToString(), Lucene.Net.Documents.Field.Store.YES, Lucene.Net.Documents.Field.Index.ANALYZED));
101 writer.AddDocument(doc);
102 writer.Optimize();//优化索引
103 }
104 writer.Dispose();
105 }

三、根据关键字检索


 1         /// <summary>
2 /// 检索关键字
3 /// </summary>
4 /// <param name="strKey">关键字包</param>
5 private void SearchKey(List<string> strKey)
6 {
7 int num = 10;
8 if (strKey.Count != 0)
9 {
10 IndexReader reader = null;
11 IndexSearcher searcher = null;
12 try
13 {
14 if (!System.IO.Directory.Exists(indexDirectory))
15 {
16 MessageBox.Show("首次使用该软件检索 必须先创建索引!"+ "\r\n"+"请点击右边【创建索引】按钮,选择要检索的文件夹进行创建索引。");
17 return;
18 }
19 reader = IndexReader.Open(FSDirectory.Open(new DirectoryInfo(indexDirectory)), false);
20 searcher = new IndexSearcher(reader);
21
22 //创建查询
23 PerFieldAnalyzerWrapper wrapper = new PerFieldAnalyzerWrapper(analyzer);
24 wrapper.AddAnalyzer("FileName", analyzer);
25 wrapper.AddAnalyzer("Content", analyzer);
26 wrapper.AddAnalyzer("Path", analyzer);
27 string[] fields = { "FileName", "Content", "Path" };
28 QueryParser parser = new MultiFieldQueryParser(Lucene.Net.Util.Version.LUCENE_30, fields, wrapper);
29 BooleanQuery Bquery = new BooleanQuery();
30 for (int i = 0; i < strKey.Count; i++)
31 {
32 Query query = parser.Parse(strKey[i]);
33 Bquery.Add(query, Occur.MUST);
34 }
35
36 TopScoreDocCollector collector = TopScoreDocCollector.Create(num, true);
37 searcher.Search(Bquery, collector);
38 var hits = collector.TopDocs().ScoreDocs;
39 //以后就可以对获取到的collector数据进行操作
40 int resultNum = 0; //计算检索结果数量
41 for (int i = 0; i < hits.Count(); i++)
42 {
43 var hit = hits[i];
44 Lucene.Net.Documents.Document doc = searcher.Doc(hit.Doc);
45 Lucene.Net.Documents.Field fileNameField = doc.GetField("FileName");
46 Lucene.Net.Documents.Field contentField = doc.GetField("Content");
47 Lucene.Net.Documents.Field pathField = doc.GetField("Path");
48 if (!System.IO.File.Exists(pathField.StringValue)) //判断本地是否存在该文件,存在则在检索结果栏里显示出来
49 {
50 int docId = hit.Doc; //该文件的在索引里的文档号,Doc是该文档进入索引时Lucene的编号,默认按照顺序编的
51 reader.DeleteDocument(docId);//删除该索引
52 reader.Commit();
53 continue;
54 }
55 dtBGMC.Rows.Add(fileNameField.StringValue, pathField.StringValue);
56 resultNum++;
57 }
58 MessageBox.Show("检索完成!共检索到" +resultNum+ "个符合条件的结果!", "success!");
59 }
60 finally
61 {
62 if (searcher != null)
63 searcher.Dispose();
64
65 if (reader != null)
66 reader.Dispose();
67 }
68 }
69 else
70 {
71 MessageBox.Show("请输入要查询的关键字!");
72 return;
73 }
74 }
75

作者:goodgirlmia
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。

时间: 2024-11-10 00:52:38

用lucene.net根据关键字检索本地word文档的相关文章

C#根据关键字检索本地word文档

1 /// <summary> 2 /// 检索根目录下的子目录及其所有文件,并在datagridview中显示文档名称及路径--递归调用 3 /// </summary> 4 /// <param name="rootPath">根目录</param> 5 /// <param name="strKey">关键字包</param> 6 private void GetAllFiles(stri

C# 利用Aspose.Words .dl将本地word文档转化成pdf

下载Aspose.Words .dll  http://pan.baidu.com/s/1gfr1vnP 在vs2010中新建窗体应用程序,命名为 wordpdf 添加Aspose.Words .dll  引用 编写代码 1 using System; 2 using System.Collections.Generic; 3 using System.ComponentModel; 4 using System.Data; 5 using System.Drawing; 6 using Sys

在项目中利用TX Text Control进行WORD文档的编辑显示处理

在很多文档管理的功能模块里面,我们往往需要对WORD稳定进行展示.编辑等处理,而如果使用微软word控件进行处理,需要安装WORD组件,而且接口使用也不见得简单易用,因此如果有第三方且不用安装Office的能够展示WORD及进行编辑,那是比较不错的选择,TX Text Control就是这样的控件,本文就是基于这个控件的使用,实现在文档管理项目中的应用. 1.TX Text Control的介绍及使用 TX Text Control是一款功能类似于 MS Word 的文字处理控件,包括文档创建.

Asp.net 在word文档每页指定位置插入图片(二)

word文档插入每页插入图片实现了,本地运行是OK,但是发布到IIS上就报错了, 错误信息为:  检索 COM 类工厂中 CLSID 为 {000209FF-0000-0000-C000-000000000046} 的组件失败,原因是出现以下错误: 80040154 没有注册类 经过查资料发现要在服务器上安装word相关组件或者直接安装Office ,没有找到相关组件,就在服务器安装了Office.安装完成后,又报错了 错误信息为:检索 COM 类工厂中 CLSID 为 {000209FF-00

将html转换为word文档的几种方式

1 基于wps直接将页面信息下载成word文档 1 public void test() 2 { 3 4 WPS.Application wps = null; 5 try 6 { 7 wps = new WPS.Application(); 8 } 9 catch (Exception ex) 10 { 11 return; 12 } 13 var httpurl = "http://www.baidu.com"; 14 WPS.Document doc = wps.Document

JSP实现word文档的上传,在线预览,下载

前两天帮同学实现在线预览word文档中的内容,而且需要提供可以下载的链接!在网上找了好久,都没有什么可行的方法,只得用最笨的方法来实现了.希望得到各位大神的指教.下面我就具体谈谈自己的实现过程,总结一下学习中的收获. 我相信很多程序员都遇到过,有些word文档希望直接在浏览器中打开进行预览,但是浏览器往往不是很配合,直接就提示下载,不像pdf文档,浏览器可以直接进行预览.Word文档甚至始终都会通过本地的Office软件打开.那么,问题来了,如何可以在线浏览word文档呢? 其实,我在最初的时候

ASP.NET生成WORD文档,服务器部署注意事项

网上转的,留查备用,我服务器装的office2007所以修改的是Microsoft Office word97 - 2003 文档这一个. ASP.NET生成WORD文档服务器部署注意事项 1.Asp.net 2.0在配置Microsoft Excel.Microsoft Word应用程序权限时 error: 80070005 和8000401a 的解决总   2007-11-01 11:30  检索 COM 类工厂中 CLSID 为 {000209FF-0000-0000-C000-00000

php在程序中把网页生成word文档并提供下载

在这篇文章中主要解决两个问题: 1:在php中如何把html中的内容生成到word文档中 2:php把html中的内容生成到word文档中时,不居中显示问题,即会默认按照web视图进行显示. 3:php把html中的内容生成到word文档中时,相关样式不兼容问题 正文:    echo '<html xmlns:o="urn:schemas-microsoft-com:office:office"  xmlns:w="urn:schemas-microsoft-com:

Java Web项目中使用Freemarker生成Word文档

Web项目中生成Word文档的操作屡见不鲜,基于Java的解决方案也是很多的,包括使用Jacob.Apache POI.Java2Word.iText等各种方式,其实在从Office 2003开始,就可以将Office文档转换成XML文件,这样只要将需要填入的内容放上${}占位符,就可以使用像Freemarker这样的模板引擎将出现占位符的地方替换成真实数据,这种方式较之其他的方案要更为简单. 下面举一个简单的例子,比如在Web页面中填写个人简历,然后点击保存下载到本地,效果图如下所示. 打开下