一、lucene建立索引过程:
1、解析器用来解析物理文件,从中提取出所需的文本,其作用于物理文件;2、分析器用来分析文本内容(文字),其作用于解析器处理物理文件之后生成的文本;Lucene没有自己开发语言分析程序,JavaCC来生成分析器;分析器(analyzer)主要包含分词器和过滤器。分析器使用分析器和过滤器构成一个“管道”,文本在“滤过”这个管道之后,就成为可以进入管道的最小单位;分词器(tokenizer)主要用于对文本资源进行切分,将文本规则切分为一个个可以进入索引的最小单位;过滤器(tokenfilter)主要对分词器切分的最小单位进入索引进行预处理(大写转小写,复数转单数)二、索引文件格式:
segments文件——主要的索引块,其中包含主要的索引信息;扩展名为fnm文件——存储Field的名称;扩展名为fdt文件——存储所有设置了保存属性(Store.YES)的Field数据;扩展名为fdx文件——用于存储文档在fdt文件中的位置;扩展名为cfs文件——复合式索引格式的索引文件,相当于把多个索引文件合并起来,从未减少索引文件的数量;三、索引优化:
1、复合式索引格式 IndexWriter.setUseCompoundFile(true)2、调整索引优化参数a、mergeFactor 用于控制索引块的合并频率和大小b、maxMergeDocs 用来限制每个索引块的文档数量c、用来限制内现中的文档数量3、内存缓冲器与索引合并首先在内存中建立索引,然后将建立好的索引集中写到磁盘中去,从而加快索引速度4、限制每个Field的词条数量5、索引本身的优化 IndexWriter.optimize()合并索引四、索引管理:
1、查看:使用IndexReader类读取索引及其相关词条2、删除:使用IndexReader类删除索引3、更新:先删除、再新增五、索引同步
1、Lucene并发访问规则2、线程安全性3、索引锁机制