Solr 4.x定时、实时增量索引

xian123

　　开始之前，可以参考上篇博文增量索引-数据导入并索引：
　　http://josh-persistence.iyunv.com/admin/blogs/2017059
　　
　　Solr增量索引配置
　　
　　一、开始增量索引前的准备工作。
　　1、认识data-config.xml中相关属性
　　       <!--  transformer &#26684;式转化：HTMLStripTransforme表示 索引中将忽略HTML标签   --->
　　       <!--  query:  查询数据库表符合记录数据   --->
       <!--  deltaQuery:增量索引   查询主键ID    --->    注意这个query只返回ID字段
       <!--  deltaImportQuery:增量索引   查询导入的数据  --->
       <!--  deletedPkQuery:增量索引  删除主键ID查询  ---> 注意这个只返回ID字段
　　 最主要的是我们要知道这样一个事实： last_index_time是DataImportHandler的一个默认字段，（可查看conf目录下的dataimporter.properties文件）
　　我们可以在任何SQL中引用，该字段用于表明上次做full import或者是delta import(增量导入）的最后一次时间。
　　
　　2、数据库配置注意事项
　　1）、如果只涉及添加与修改业务，那么数据库里只需添加一个类型为timpstamp，默认&#20540;为当前系统时间的字段 ：CURRENT_TIMESTAMP（mysql）
　　
　　2）、如果还涉及删除业务，那么数据里就需额外再多添加一个字段isdelete，int类型的用0,1来标识，此条记录是否被删除，当然也可以用其他字段标识，ture或false都可以
　　
　　 3、dataimporter.properties / {corename}_dataimporter.properties
　　在C:\solr-tomcat\solr\item\conf中查看是否存在文件dataimporter.properties,如果没有，则新建该文件。
　　这个配置文件很重要，它是用来记录索引的最新一次修改时间的，通过该配置文件可以找出新增的、修改的或者删除的记录。相关实例：
　　
　　在data-config中添加如下配置信息。
　　

　　

• <dataConfig>
  
•    <!--- 此段话配置的是一个MySQL的数据源，（数据源也可以配置在solrconfig.xml中）  --->  <dataSource name=&quot;activityDB&quot; type=&quot;JdbcDataSource&quot; driver=&quot;com.mysql.jdbc.Driver&quot; url=&quot;jdbc:mysql://localhost/test&quot; user=&quot;swang6&quot; password=&quot;swang6&quot;/>
  
•        <document>
  
•           <entity pk=&quot;ID&quot;  dataSource=&quot;activityDB&quot; name=&quot;myentity&quot;
  
•             query=&quot;select * from myentity WHERE isdelete=0&quot;
  
•          deltaQuery=&quot;select ID  from myentity where my_date >'${dih.last_index_time}'&quot;
  
•             deletedPkQuery=&quot;select ID from myentity where isdelete=1&quot;
  
•             deltaImportQuery=&quot;select * from myentity where ID='${dih.delta.id}&quot;>
  
• 
  
•           <!--  ID指定大写的，与上面语句中的对应起来---->
  
•           <field column=&quot;ID&quot; name=&quot;id&quot;/>
  
•           <field column=&quot;name&quot; name=&quot;name&quot;/>
  
•           <field column=&quot;address&quot; name=&quot;address&quot;/>
  
•           <field column=&quot;age&quot; name=&quot;age&quot;/>
  
•           <field column=&quot;my_date&quot; name=&quot;my_date&quot;/>
  
•           <field column=&quot;isdelete&quot; name=&quot;isdelete&quot;/>
  
• 
  
•         </entity>
  
•    </document>
  
• </dataConfig>
  

　　
　　

　　

• <!-- pk=&quot;ID&quot; 必须，因为其中的增量索引查询主键ID时需要  -->
  
• 
  
•            <!--  dataSource=&quot;acitvityDB&quot; 这个引用名字是引用上面数据源的名字 -->
  
• 
  
•            <!--  name=&quot;myentity&quot; 存在多个实体时，这个名字必须唯一 -->
  
• 
  
•            <!--  query：用于全量导入而非增量导入
  
•            query=&quot;select * from myentity WHERE isdelete=0
  
•            query查询是指查询出表里所有的符合条件的数据，因为笔者测试的有删除业务，所以
  
•            where后面有一个限定条件isdelete=0，意思为查询未被删除的数据
  
•            -->
  
• 
  
•           <!--  deltaQuery ： 用于增量导入且只返回ID
  
•              deltaQuery=&quot;select ID  from myentity where my_date >
  
•                  '${dih.last_index_time}'&quot;
  
•              deltaQuery的意思是，查询出所有经过修改的记录的ID
  
•              可能是修改操作，添加操作，删除操作产生的
  
•           -->
  
• 
  
•          <!--  deletedPkQuery : 用于增量导入且只返回ID
  
•           deletedPkQuery=&quot;select ID from myentity where isdelete=1&quot;
  
•           此操作只查询那些数据库里伪删除的数据的ID（即isdelete标识为1的数据）
  
•           solr通过它来删除索引里面对应的数据
  
•          -->
  
• 
  
•          <!--  deltaImportQuery： 增量导入起作用，可以返回多个字段的&#20540;,一般情况下，都是返回所有字段的列
  
•        deltaImportQuery=&quot;select * from myentity where ID='${dih.delta.ID}'&quot;
  
•       deltaImportQuery查询是获取以上两步的ID，然后把其全部数据获取，根据获取的数据
  
•        对索引库进行更新操作，可能是删除，添加，修改
  
•       -->
  

　　
　　
　　注：如果有必要，则可以在schema.xml中添加一个timestamp的field
　　<field name=&quot;timestamp&quot; type=&quot;date&quot; indexed=&quot;true&quot; stored=&quot;true&quot; default=&quot;NOW&quot; />
　　
　　
　　做了以上配置后，可以设置linux的cron job或者Spring 的TaskSchuduler或者Cron Job后，可以定时发url：
　　http://localhost:8983/solr/dataimport?command=delta-import去做增量索引。更多关于Solr做增量索引的说明文档：http://wiki.apache.org/solr/DataImportHandler
　　
　　当然也可以用Solr自带的Scheduler来做增量索引：
　　http://wiki.apache.org/solr/DataImportHandler#Scheduling