Apache Solr 实践(二)数据库增量导入

websyhg

　　之前将Solr的基础环境搭建了起来。今天配置一下数据库的增量导入。实现步骤wiki上面写的已经很清楚，主要注意两点，一是索引的中文分词，二是自定义字段。solr自带的schema.xml中已经配置了常用字段，遇不包含字段需要定义。依wiki，实现solr索引定时增量导入大致需五步。
　　第一步，配置requesthandler于solrconfig.xml内容如下

  <requestHandler name="/dataimport"
      class="org.apache.solr.handler.dataimport.DataImportHandler">
      <lst name="defaults">
        <str name="config">./data-config.xml</str>
      </lst>
  </requestHandler>
　　用到的jar包solr-dataimporthandler-4.3.0.jar位于solr-4.3.0\dist，需要拷贝到tomcat/webapps/lib下。
　　第二步，编写data-config.xml和dataimport.properties。solr发布包中随带了一个demo位于solr-4.3.0\example\example-DIH\solr\db\conf直接拿来稍作修改

<dataConfig>
<dataSource driver="com.mysql.jdbc.Driver"
url="jdbc:mysql://localhost:3306/solr_import" user="root" password="admin"/>
<document>
<entity name="item" query="select * from item"
deltaQuery="select id from item where last_modified > '${dataimporter.last_index_time}'">
<field column="ID" name="id" />
<field column="NAME" name="name" />
<field column="MANU" name="manu" />
<field column="WEIGHT" name="weight" />
<field column="PRICE" name="price" />
<field column="POPULARITY" name="popularity" />
<field column="INSTOCK" name="inStock" />
<field column="INCLUDES" name="includes" />
<entity name="feature"  
query="select DESCRIPTION from FEATURE where ITEM_ID='${item.ID}'"
deltaQuery="select ITEM_ID from FEATURE
where last_modified > '${dataimporter.last_index_time}'"
parentDeltaQuery="select ID from item where ID=${feature.ITEM_ID}">
<field name="features" column="DESCRIPTION" />
</entity>
<entity name="item_category"
query="select CATEGORY_ID from item_category where ITEM_ID='${item.ID}'"
deltaQuery="select ITEM_ID, CATEGORY_ID from
item_category where last_modified > '${dataimporter.last_index_time}'"
parentDeltaQuery="select ID from item where ID=${item_category.ITEM_ID}">
<entity name="category"
query="select DESCRIPTION from category where ID = '${item_category.CATEGORY_ID}'"
deltaQuery="select ID from category where last_modified > '${dataimporter.last_index_time}'"
parentDeltaQuery="select ITEM_ID, CATEGORY_ID
from item_category where CATEGORY_ID=${category.ID}">
<field column="description" name="cat" />
</entity>
</entity>
</entity>
</document>
</dataConfig>

#Fri Jan 17 11:44:56 CST 2014
interval=1
port=80
server=localhost
params=/dataimport?command\=delta-import&clean\=false&commit\=true
webapp=solr
reBuildIndexInterval=2
dataimporter.last_index_time=1914-01-14 17\:40\:00
syncEnabled=1
last_index_time=2014-01-17 11\:44\:55
item.last_index_time=2014-01-17 11\:44\:55
reBuildIndexParams=/dataimport?command\=full-import&clean\=true&commit\=true
reBuildIndexBeginTime=03\:10\:00
syncCores=collection1

　　第三步，修改schema.xml支持中文分词。data-config.xml中filed引用schema.xml中的filedType，而schema.xml中name,manu等字段类行为text_general,需要改为之前配置的text_zh.
　　第四步建数据库，数据库脚本也都是现成的，位于solr-4.3.0\example\example-DIH\hsqldb\ex.script。demo是基于sqldb的，稍作修改即可用于mysql。将数据库驱动拷到lib。insert N笔数据（中文）作为测试。
　　第五步，建索引。依次打开solr控制台-——>dataimport，command首次选full-import，勾选commit,Entity选择item——>execute。
　　索引结果如何？在solr控制台左侧选择Query，q填写name:关键字，execute query。效果如图