sm702 发表于 2018-11-1 11:31:06

(solr系列:四)将mysql数据库中的数据导入到solr中及删除solr中导入的数据

  在前面的博文中,已完成了在tomcat中对solr的部署,为solr添加了一个自定义的core,并且引入了ik分词器。
  那么该如何将本地的mysql的数据导入到solr中呢?
  准备工作:
  1、mysql数据源:myuser库中的user表(8条数据),其中这个updateTime字段是用于solr更新数据库数据的依据,表中必须得有这个字段。
/*  
Navicat MySQL Data Transfer
  

  
Source Server         : localhost
  
Source Server Version : 50521
  
Source Host         : localhost:3306
  
Source Database       : user
  

  
Target Server Type    : MYSQL
  
Target Server Version : 50521
  
File Encoding         : 65001
  

  
Date: 2016-10-21 10:14:01
  
*/
  

  
SET FOREIGN_KEY_CHECKS=0;
  

  
-- ----------------------------
  
-- Table structure for user
  
-- ----------------------------
  
DROP TABLE IF EXISTS `user`;
  
CREATE TABLE `user` (
  
`id` int(11) NOT NULL AUTO_INCREMENT,
  
`name` varchar(255) NOT NULL,
  
`password` varchar(255) NOT NULL,
  
`updateTime` datetime DEFAULT NULL,
  
PRIMARY KEY (`id`)
  
) ENGINE=InnoDB AUTO_INCREMENT=10 DEFAULT CHARSET=utf8;
  

  
-- ----------------------------
  
-- Records of user
  
-- ----------------------------
  
INSERT INTO `user` VALUES ('1', '张三', 'abc', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('2', '李四', 'def', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('3', '王五', 'ghi', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('4', '赵六', 'jkl', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('5', '田七', 'mno', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('6', '老八', 'pqr', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('7', '金九', 'stu', '2016-10-21 10:10:58');
  
INSERT INTO `user` VALUES ('8', '银十', 'vwx', '2016-10-21 10:10:58');
  2、数据源配置文件:新建文件:data-config.xml,文件内容如下:
  
  
  
  
  
  
  
  
  
  

  3、mysql驱动jar包和solr导入数据所需的jar包:mysql-connector-java-5.1.32.jar(这个大家都有) 和 solr-dataimporthandler-4.10.2.jar(这个在solr-4.10.2\dist目录下可以找到,复制出来一个即可)
  ====================================================================================
  准备工作完成之后就可以进行配置和操作了。
  步骤一:将刚才准备的那两个jar包复制到apache-tomcat-7.0.72\webapps\solr\WEB-INF\lib目录下。
  步骤二:将准备的data-config.xml文件复制到solrhome\simple\conf目录下,和schema.xml同一目录。
  步骤三:在solrhome\simple\conf目录下找到solrconfig.xml文件,为该文件添加如下内容:

  
  data-config.xml
  
  

  步骤四:在solrhome\simple\conf目录下找到schema.xml文件,打开并修改如下:
  

  
  

  
  
  
  
  
  
  
  

  

  
  
  
  
  
  
  
  
  
  
  id
  
  

  步骤四:启动tomcat,浏览器访问:locahost:8080/solr 原来的simple中数没有任何数据的。

  步骤五:导入mysql数据到solr中

  再次查看数据,如果显示如下,那么恭喜你,数据导入成功!

  =====================================================================================
  如果想删除solr中导入的数据该如何操作,一上图就……了然
xml命令:
  1、根据查询删除:删除所有数据
*:*  

  当然,上面说的是手动删除,如果要删除的数据很多,想在下一次自动同步数据的时候自动删除指定的数据该如何做呢?
  场景:有一批要拍卖的店铺数据存储在solr中,拍卖的店铺数据有一个拍卖结束时间(endTime),当拍卖结束时间一到,这条存储在solr中的拍卖数据就没有意义了,想要删除这条存储在solr中的数据。
  按照上面的手动删除也不是不可以,但这人工操作未免太扯了,到时间人工去solr中删除这条数据耗时又耗力,也不太现实。
  解决办法就是:
  在data-config.xml的entity中添加:
deletedPkQuery="select id from shopswhere endTime < NOW()"  这一句,这句和entiy的query同级,目的是查询出所有店铺数据中结束时间小于当前时间的店铺id,
  这个店铺id会和deltaQuery中收集到的id一并执行deltaImportQuery操作,只不过一个是添加数据,一个是删除数据。
  如果是其他业务场景也可以借鉴下这篇博客中在表中添加isdelete字段的方式完成删除,其实只要有一个字段能够标识就行:
  参考地址:http://simplelife.blog.51cto.com/9954761/1883024


页: [1]
查看完整版本: (solr系列:四)将mysql数据库中的数据导入到solr中及删除solr中导入的数据