设为首页 收藏本站
查看: 722|回复: 0

[经验分享] solr IKAnalyzer 搜索中文分词配置 过程

[复制链接]

尚未签到

发表于 2016-12-15 09:14:36 | 显示全部楼层 |阅读模式
solr是apache开源检索框架,用起来很简单。
从听说有这么个东西,到把solr+IKAnalyzer框架搭起来用了一天时间。
下面是本人在今天的劳动成果,拿出来给大家分享下,欢迎讨论和指教。

1 solr 1.3正式版(里面的Lucene是2.3版的,不知道能不能直接换成新出的Lucene 2.4正式版,没有试)

2 apache-solr-1.3.0\dist\apache-solr-1.3.0.war  改名 solr.war放入tomcat的webapp下

3 新建 Tomcat 6.0\conf\Catalina\localhost\solr.xml:
<Context docBase="D:/Program Files/Apache Software Foundation/Tomcat 6.0/webapps/solr.war" debug="0" crossContext="true" >
   <Environment name="solr/home" type="java.lang.String" value="D:/solr-tomcat/solr" override="true" />
</Context>

4 把解压的solr下面的examples下面的solr目录复制到这里D:/solr-tomcat/
D:/solr-tomcat/solr/conf/solrconfig.xml和schema.xml
前者是该索引服务的一些属性,比如索引文件存放的目录(默认为与conf同级的 data目录),还有缓存,分布之类的一些设置。后者是这个库的字段定义,字段类型,字段名,处理方式。基本上很容易理解,按照自己的需要把字段名改一下。重启tomcat,访问localhost:8080/solr如果能打开,就说明安装成功了。

5 编写ChineseTokenizerFactory类   打包jar   放到/Tomcat 6.0/webapps/solr的lib里面 (连同类需要的jar包一起)
用到的jar包以及版本:(1)apache-solr-core-1.3.0.jar (2)IKAnalyzer3.1.1Stable.jar  (3)lucene-core-2.4-dev.jar

package com.yeedoo.slor.tokenizer;

import java.io.Reader;

import org.apache.lucene.analysis.TokenStream;
import org.apache.solr.analysis.BaseTokenizerFactory;
import org.wltea.analyzer.lucene.IKAnalyzer;

public class ChineseTokenizerFactory extends BaseTokenizerFactory {

public TokenStream create(Reader reader) {
return new IKAnalyzer().tokenStream("text", reader);
}

}

6 修改D:/solr-tomcat/solr/conf/schema.xml

<fieldType name="text" class="solr.TextField" positionIncrementGap="100">
<analyzer type="index">
<tokenizer class="com.yeedoo.slor.tokenizer.ChineseTokenizerFactory" />
<filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
<filter class="solr.WordDelimiterFilterFactory" generateWordParts="1" generateNumberParts="1" catenateWords="1" catenateNumbers="1" catenateAll="0" splitOnCaseChange="1" />
<filter class="solr.LowerCaseFilterFactory" />
<filter class="solr.EnglishPorterFilterFactory" protected="protwords.txt" />
<filter class="solr.RemoveDuplicatesTokenFilterFactory" />
</analyzer>
<analyzer type="query">
<tokenizer class="com.yeedoo.slor.tokenizer.ChineseTokenizerFactory" />
<filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true" />
<filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" />
<filter class="solr.WordDelimiterFilterFactory" generateWordParts="1" generateNumberParts="1" catenateWords="0" catenateNumbers="0" catenateAll="0" splitOnCaseChange="1" />
<filter class="solr.LowerCaseFilterFactory" />
<filter class="solr.EnglishPorterFilterFactory" protected="protwords.txt" />
<filter class="solr.RemoveDuplicatesTokenFilterFactory" />
</analyzer>
</fieldType>

7 启动/Tomcat 6.0\bin\tomcat6.exe  没有报错,继续

8 http://localhost:8983/solr/admin      
在第一行 选择Analysis模式查询
filed 选择type  输入 text
在filed value 中输入: 中华人民共和国  看看效果吧 (::)

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-314528-1-1.html 上篇帖子: solr(2)solrj integration with Spring 下篇帖子: solr对数据库进行索引
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表