设为首页 收藏本站
查看: 1269|回复: 0

[经验分享] schema.xml的配置

[复制链接]

尚未签到

发表于 2017-12-20 09:53:51 | 显示全部楼层 |阅读模式
  schema.xml做什么?
  SOLR加载数据,创建索引和数据时,核心数据结构的配置文件是schema.xml,该配置文件主要用于配置数据源,字段类型定义,搜索类型定义等。schema.xml的配置直接影响搜索结果的准确性与效率。
  <types></types>节点
  types节点主要用于搜索类型的定义,这里给出常用类型的定义。
  

<fieldType name="string" sortMissingLast="true" />  
<fieldType name="boolean" sortMissingLast="true"/>
  
<fieldtype name="binary"/>
  
<fieldType name="int" precisionStep="0" positionIncrementGap="0"/>
  
<fieldType name="float" precisionStep="0" positionIncrementGap="0"/>
  
<fieldType name="long" precisionStep="0" positionIncrementGap="0"/>
  
<fieldType name="double" precisionStep="0" positionIncrementGap="0"/>
  
<fieldType name="tint" precisionStep="8" positionIncrementGap="0"/>
  
<fieldType name="tfloat" precisionStep="8" positionIncrementGap="0"/>
  
<fieldType name="tlong" precisionStep="8" positionIncrementGap="0"/>
  
<fieldType name="tdouble" precisionStep="8" positionIncrementGap="0"/>
  
<fieldType name="date" precisionStep="0" positionIncrementGap="0"/>
  
<fieldType name="tdate" precisionStep="6" positionIncrementGap="0"/>
  
<fieldType name="pint"/>
  
<fieldType name="plong"/>
  
<fieldType name="pfloat"/>
  
<fieldType name="pdouble"/>
  
<fieldType name="pdate" sortMissingLast="true"/>
  
<fieldType name="sint" sortMissingLast="true" omitNorms="true"/>
  
<fieldType name="slong" sortMissingLast="true" omitNorms="true"/>
  
<fieldType name="sfloat" sortMissingLast="true" omitNorms="true"/>
  
<fieldType name="sdouble" sortMissingLast="true" omitNorms="true"/>
  
<fieldType name="random" indexed="true" />
  

  这里给出的类型有,字符串,bool,int,date等等,基本java常用的都有。下面解释一下各个参数的意思。
  name:定义搜索字段名
  class:这个搜索字段实际使用的类与方法。在org.appache.solr.analysis包下,包括了常用的类型。

其他可选的属性:  sortMissingLast,sortMissingFirst两个属性是用在可以内在使用String排序的类型上,默认false,适用于字段类型:string,boolean,sint,slong,sfloat,sdouble,pdate。
  sortMissingLast="true",没有该field的数据排在有该field的数据之后,而不管请求时的排序规则,在Java中对应的意思就是,该字段为NULL,排在后面。
  sortMissingFirst="true",排序规则与sortMissingLast相反。
  positionIncrementGap:可选属性,定义在同一个文档中此类型数据的空白间隔,避免短语匹配错误。
  在配置中,string类型的class是solr.StrField,而这个字段是不会被分析存储的,也就是说不会被分词。
  而对于文章或者长文本来说,我们必须对其进行分词才能保证搜索某些字段时能够给出正确的结果。这时我们就可以用到另外一个class,solr.TextField。它允许用户通过分析器来定制索引和查询,分析器包括一个分词器(tokenizer)和多个过滤器(filter) 。
  下面就来看一下中文分词吧,这里用的分词是IK Analyzer 2012。
  中文分词
  

<!-- IKAnalyzer2012 -->  
<fieldType name="text_ika">
  <analyzer type="index" positionIncrementGap="100" autoGeneratePhraseQueries="true">
  <tokenizer isMaxWordLength="false"/>
  <!-- <filter ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" /> -->
  <!-- <filter/> -->
  </analyzer>
  <analyzer type="query">
  <tokenizer isMaxWordLength="true" />
  <!-- <filter ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" /> -->
  <!-- <filter synonyms="synonyms.txt" ignoreCase="true" expand="true"/> -->
  <!-- <filter/> -->
  </analyzer>
  
</fieldType>
  

  分词用的依旧是fieldType,为的是在下面的field中能够用到。
  有两个analyzer,一个是index,一个是query,index是针对于所有,query是针对于搜索。
  可以看到我注掉了两个filter,为什么呢。
  先说简单的吧,一个是query中的同义词Filter,solr.SynonymFilterFactory,注掉他是因为当前没有一个庞大的词库能够支撑中文如此复杂的同义词量。
  另外一个是忽略大小写的Filter,这个Filter可以根据自己的需要进行添加或删除,在我们的系统中,主要处理中文,这个用处也不大。
  还有一个注掉的Filter是停词Filter,这个用处挺大的,为什么注掉呢?因为我感觉他在这里不太合适。
  解释一下:停词组件在中文分词中很重要,IK也提供了相对应的配置方法,不仅仅可以处理停词,而且还可以自定义词库。所以,我建议将停词在IK中配置而不是在schema.xml中。
  两种方法都说一下:
  第一种:在schema.xml中配置,不要注释stopword组件,并将停词文件拷贝至solrHome/core/conf目录下(注意文件的编码方式,至少保证文本文件是UTF-8格式,更加严格的,保证文本文件是无BOM格式的UTF-8编码)。
  第二种:在IK配置文件中配置,请下载一个IK分词组件,里面会有一个IKAnalyzer.cfg.xml的配置文件,拷贝到solr项目的源代码根目录下,并将stopword.dic也拷贝到根目录下,如下图所示:
DSC0000.jpg

  记得要导入IK的Jar包,这样,在你的文件中就可以使用IK提供的中文分词了。
  IK也可以自定义词库,这个可以看一下IK的文档,很简单,将你的自定义词库的文件拷贝至根目录,并在IK配置文件中配置即可。
  <fields></fields>节点
  filed字段用于定义数据源字段所使用的搜索类型与相关设置。
  

<field name="id" type="long" indexed="true" stored="true" multiValued="false" required="true" />  
<field name="name" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="address" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="description" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="saturdayMerchant" type="boolean" indexed="true" stored="true" multiValued="false" />
  
<field name="huiMerchant" type="boolean" indexed="true" stored="true" multiValued="false" />
  
<field name="bankMerchant" type="boolean" indexed="true" stored="true" multiValued="false" />
  
<field name="rebate" type="int" indexed="true" stored="true" multiValued="false" />
  
<field name="valid" type="boolean" indexed="true" stored="true" multiValued="false" />
  
<field name="createTime" type="date" indexed="true" stored="true" multiValued="false" />
  
<field name="priority" type="int" indexed="true" stored="true" multiValued="false" />
  
<field name="telephone" type="string" indexed="true" stored="true" multiValued="false" />
  
<field name="city" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="district_id" type="long" indexed="true" stored="true" multiValued="false" />
  
<field name="district_name" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="merchantCategory_id" type="long" indexed="true" stored="true" multiValued="false" />
  
<field name="merchantCategory_name" type="text_ika" indexed="true" stored="true" multiValued="false" />
  
<field name="bank_id" type="long" indexed="true" stored="true" multiValued="true" />
  
<field name="bank_name" type="text_ika" indexed="true" stored="true" multiValued="true" />
  

  
<field name="all" type="text_ika" indexed="true" stored="false" multiValued="true" />
  

  name:数据源字段名,搜索使用到。
  type:搜索类型名例如中文ika搜索名text_ika,对应于fieldType中的name。不需要分词的字符串类型,string即可,如果需要分词,用上面配置好的分词type。

  indexed:是否被索引,只有设置为true的字段才能进行搜索排序分片(earchable, sortable,>  stored:是否存储内容,如果不需要存储字段值,尽量设置为false以提高效率。
  multiValued:是否为多值类型,SOLR允许配置多个数据源字段存储到一个搜索字段中。多个值必须为true,否则有可能抛出异常。
  copyField节点
  如果我们的搜索需要搜索多个字段该怎么办呢?这时候,我们就可以使用copyField。代码如下:
  

<copyField source="name" dest="all" />  
<copyField source="address" dest="all" />
  
<copyField source="description" dest="all" />
  
<copyField source="city" dest="all" />
  
<copyField source="district_name" dest="all" />
  
<copyField source="merchantCategory_name" dest="all" />
  
<copyField source="bank_name" dest="all" />
  

  我们将所有的中文分词字段全部拷贝至all中,当我们进行全文检索是,只用搜索all字段就OK了。
  注意,这里的目标字段必须支持多值,最好不要存储,因为他只是做搜索。indexed为true,stored为false。
  copyField节点和field节点都在fields节点之内。
  问题又来了,如果需要根据不同的重要性进行区分,例如name的重要性比address大,该怎么办呢,后面再说这个问题。
  uniqueKey节点
  solr必须设置一个唯一字段,常设置为id,此唯一一段有uniqueKey节点指定。
  例如:
  

<uniqueKey>id</uniqueKey>  

  defaultSearchField节点
  默认搜索的字段,我们已经将需要搜索的字段拷贝至all字段了,在这里设为all即可。
  

1 <defaultSearchField>all</defaultSearchField>  

  solrQueryParser节点
  默认搜索操作符参数,及搜索短语间的逻辑,用AND增加准确率,用OR增加覆盖面,建议用AND,也可在搜索语句中定义。例如搜索“河西 万达”,使用AND默认搜索为“河西AND万达“。
  

1 <solrQueryParser defaultOperator="OR"/>   

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-425975-1-1.html 上篇帖子: 数据在千万级别上进行全文检索有哪些技术?强大的大数据全文索引解决方案 下篇帖子: SolrCloud的搭建与稳定性测试
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表