徐冬丽 发表于 2019-1-29 14:18:22

关于动态Mappin-多字段映射

  1. 类型判定
  ElasticSearch在创建index的时候是可以不指定schema的,那么它是怎么知道你使用的是什么类型呢?实际上它是通过给定 document的json来判定的,例如,string的话是用引号引起来的,数字是光溜溜的,boolean类型是true或者false等等。这个 规则非常的简单,但是非常有效。例如有如下的json:
{ "field1": "hello", "field2": 1024 }  ES能够很容易判定field1为string类型,field2为数字类型,但是有些情况下,需要把所有的格式都存为string,true和 false就不行了,因为ES会优先将其存为boolean类型,这就需要我们手动指定schema,另外一个问题是,如果我们对某个index首次插入 数据的时候为某个field插入了一个数字类型,例如:
curl -XPUT localhost:9200/blog/article/1?pretty -d '{ "field1" : 1024}'  我们可以查看其mapping:
curl -XGET localhost:9200/blog/_mapping?pretty  我们可以看到其schem如下:
{ "blog" : {  "article" : {
  "properties" : {
  "field1" : {
  "type" : "long",
  "ignore_malformed" : false
  }
  }
  }
  }
  }
  这说明ES已经将该字段的类型定义为long了,然后如果我们插入string,那么就会报错,说类型不匹配:
curl -XPUT localhost:9200/blog/article/2?pretty -d '{  "field1" : "test string"
  }'
  返回结果为:
{ "error" : "MapperParsingException];  nested: NumberFormatException[For input string:
  \"test string\"]; ", "status" : 400 }
  但是,如果继续插入float型数据是可以的,因为long可以转换为float,如下:
curl -XPUT localhost:9200/blog/article/2?pretty -d '{  "field1" : 3.14
  }'
  这时,我们在查看schema,可以看到ES将schema修改了。这就会对我们的数据精度造成影响,为了防止这种情况,或者为了防止已经存在的index添加字段,我们可以将动态schema关闭,如下:
{ "blog" : { "article" : { "dynamic" : "false", "properties" : { ... } } } }  2.动态mapping
  有时,我们需要通过json中的field和type来决定我们使用的mapping,这时,动态templates就派上用场了。动态 templates和普通的mapping类似,它有一个自己的模式,如果一个field的名字匹配了该模式,该template就会使用,下面是定义模 式的两种手段:
  match: template在field名匹配的时候起用。
  unmatch: template在field名不匹配的时候起用。
  当然,也可以使用path_match和path_unmatch对嵌套field使用。
  定义field的使用可以使用
  {name}: document最初写入数据的field的名字。
  {dynamic_type}: document最初写入数据的field的type。
  需要提醒的是,ES是按照你写的templates的顺序来匹配的,因此,匹配范围越广的应该放在越后,不然就会将所有后面的正则拦掉了。例如*应该放在最后:
{  
    "mappings" : {
  
      "article" : {
  
            "dynamic_templates" : [ {
  
                "template_test": {
  
                     "match" : "*",
  
                     "mapping" : {
  
                        "type" : "multi_field",
  
                        "fields" : {
  
                              "{name}": { "type" : "{dynamic_type}"},
  
                              "str": {"type" : "string"}
  
                        }
  
                  }
  
                }
  
            }]
  
      }
  
    }
  
}
  例如我在logstash的日志发现了一个错误,如下
  "response"=>"-"
  "error"=>"MapperParsingException;
  nested: NumberFormatException[For input string: \"-\"; "
  ,这是因为我之前在mapping中定义了response为long类型,现在写入的数据中出现了response=> "-",导致报错类型不匹配。
{  "dynamic_templates" : [ {
  "response_fields": {
  "match" : "*",
  "mapping" : {
  "type" : "multi_field",
  "fields" : {
  "response": { "type" : "long"}, "str": {"type" : "string"}
  }
  }
  }
  }
  }
  文章原链:http://www.dengchuanhua.com/


页: [1]
查看完整版本: 关于动态Mappin-多字段映射