A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

【合肥中心】ElasticSearch+Solr几个案例笔记
一) 最大能索引字符串的长度

关于能索引最大的字符串长度,其实在Elasticsearch和Solr中都是由底层的Lucene决定的

(1)不分词+索引的字符串最大长度为32766字节

(2)分词+索引一般不会出现长度越界问题

(3)不索引的字符串虽然没有长度最大限制,但是不建议使用搜索引擎存储大量文本

(二)设置超出一定长度的字段,不索引

其实这个功能,也是由底层Lucene提供的,关于它的应用场景举个例子,大部分情况下,不分词的字段可能经常会被用来聚合,过滤,排序,分组,但是如果这个不分词的字段非常长,通常情况下是没有意义的,比如标题,小于40个字的,我们索引它,让它参与聚合,过滤,排序等,但如果大于40,我们则认为它不需要索引,从而节省索引的体积大小,来提高搜索性能。

如何设置?

(1)在ES中

[AppleScript] 纯文本查看 复制代码
"message": {
          "ignore_above": 20, //超过20个字节,不索引该字段,注意对其他字段没有影响
          "index": "not_analyzed",
          "type": "string"
        }

(2)在Solr中

[AppleScript] 纯文本查看 复制代码
<fieldType name="limit_len" class="solr.TextField">
    <analyzer>
      <tokenizer class="solr.KeywordTokenizerFactory"/>
      //超过10个字节,就丢弃该字段,同样对其他字段没有影响
      <filter class="solr.LengthFilterFactory" min="0" max="10"/>
    </analyzer>
  </fieldType>

(三)ElasticSearch中动态mapping的三种校验模式

在ES中,一个mapping下面可以有多个type,每个type相当于一个表,type的检验模式有三种

[AppleScript] 纯文本查看 复制代码
//默认模式,开启动态模式,允许任何字段添加到该表中
(1)"dynamic": true 
//关闭动态模式,不在定义的scheam中的字段,会自动忽略,不会报错
(2)"dynamic": false
//严格模式,不在定义的scheam中的字段,会拒绝索引,抛出异常
(3)"dynamic": "strict"

(三)ElasticSearch中动态mapping的三种校验模式

在ES中,一个mapping下面可以有多个type,每个type相当于一个表,type的检验模式有三种

[AppleScript] 纯文本查看 复制代码
//默认模式,开启动态模式,允许任何字段添加到该表中
(1)"dynamic": true 
//关闭动态模式,不在定义的scheam中的字段,会自动忽略,不会报错
(2)"dynamic": false
//严格模式,不在定义的scheam中的字段,会拒绝索引,抛出异常
(3)"dynamic": "strict"

注意type的schema是有校验模式的,但是每个mapping里面的type却是动态的,添加一个不存在的type并不会报错,es会自动识别它的schema里面的字段并给予其认为可能的字段类型

(四)ElasticSearch中queryString语法的一个小坑

ElasticSearch里面索引一个不分词的字段时候,如果不给设置自动转小写的filter,那么他就是数据本身,但是查询的时候,默认情况下es会给转成小写查。

举个例子: 索引name=Hadoop进入es索引,然后使用name=Hadoop查,你会发现使用querySting语法查不到,因为es自动把Hadoop转成了hadoop去查,这样以来肯定查不到,有点小坑,这个问题在Solr中是不存在的。

如何解决:

[AppleScript] 纯文本查看 复制代码
//更改es默认转小写的bool值为false
QueryBuilders.queryStringQuery("name:Hadoop").lowercaseExpandedTerms(false)

(五)ElasticSearch+Solr使用queryString语法的注意事项

lucene的默认的queryString语法,如果一个关键词里面带有空格,它会自动拆分成两个关键词进行检索,但有时我们就是查询带空格的关键词,应该怎么办呢?

举个例子:

不分词+索引字段content=Syntax error 进入es,solr或者lucene中

假如我想使用前缀模糊查询:

[AppleScript] 纯文本查看 复制代码
content:Syntax err*

上面的语法是查不到任何内容的,但是明明有这条数据,为什么查不到?就是因为lucene默认会把空格当做多个关键词分界线,这样以来查询就转化成了:

[AppleScript] 纯文本查看 复制代码
content:Syntax
default_field:err*

所以就查不到数据了,如何解决?

非常简单,转义这个空格即可,注意只能转义空格,不能对整个查询字符串进行转义:

[AppleScript] 纯文本查看 复制代码
content:Syntax\\ err* 



14 个回复

倒序浏览
专业!
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
鸟语花香 来自手机 中级黑马 2018-8-9 17:38:43
8#
厉害厉害
回复 使用道具 举报
6666
回复 使用道具 举报
鸟语花香 来自手机 中级黑马 2018-8-9 17:58:38
10#
回复 使用道具 举报
鸟语花香 来自手机 中级黑马 2018-8-9 17:58:49
11#
回复 使用道具 举报
   
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
朱浩 来自手机 黑马粉丝团 2018-8-9 18:45:31
15#
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马