Elasticsearch(一) 入门教程


Elasticsearch

Elasticsearch 是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口。Elasticsearch是用Java语言开发的,并作为Apache许可条款下的开放源码发布,是一种流行的企业级搜索引擎。Elasticsearch用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。官方客户端在Java、.NET(C#)、PHP、Python、Apache Groovy、Ruby和许多其他语言中都是可用的。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr,也是基于Lucene。

官方网址:https://www.elastic.co/cn/products/elasticsearch

Github:https://github.com/elastic/elasticsearch

对应的安装方式请看:Linux 安装 Elasticsearch

Elasticsearch快速入门

创建索引库

ES 的索引库是一个逻辑概念,它包括了分词列表文档列表,同一个索引库中存储了相同类型的文档。它就相当于 MySQL中的表,或相当于 Mongodb 中的集合。

关于索引这个语:

  • 索引(名词):ES是基于Lucene构建的一个搜索服务,它要从索引库搜索符合条件索引数据。
  • 索引(动词):索引库刚创建起来是空的,将数据添加到索引库的过程称为索引。

下边介绍两种创建索引库的方法,它们的工作原理是相同的,都是客户端向ES服务发送命令。

1)使用 postman 或 curl 这样的工具创建:

put http://localhost:9200/索引库名称

同时设置如下的请求 json 数据:

{
    "settings":{ 
        "index":{
            "number_of_shards":1,
            "number_of_replicas":0
        }
    }
}
  • number_of_shards:设置分片的数量,在集群中通常设置多个分片,表示一个索引库将拆分成多片分别存储不同的结点,提高了 ES 的处理能力和高可用性,入门程序使用单机环境,这里设置为1。
  • number_of_replicas:设置副本的数量,设置副本是为了提高ES的高可靠性,单机环境设置为0.

示例:

本教程以创建课程信息的索引为例来介绍 ES 的入门使用,本教程使用 postman 来作为客户端工具。

4

通过 head 插件也可以看到索引库的创建结果:

5

2)使用 head 插件创建

效果如下:

6

创建映射

在索引中每个文档都包括了一个或多个 field,创建映射就是向索引库中创建 field 的过程

下边是 document 和 field 与关系数据库的概念的类比:

文档Document----------------Row记录 
字段Field-------------------Columns列

注意:

6.0之前的版本有 type(类型)概念,type 相当于关系数据库的表,ES 官方将在 ES9.0 版本中彻底删除 type。

上边讲的创建索引库相当于关系数据库中的数据库还是表?

1、如果相当于数据库就表示一个索引库可以创建很多不同类型的文档,这在ES中也是允许的。

2、如果相当于表就表示一个索引库只能存储相同类型的文档,ES官方建议在一个索引库中只存储相同类型的文档。

因此建议将索引库作为表来对待。

创建映射格式如下:

post http://localhost:9200/索引库名称/类型名称/_mapping

因为在 ES7 中已经弱化了类型的概念,因此现在创建一个映射的命令变为:

post http://localhost:9200/索引库名称/_mapping

我们要把课程信息存储到 ES 中,这里我们创建课程信息的映射,先来一个简单的映射,如下:

为 xedu_course 索引库创建对应的映射,共包括三个字段:

  • name:课程名称
  • description:课程描述
  • studymondel:课程状态

post 请求:

7

表示:在 xedu_course 索引库下创建映射。

在 head 中查看:

8

创建文档

ES 中的文档相当于 MySQL 数据库表中的记录。

发送格式:

put  Post http://localhost:9200/索引库名称/_doc/id值 
# 如果不指定id值ES会自动生成ID

9

在 head 中查看:

10

搜索文档

1、根据课程id查询文档

发送:

get http://192.168.116.129:9200/xedu_course/_doc/4028e58161bcf7f40161bcf8b77c0000

11

2、查询所有记录 发送

get http://192.168.116.129:9200/xedu_course/_doc/_search

12

3、查询名称中包括 bootstrap 关键字的的记录

发送:

get http://192.168.116.129:9200/xedu_course/_doc/_search?q=name:bootstrap

4、查询学习模式为 201001 的记录

发送

get http://192.168.116.129:9200/xedu_course/_doc/_search?q=studymodel:201001

分词器测试

在添加文档时会进行分词,索引中存放的就是一个一个的词(term),当你去搜索时就是拿关键字去匹配词,最终找到词关联的文档。

下面测试当前索引库使用的分词器:

post http://192.168.116.129:9200/_analyze
{"text":"测试分词器,后边是测试内容:spring cloud实战"} 

13

经过测试会发现分词的效果将 “测试” 这个词拆分成两个单字“测”和“试”,这是因为当前索引库使用的分词器对中文就是单字分词。

可以通过使用 IK 分词器来实现对中文分词的效果。

测试分词效果:

post http://192.168.116.129:9200/_analyze 
{"text":"测试分词器,后边是测试内容:spring cloud实战","analyzer":"ik_max_word" }

ik 分词器有两种分词模式:

  • ik_max_word:会将文本做最细粒度的拆分,比如会将“中华人民共和国人民大会堂”拆分为“中华人民共和国、中华人民、中华、 华人、人民共和国、人民、共和国、大会堂、大会、会堂等词语。
  • ik_smart模式:会做最粗粒度的拆分,比如会将“中华人民共和国人民大会堂”拆分为中华人民共和国、人民大会堂。

如果要让分词器支持一些专有词语,可以自定义词库。 iK分词器自带一个 main.dic 的文件,此文件为词库文件。在同级目录中新建一个 my.dic 文件(注意文件格式为utf-8)然后在其中自定义词汇,最后在配置文件中配置my.dic:

映射

映射维护方法

查询所有索引的映射:

get http://192.168.116.129:9200/_mapping

14

创建映射:

post http://localhost:9200/索引库名称/_mapping

更新映射

映射创建成功可以添加新字段,已有字段不允许更新。

删除映射

通过删除索引来删除映射。

常用映射类型

以下是 ES7 中所支持的核心的字段类型:

15

其中最主要也是最常用的类型就是 string,string 包括 text 和 keyword 两种类型:

text文本字段

text 表示正常的字符串数据,索引库需要对 text 字段的数据进行分词索引。下面介绍 text 类型中需要设置的属性:

analyzer

text 中通过 analyzer 属性指定分词器。

下边指定 name 的字段类型为 text,使用 ik 分词器的 ik_max_word 分词模式。

"name": {
    "type": "text", "analyzer":"ik_max_word"
}

上边指定了 analyzer 是指在索引和搜索都使用ik_max_word,如果单独想定义搜索时使用的分词器则可以通过 search_analyzer 属性。

对于ik分词器建议是索引时使用 ik_max_word 将搜索内容进行细粒度分词,搜索时使用 ik_smart 提高搜索精确性。

"name": {
    "type": "text", "analyzer":"ik_max_word", "search_analyzer":"ik_smart"
}

index

通过 index 属性指定是否索引。

默认为 index=true,即要进行索引,只有进行索引才可以从索引库搜索到。

但是也有一些内容不需要索引,比如:商品图片地址只被用来展示图片,不进行搜索图片,此时可以将 index设置为 false。

store

store 表示是否在 source 之外存储,每个文档索引后会在 ES 中保存一份原始文档,存放在”_source”中,一般情况下不需要设置 store 为 true,因为在_source 中已经有一份原始文档了。

keyword关键字字段

keyword 表示的是关键字字段,其已经是关键字了,并不会对其进行分词索引。

通常搜索 keyword 是按照整体搜索,所以创建keyword 字段的索引时是不进行分词的,比如:邮政编码、手机号码、身份证等。

keyword 字段通常用于过虑、排序、聚合等。

date日期类型

日期类型不用设置分词器。

通常日期类型的字段用于排序。

format

通过 format 设置日期格式,比如:

下边的设置允许 date 字段存储年月日时分秒、年月日及毫秒三种格式。

{
    "properties": {
        "timestamp": { 
            "type": "date", 
            "format": "yyyy‐MM‐dd HH:mm:ss||yyyy‐MM‐dd" 
        } 
    }
}

数值类型

下边是 ES 支持的数值类型

long

A signed 64-bit integer with a minimum value of -263 and a maximum value of 263-1.

integer

A signed 32-bit integer with a minimum value of -231 and a maximum value of 231-1.

short

A signed 16-bit integer with a minimum value of -32,768 and a maximum value of 32,767.

byte

A signed 8-bit integer with a minimum value of -128 and a maximum value of 127.

double

A double-precision 64-bit IEEE 754 floating point number, restricted to finite values.

float

A single-precision 32-bit IEEE 754 floating point number, restricted to finite values.

half_float

A half-precision 16-bit IEEE 754 floating point number, restricted to finite values.

scaled_float

A floating point number that is backed by a long, scaled by a fixed double scaling factor.

对于需要设置为数字类型的字段来说:

  • 尽量选择范围小的类型,提高搜索效率
  • 对于浮点数尽量用比例因子,比如一个价格字段,单位为元,我们将比例因子设置为100这在ES中会按分存储,映射如下:
"price": {
    "type": "scaled_float", "scaling_factor": 100 
},

由于比例因子为 100,如果我们输入的价格是 23.45则 ES 中会将 23.45 乘以 100 存储在 ES 中。

如果输入的价格是 23.456,ES会将 23.456 乘以100再取一个接近原始值的数,得出 2346。

使用比例因子的好处是整型比浮点型更易压缩,节省磁盘空间。

如果比例因子不适合,则从下表选择范围小的去用:

16