elasticsearch的DSL查询文档

news2024/9/24 21:16:34

DSL查询分类

查询所有：查询出所有数据，一般测试用。例如：match_all

全文检索（full text）查询：利用分词器对用户输入内容分词，然后去倒排索引库中匹配。例如：

match_query

multi_match_query

精确查询：根据精确词条值查找数据，一般是查找keyword、数值、日期、boolean等类型字段。例如：

ids

range

term

地理（geo）查询：根据经纬度查询。例如：

geo_distance

geo_bounding_box

复合（compound）查询：复合查询可以将上述各种查询条件组合起来，合并查询条件。例如：

bool

function_score

全文检索查询

常见的全文检索查询包括：

match查询：单字段查询

multi_match查询：多字段查询，任意一个字段符合条件就算符合查询条件

match查询

match查询：单字段查询

GET /hotel/_search
{
  "query": {
    "match": {
      "all": "如家"
    }
  }
}

结果

mulit_match

multi_match查询：多字段查询，任意一个字段符合条件就算符合查询条件

GET /hotel/_search
{
  "query": {
    "multi_match": {
      "query": "百家",
      "fields": ["brand", "name"]
    }
  }
}

结果

两种查询结果是一样的，因为我们将brand、name、business值都利用copy_to复制到了all字段中。因此你根据三个字段搜索，和根据all字段搜索效果当然一样了。但是，搜索字段越多，对查询性能影响越大，因此建议采用copy_to，然后单字段查询的方式。

精准查询

因为精确查询的字段搜是不分词的字段，因此查询的条件也必须是不分词的词条。查询时，用户输入的内容跟自动值完全匹配时才认为符合条件。如果用户输入的内容过多，反而搜索不到数据

精确查询一般是查找keyword、数值、日期、boolean等类型字段。所以不会对搜索条件分词。常见的有：

term：根据词条精确值查询

range：根据值的范围查询

term查询

根据词条精确值查询

GET /hotel/_search
{
  "query": {
    "term": {
      "city": {
        "value": "北京"
      }
    }
  }
}

结果

range查询

根据值的范围查询,这里的gte代表大于等于，gt则代表大于,lte代表小于等于，lt则代表小于

GET /hotel/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 10, 
        "lte": 200 
      }
    }
  }
}

地理坐标查询

所谓的地理坐标查询，其实就是根据经纬度查询

矩形范围查询

矩形范围查询，也就是geo_bounding_box查询，查询坐标落在某个矩形范围的所有文档,需要指定矩形的top_left:左上、bottom_right:右下两个点的坐标，然后画出一个矩形，落在该矩形内的都是符合条件的点

GET /hotel/_search
{
  "query": {
    "geo_bounding_box": {
      "location": {
        "top_left": { 
          "lat": 31.1,
          "lon": 121.5
        },
      "bottom_right": {
          "lat": 30.9,
          "lon": 121.7
        }
      }
    }
  }
}

结果获得附近的人

附近查询

附近查询，也叫做距离查询（geo_distance）：查询到指定中心点小于某个距离值的所有文档，换句话来说，在地图上找一个点作为圆心，以指定距离为半径，画一个圆，落在圆内的坐标都算符合条件

GET /hotel/_search
{
  "query": {
    "geo_distance": {
      "distance": "15km", 
      "location": "31.21,121.5" 
      }
  }
}

获得附近15km为圆形的结果

复合查询

复合（compound）查询：复合查询可以将其它简单查询组合起来，实现更复杂的搜索逻辑。常见的有两种：

fuction score：算分函数查询，可以控制文档相关性算分，控制文档排名

bool query：布尔查询，利用逻辑关系组合多个其它的查询，实现复杂搜索

算分函数查询

当我们利用match查询时，文档结果会根据与搜索词条的关联度打分（_score），返回结果时按照分值降序排列

unction score 查询中包含四部分内容：

原始查询条件：query部分，基于这个条件搜索文档，并且基于BM25算法给文档打分，原始算分（query score)

过滤条件：filter部分，符合该条件的文档才会重新算分

算分函数：符合filter条件的文档要根据这个函数做运算，得到的函数算分（function score），有四种函数

weight：函数结果是常量

field_value_factor：以文档中的某个字段值作为函数结果

random_score：以随机数作为函数结果

script_score：自定义算分函数算法

运算模式：算分函数的结果、原始查询的相关性算分，两者之间的运算方式，包括：

multiply：相乘

replace：用function score替换query score

其它，例如：sum、avg、max、min

GET /hotel/_search
{
    "query": {
      "function_score": {
        "query": {  
          "match": {
          "all": "百家"
          }
        }, 
        "functions": [
          {
            "filter": {
              "term": {
                "brand": "如家"
              }
             },
             "weight": 2
            }
        ],
        "boost_mode": "sum" 
      }
    }
  }

结果

布尔查询

布尔查询是一个或多个查询子句的组合，每一个子句就是一个子查询。子查询的组合方式有：

must：必须匹配每个子查询，类似“与”

should：选择性匹配子查询，类似“或”

must_not：必须不匹配，不参与算分，类似“非”

filter：必须匹配，不参与算分

GET /hotel/_search
{
  "query": {
    "bool": {
      "must": [
        {"term": {"city": "上海" }}
      ],
      "should": [
        {"term": {"brand": "皇冠假日" }},
        {"term": {"brand": "华美达" }}
      ],
      "must_not": [
        { "range": { "price": { "lte": 500 } }}
      ],
      "filter": [
        { "range": {"score": { "gte": 45 } }}
      ]
    }
  }
}

结果

需要注意的是，搜索时，参与打分的字段越多，查询的性能也越差。因此这种多条件查询时，建议这样做：

搜索框的关键字搜索，是全文检索查询，使用must查询，参与算分
其它过滤条件，采用filter查询。不参与算分

搜索结果处理

搜索的结果可以按照用户指定的方式去处理或展示

排序

elasticsearch默认是根据相关度算分（_score）来排序，但是也支持自定义方式对搜索结果排序。可以排序字段类型有：keyword类型、数值类型、地理坐标类型、日期类型等

普通字段排序

keyword、数值、日期类型排序的语法基本一致

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "score": "desc"
    },
    {
      "price":"asc"
    }
  ]
}

结果

地理坐标排序

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "_geo_distance" : {
          "location" : {
            "lat":31.030001,
            "lon":121.610000
          }, 
          "order" : "asc", 
          "unit" : "km" 
      }
    }
  ]
}

指定一个坐标，作为目标点

计算每一个文档中，指定字段（必须是geo_point类型）的坐标到目标点的距离是多少

根据距离排序

分页

elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果

from：从第几个文档开始
size：总共查询几个文档

基本的分页

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 0,
  "size": 10,
  "sort": [
    {"price": "asc"}
  ]
}

结果

深度分页问题

现在，我要查询990~1000的数据，查询逻辑要这么写

GET /hotel/_search
{
  "query": {
   "match_all": {}
  },
  "from": 990,
  "size": 10, 
  "sort": [
    {"price": "asc"}
  ]
}

当查询分页深度较大时，汇总数据过多，对内存和CPU会产生非常大的压力，因此elasticsearch会禁止from+ size 超过10000的请求

针对深度分页，ES提供了两种解决方案:

search after：分页时需要排序，原理是从上一次的排序值开始，查询下一页数据。官方推荐使用的方式。
scroll：原理将排序后的文档id形成快照，保存在内存。官方已经不推荐使用。

高亮

GET /hotel/_search
{
  "query": {
    "match": {
    "all": "百家" 
    }
  },
  "highlight": {
    "fields": { 
      "name": {
      "pre_tags": "<em>", 
        "post_tags": "</em>",
        "require_field_match": "false"
      }
    }
  }
}

结果