ElasticSearch7.6入门(elasticsearch7.10)

  本篇文章为你整理了ElasticSearch7.6入门(elasticsearch7.10)的详细内容,包含有elasticsearch7教程 elasticsearch7.10 elasticsearch7.12 elasticsearch7.8 ElasticSearch7.6入门,希望能帮助你了解 ElasticSearch7.6入门。

  笔记记录 B站狂神说Java的ElasticSearch课程:https://www.bilibili.com/video/BV17a4y1x7zq

  一、ElasticSearch概述

  官网:https://www.elastic.co/cn/downloads/elasticsearch

  Elaticsearch,简称为es,es是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储、检索数据;本身扩展性很好,可以扩展到上百台服务器,处理PB级别(大数据时代)的数据。es也使用java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。

  据国际权威的数据库产品评测机构DB Engines的统计,在2016年1月,ElasticSearch已超过Solr等,成为排名第一的搜索引擎类应用。

  谁在使用:

  1、维基百科,类似百度百科,全文检索,高亮,搜索推荐/2
 

  2、The Guardian (国外新闻网站) ,类似搜狐新闻,用户行为日志(点击,浏览,收藏,评论) +社交网络数据(对某某新闻的相关看法) ,数据分析,给到每篇新闻文章的作者,让他知道他的文章的公众反馈(好,坏,热门,垃圾,鄙视,崇拜)
 

  3、Stack Overflow (国外的程序异常讨论论坛) , IT问题,程序的报错,提交上去,有人会跟你讨论和回答,全文检索,搜索相关问题和答案,程序报错了,就会将报错信息粘贴到里面去,搜索有没有对应的答案
 

  4、GitHub (开源代码管理),搜索 上千亿行代码
 

  5、电商网站,检索商品
 

  6、日志数据分析, logstash采集日志, ES进行复杂的数据分析, ELK技术, elasticsearch+logstash+kibana
 

  7、商品价格监控网站,用户设定某商品的价格阈值,当低于该阈值的时候,发送通知消息给用户,比如说订阅牙膏的监控,如果高露洁牙膏的家庭套装低于50块钱,就通知我,我就去买
 

  8、BI系统,商业智能, Business Intelligence。比如说有个大型商场集团,BI ,分析一下某某区域最近3年的用户消费 金额的趋势以及用户群体的组成构成,产出相关的数张报表, **区,最近3年,每年消费金额呈现100%的增长,而且用户群体85%是高级白领,开-个新商场。ES执行数据分析和挖掘, Kibana进行数据可视化
 

  9、国内:站内搜索(电商,招聘,门户,等等),IT系统搜索(OA,CRM,ERP,等等),数据分析(ES热门
 

  的一一个使用场景)

  ES和Solr

  ElasticSearch简介

  Elasticsearch是一个实时分布式搜索和分析引擎。 它让你以前所未有的速度处理大数据成为可能。

  它用于全文搜索、结构化搜索、分析以及将这三者混合使用:

  维基百科使用Elasticsearch提供全文搜索并高亮关键字,以及输入实时搜索(search-asyou-type)和搜索纠错(did-you-mean)等搜索建议功能。

  英国卫报使用Elasticsearch结合用户日志和社交网络数据提供给他们的编辑以实时的反馈,以便及时了解公众对新发表的文章的回应。

  StackOverflow结合全文搜索与地理位置查询,以及more-like-this功能来找到相关的问题和答案。

  Github使用Elasticsearch检索1300亿行的代码。

  但是Elasticsearch不仅用于大型企业,它还让像DataDog以及Klout这样的创业公司将最初的想法变成可扩展的解决方案。

  Elasticsearch可以在你的笔记本上运行,也可以在数以百计的服务器上处理PB级别的数据。

  Elasticsearch是一个基于Apache Lucene(TM)的开源搜索引擎。无论在开源还是专有领域, Lucene可被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。

  但是, Lucene只是一个库。 想要使用它,你必须使用Java来作为开发语言并将其直接集成到你的应用中,更糟糕的是, Lucene非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。

  
Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。

  Solr简介

  Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化

  Solr可以独立运行,运行在letty. Tomcat等这些Selrvlet容器中 , Solr 索引的实现方法很简单,用POST方法向Solr服务器发送一个描述Field及其内容的XML文档, Solr根据xml文档添加、删除、更新索引。Solr 搜索只需要发送HTTP GET请求,然后对Solr返回xml、json等格式的查询结果进行解析,组织页面布局。

  Solr不提供构建UI的功能, Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。

  Solr是基于lucene开发企业级搜索服务器,实际上就是封装了lucene.

  Solr是一个独立的企业级搜索应用服务器,它对外提供类似于Web-service的API接口。用户可以通过http请求,向搜索引擎服务器提交-定格式的文件,生成索引;也可以通过提出查找请求,并得到返回结果。

  ElasticSearch与Solr比较

  当单纯的对已有数据进行搜索时,Solr更快

  当实时建立索引时,Solr会产生io阻塞,查询性能较差,ElasticSearch具有明显的优势

  随着数据量的增加,Solr的搜索效率会变得更低,而ElasticSearch却没有明显的变化

  转变我们的搜索基础设施后从Solr ElasticSearch,我们看见一个即时~ 50x提高搜索性能!

  1、es基本是开箱即用(解压就可以用!) ,非常简单。Solr安装略微复杂一丢丢!
 

  2、Solr 利用Zookeeper进行分布式管理,而Elasticsearch自身带有分布式协调管理功能。
 

  3、Solr 支持更多格式的数据,比如JSON、XML、 CSV ,而Elasticsearch仅支持json文件格式。
 

  4、Solr 官方提供的功能更多,而Elasticsearch本身更注重于核心功能,高级功能多有第三方插件提供,例如图形化界面需要kibana友好支撑
 

  5、Solr 查询快,但更新索引时慢(即插入删除慢) ,用于电商等查询多的应用;

  ES建立索引快(即查询慢) ,即实时性查询快,用于facebook新浪等搜索。

  Solr是传统搜索应用的有力解决方案,但Elasticsearch更适用于新兴的实时搜索应用。

  6、Solr比较成熟,有一个更大,更成熟的用户、开发和贡献者社区,而Elasticsearch相对开发维护者较少,更新太快,学习使用成本较高。

  二、ElasticSearch安装

  

JDK8,最低要求

 

  

 

  使用Java开发,必须保证ElasticSearch的版本与Java的核心jar包版本对应!(Java环境保证没错)

  这里在windows上进行安装

  Windows下安装

  ElasticSearch安装

  下载地址:https://www.elastic.co/cn/downloads/

  历史版本下载:https://www.elastic.co/cn/downloads/past-releases/

  解压即可(尽量将ElasticSearch相关工具放在统一目录下)

  

bin 启动文件目录

 

  config 配置文件目录

   1og4j2 日志配置文件

   jvm.options java 虚拟机相关的配置(默认启动占1g内存,内容不够需要自己调整)

   elasticsearch.ym1 elasticsearch 的配置文件! 默认9200端口!跨域!

   相关jar包

  modules 功能模块目录

  plugins 插件目录

   ik分词器

  

 

  启动ElasticSearch

  一定要检查自己的java环境是否配置好

  
 

  
 

  安装可视化界面

  

elasticsearch-head

 

  

 

  使用前提:需要安装nodejs

  elasticsearch-head下载地址

  https://github.com/mobz/elasticsearch-head

  解压即可(尽量将ElasticSearch相关工具放在统一目录下)

  3、启动elasticsearch-head

  

cd elasticsearch-head# 安装依赖npm install# 启动npm run start# 访问http://localhost:9100/

 

  

 

  安装依赖

  运行

  访问

  存在跨域问题(只有当两个页面同源,才能交互)

  同源(端口,主机,协议三者都相同)

  https://blog.csdn.net/qq_38128179/article/details/84956552

  开启跨域(在elasticsearch解压目录config下elasticsearch.yml中添加)

  

# 开启跨域

 

  http.cors.enabled: true

  # 所有人访问

  http.cors.allow-origin: "*"

  

 

  重启elasticsearch

  再次连接

  如何理解上图:

  
Kibana是一个针对ElasticSearch的开源分析及可视化平台,用来搜索、查看交互存储在Elasticsearch索引中的数据。使用Kibana ,可以通过各种图表进行高级数据分析及展示。Kibana让海量数据更容易理解。它操作简单,基于浏览器的用户界面可以快速创建仪表板( dashboard )实时显示Elasticsearch查询动态。设置Kibana非常简单。无需编码或者额外的基础架构,几分钟内就可以完成Kibana安装并启动Elasticsearch索引监测。

  kibana下载地址:

  下载的版本需要与ElasticSearch版本对应

  https://www.elastic.co/cn/downloads/

  历史版本下载:https://www.elastic.co/cn/downloads/past-releases/

  解压即可(尽量将ElasticSearch相关工具放在统一目录下)

  访问

  

localhost:5601

 

  

 

  4、开发工具

  (Postman、curl、head、谷歌浏览器插件)

  可以使用 Kibana进行测试
 

  
Elasticsearch、Logstash、 Kibana三大开源框架首字母大写简称

  。市面上也被成为Elastic Stack。

  其中Elasticsearch是一个基于Lucene、分布式、通过Restful方式进行交互的近实时搜索平台框架。

  像类似百度、谷歌这种大数据全文搜索引擎的场景都可以使用Elasticsearch作为底层支持框架,可见Elasticsearch提供的搜索能力确实强大,市面上很多时候我们简称Elasticsearch为es。

  
Logstash是ELK的中央数据流引擎,用于从不同目标(文件/数据存储/MQ )收集的不同格式数据,经过过滤后支持输出到不同目的地(文件/MQ/redis/elasticsearch/kafka等)。

  Kibana可以将elasticsearch的数据通过友好的页面展示出来 ,提供实时分析的功能。

  
市面上很多开发只要提到ELK能够一致说出它是一个日志分析架构技术栈总称 ,但实际上ELK不仅仅适用于日志分析,它还可以支持其它任何数据分析和收集的场景,日志分析和收集只是更具有代表性。并非唯一性。

  


 

 

  三、ElasticSearch核心概念

  1、索引(ElasticSearch)

  包多个分片

  2、字段类型(映射)

  字段类型映射(字段是整型,还是字符型…)

  3、文档

  4、分片(Lucene索引,倒排索引)

  ElasticSearch是面向文档,关系行数据库和ElasticSearch客观对比!一切都是JSON!

  
elasticsearch(集群)中可以包含多个索引(数据库) ,每个索引中可以包含多个类型(表) ,每个类型下又包含多个文档(行) ,每个文档中又包含多个字段(列)。

  物理设计:

  elasticsearch在后台把每个索引划分成多个分片,每分分片可以在集群中的不同服务器间迁移

  一个人就是一个集群! ,即启动的ElasticSearch服务,默认就是一个集群,且默认集群名为elasticsearch

  逻辑设计:

  一个索引类型中,包含多个文档,比如说文档1,文档2。当我们索引一篇文档时,可以通过这样的顺序找到它:索引 = 类型 = 文档ID ,通过这个组合我们就能索引到某个具体的文档。 注意:ID不必是整数,实际上它是个字符串。

  文档(”行“)

  之前说elasticsearch是面向文档的,那么就意味着索引和搜索数据的最小单位是文档,elasticsearch中,文档有几个重要属性:

  自我包含,一篇文档同时包含字段和对应的值,也就是同时包含key:value !

  可以是层次型的,一个文档中包含自文档,复杂的逻辑实体就是这么来的!

  灵活的结构,文档不依赖预先定义的模式,我们知道关系型数据库中,要提前定义字段才能使用,在elasticsearch中,对于字段是非常灵活的,有时候,我们可以忽略该字段,或者动态的添加一个新的字段。

  尽管我们可以随意的新增或者忽略某个字段,但是,每个字段的类型非常重要,比如一个年龄字段类型,可以是字符串也可以是整形。因为elasticsearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型,这也是为什么在elasticsearch中,类型有时候也称为映射类型。

  类型(“表”)

  类型是文档的逻辑容器,就像关系型数据库一样,表格是行的容器。类型中对于字段的定义称为映射,比如name映射为字符串类型。我们说文档是无模式的,它们不需要拥有映射中所定义的所有字段,比如新增一个字段,那么elasticsearch是怎么做的呢?

  elasticsearch会自动的将新字段加入映射,但是这个字段的不确定它是什么类型,elasticsearch就开始猜,如果这个值是18,那么elasticsearch会认为它是整形。但是elasticsearch也可能猜不对,所以最安全的方式就是提前定义好所需要的映射,这点跟关系型数据库殊途同归了,先定义好字段,然后再使用,别整什么幺蛾子。

  
索引是映射类型的容器, elasticsearch中的索引是一个非常大的文档集合。 索引存储了映射类型的字段和其他设置。然后它们被存储到了各个分片上了。我们来研究下分片是如何工作的。

  物理设计:节点和分片 如何工作

  创建新索引

  一个集群至少有一个节点,而一个节点就是一个elasricsearch进程,节点可以有多个索引默认的,如果你创建索引,那么索引将会有个5个分片(primary shard ,又称主分片)构成的,每一个主分片会有一个副本(replica shard,又称复制分片)

  上图是一个有3个节点的集群,可以看到主分片和对应的复制分片都不会在同一个节点内,这样有利于某个节点挂掉了,数据也不至于失。实际上,一个分片是一个Lucene索引(一个ElasticSearch索引包含多个Lucene索引) ,一个包含倒排索引的文件目录,倒排索引的结构使得elasticsearch在不扫描全部文档的情况下,就能告诉你哪些文档包含特定的关键字。不过,等等,倒排索引是什么鬼?

  倒排索引(Lucene索引底层)

  简单说就是 按(文章关键字,对应的文档 0个或多个 )形式建立索引,根据关键字就可直接查询对应的文档(含关键字的),无需查询每一个文档,如下图

  四、IK分词器(elasticsearch插件)

  IK分词器:中文分词器

  分词:即把一段中文或者别的划分成一个个的关键字,我们在搜索时候会把自己的信息进行分词,会把数据库中或者索引库中的数据进行分词,然后进行一一个匹配操作,默认的中文分词是将每个字看成一个词(不使用用IK分词器的情况下),比如“我爱狂神”会被分为”我”,”爱”,”狂”,”神” ,这显然是不符合要求的,所以我们需要安装中文分词器ik来解决这个问题。

  IK提供了两个分词算法: ik_smart和ik_max_word ,其中ik_smart为最少切分, ik_max_word为最细粒度划分!

  版本要与ElasticSearch版本对应

  下载地址:https://github.com/medcl/elasticsearch-analysis-ik/releases

  ik文件夹是自己创建的

  加压即可(但是我们需要解压到ElasticSearch的plugins目录ik文件夹下)

  3、重启ElasticSearch

  加载了IK分词器

  4、使用 ElasticSearch安装补录/bin/elasticsearch-plugin 可以查看插件

  

E:\ElasticSearch\elasticsearch-7.6.1\bin elasticsearch-plugin list

 

  

 

  5、使用kibana测试

  ik_smart:最少切分

  ik_max_word:最细粒度划分(穷尽词库的可能)

  从上面看,感觉分词都比较正常,但是大多数,分词都满足不了我们的想法,如下例

  那么,我们需要手动将该词添加到分词器的词典当中

  6、添加自定义的词添加到扩展字典中

  

elasticsearch目录/plugins/ik/config/IKAnalyzer.cfg.xml

 

  

 

  打开 IKAnalyzer.cfg.xml 文件,扩展字典

  创建字典文件,添加字典内容

  重启ElasticSearch,再次使用kibana测试

  以上就是ElasticSearch7.6入门(elasticsearch7.10)的详细内容,想要了解更多 ElasticSearch7.6入门的内容,请持续关注盛行IT软件开发工作室。

郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。

留言与评论(共有 条评论)
   
验证码: