当前位置:   article > 正文

elastic search与postgresql的数据同步_elasticsearch+数据采集postgrel

elasticsearch+数据采集postgrel

方案选择

由于是针对业务数据做全文搜索,数据存在数据库里,所以将这些数据同步到 ES ,怎么做呢,无非两种方式:一是通过 ES 的 API 进行增删改查,二是通过中间件进行数据全量、增量的同步。很明显 API 的方式比较麻烦,那就试试第二种吧。中间件的方式总共搜了三种方案:

方案1:elasticsearch-jdbc
一个 独立的第三方工具。使用很简单,写个 shell 脚本就行了:

这个工具的活跃度也很高,问题是它的版本兼容性:目前最高只兼容Elasticsearch2.3.4

elastic 官方已经把 Elasticsearch、Logstash 、Kibana 版本升级到5.x版本,现在统一是5.2.2,这和以前的2.x在插件机制上有一些差异,个人倾向于使用最新版,所以这个工具暂时放弃了。

方案2:logstash-input-jdbc
logstash 的一个jdbc 插件,ruby 写的,据说不太好装,logstash 印象里一直是做日志文件收集的,尤其我们的数据库不是常见的 mysql、oracle,而是 postgresql ,感觉趟这个坑的人不多,没信心一定能成功。

方案3 :PostgreSQL 的 ElasticSearch 同步插件
直接用 PostgreSQL 的插件,国内 PG 的大牛德哥在云栖社区贴了

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号