zoukankan      html  css  js  c++  java
  • ElasticSearch数据库同步插件logstash

      1.下载和elasticsearch 相同版本的logstash.

      2.进行解压后,进入bin下,新建一个文件mysql.conf,并输入

    input {
    stdin{
    }
    }

    output {
    stdout{
    }
    }

    3.cmd进入bin 下,输入logstash -f mysql.conf  启动后,输入  http://127.0.0.1:9600/

    4.ok;说明已经启动了

     

    一个配置

    input {
    stdin {
    }
    #可以设置多个jdbc,也就是多个表的映射,type和下面的进行对应
    jdbc {
    # mysql 数据库链接,shop为数据库名
    jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/cheng"
    # 用户名和密码
    jdbc_user => "root"
    jdbc_password => "admin"
    # 驱动
    jdbc_driver_library => "./../lib/mysql-connector-java-5.1.38.jar"
    # 驱动类名
    jdbc_driver_class => "com.mysql.jdbc.Driver"
    #是否分页查询
    jdbc_paging_enabled => "true"
    jdbc_page_size => "50000"
    # 执行的sql 文件路径+名称
    statement_filepath => "./mysql.sql"
    # 设置监听间隔 各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新
    schedule => "* * * * *"
    # 索引类型
    type => "content"
    }
    }


    filter {
    json {
    source => "message"
    remove_field => ["message"]
    }
    }


    output {
    #可以设置多个type,也就是多个表的映射
    if[type] == "content"{
    elasticsearch {
    hosts => ["localhost:9200"]
    #es索引名称
    index => "cmscontent"
    #自增ID编号
    document_id => "%{id}"
    }
    stdout {
    codec => json_lines
    }
    }
    }

     

  • 相关阅读:
    《浏览器工作原理与实践》读书笔记(4)
    在django中使用原生sql语句
    异步任务 ---- django-celery
    vue上传视屏或者图片到七牛云
    django项目初始化
    mysql 更新并生成指定范围随机数
    opencv基本命令学习整理
    docker分配CPU、内存资源
    傅里叶分析
    websocket协议性能测试(jmeter版)
  • 原文地址:https://www.cnblogs.com/chengyangyang/p/10184463.html
Copyright © 2011-2022 走看看