Windows Logstash同步 Sqlserver 到Elasticsearch[亲测有效]

Windows Logstash同步 Sqlserver 到Elasticsearch[亲测有效]
1下载与Elasticsearch对应版本Logstash7.13.2 与数据库驱动JDBC 下载地址:https://artifacts.elastic….

	Windows   Logstash同步  Sqlserver 到Elasticsearch[数据库教程]

1下载与Elasticsearch对应版本Logstash7.13.2 与数据库驱动JDBC

下载地址:https://artifacts.elastic.co/downloads/logstash/logstash-7.13.2-windows-x86_64.zip
JDBC  https://docs.microsoft.com/en-us/sql/connect/jdbc/download-microsoft-jdbc-driver-for-sql-server?view=sql-server-ver15

2.Logstash下载完成,解压,在bin文件下面创建jdbcconfig文件夹

技术图片

 

 

 3.Logstash配置

在jdbcconfig文件夹下面创建jdbc.conf,如图:

技术图片

配置如下:

input {
stdin {
    }
  jdbc {
     #数据库驱动所在位置,可以是绝对路径或者相对路径
    jdbc_driver_library => "D:softwareElasticsearchlogstash-7.13.2injdbcconfigmssql-jdbc-9.2.1.jre8.jar"
    #驱动类名
    jdbc_driver_class => "com.microsoft.sqlserver.jdbc.SQLServerDriver"
     #数据库连接
    jdbc_connection_string => "jdbc:sqlserver://服务器名称;DatabaseName=CstCRMTest;"
    #用户
    jdbc_user => "sa"
    #密码
    jdbc_password => "const-123456"
    #设置定时任务间隔  含义:分、时、天、月、年,全部为*默认含义为每分钟跑一次任务
    schedule => "* * * * *"
    #sql语句
    statement => "SELECT  [Id]
      ,[QuoteCode]
      ,[QuoteName]
      ,[CustomerId]
      ,[QuotePerson]
      ,[UserId]
      ,[QuotePhone]
      ,[PayType]
      ,[QuoteVailDate]
      ,[LeadTime]
      ,[QuoteDate]
      ,[CompanyPhone]
      ,[CompanyAddress]
      ,[CompanyUrl]
      ,[Remark]
      ,[CreatedTime]
      ,CONVERT (VARCHAR (30),UpdatedTime,25) AS updatedTime
      ,[CreatedUser]
      ,[UpdatedUser]
    FROM [CstCRMTEST].[dbo].[T_Quote]  where  updatedTime>:sql_last_value"
    #sql可执行文件
    #statement_filepath => "路径"
    #是否开启记录上次追踪的结果,也就是上次更新的时间,这个会记录到 last_run_metadata_path 的文件
    use_column_value => true
    # 对应字段的类型
    tracking_column_type => "timestamp"
    #如果 use_column_value 为true, 配置本参数,追踪的 column 名,可以是自增id或者时间
    tracking_column => "updatedTime"
    #是否记录上次执行结果, 如果record_last_run为真,将会把上次执行到的 tracking_column 字段的值记录下来,保存到 last_run_metadata_path 指定的文件中
    record_last_run => true
    # 记录上一次追踪的结果值,保存文件到对应路径中
     last_run_metadata_path => "D:softwareElasticsearchlogstash-7.13.2injdbcconfigupdatedTime.txt"
      # 索引类型
      #type => "_doc"
      # 数据库字段名称大写转小写
      lowercase_column_names => false
     #是否清除 last_run_metadata_path 的记录,如果为真那么每次都相当于从头开始查询所有的数据库记录
     #clean_run : 
  }
}
 
 
output {
    elasticsearch {
        # ES的IP地址及端口
        hosts => ["localhost:9200"]
        # 索引名称 可自定义(只可以小写)
        index => "quote"
        document_type => "out"
        # 需要关联的数据库中有有一个id字段,对应类型中的id
        document_id => "%{Id}"
    
    }
 stdout {
       # codec => json_lines
#设置输出的格式
   codec => line {
  format => "updatedTime: %{[updatedTime]}"
   }
    }

}

配置完成   bin 目录下,执行.logstash -f .jdbcconfigjdbc.conf –path.data=/jdbcconfig/

 

Windows Logstash同步 Sqlserver 到Elasticsearch

原文地址:https://www.cnblogs.com/wxxf/p/15061452.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/6005.html

(0)
上一篇 2023-04-19 13:30
下一篇 2023-04-19

相关推荐

  • 用Matplotlib绘制折线图展示数据随时间变化趋势的方法

    用Matplotlib绘制折线图展示数据随时间变化趋势的方法Matplotlib是一个Python 2D绘图库,它能够生成各种硬拷贝格式和跨平台交互式环境的出版物质量的图形。Matplotlib可以作为NumPy和SciPy等科学Python库的许多应用程序中的绘图扩展。

    2024-09-12
    26
  • Python操作系统统计信息

    Python操作系统统计信息1、使用OS模块的一些基本函数能够获取操作系统的一些基本信息。例如:

    2024-01-05
    118
  • Mybatis3详解(六)——动态SQL

    Mybatis3详解(六)——动态SQL
    1、动态SQL介绍 if 标签:简单的条件判断。where 标签:相当于where关键字,并且能智能的处理and or ,不必担心多余导致语法错误。set …

    2023-04-05
    149
  • 面试官:Redis中字符串的内部实现方式是什么?[通俗易懂]

    面试官:Redis中字符串的内部实现方式是什么?[通俗易懂]在面试间里等候时,感觉这可真暖和呀,我那冰冷的出租屋还得盖两层被子才能睡着。正要把外套脱下来,我突然听到了门外的脚步声,随即门被打开,穿着干净满脸清秀的青年走了进来,一股男士香水的淡香扑面而来。 面试

    2023-05-08
    150
  • 01 – 为SQL Server高可用集群配置域控制器「建议收藏」

    01 – 为SQL Server高可用集群配置域控制器「建议收藏」
    In this series for SQL Server Always On Availability Groups, we are covering e…

    2023-04-08
    141
  • Python模块:Pandas数据处理与分析

    Python模块:Pandas数据处理与分析Pandas是一个数据处理和分析的Python库,在数据的清洗、整理、处理、分析等方面提供了很多功能,使得数据分析变得更加高效、简便。它的核心是两个数据结构:Series和DataFrame。Series是一种一维数组,可以用来存储一些列标签或一些应用标签的数据,而DataFrame则是二维结构,类似于表格,可以存储多种类型的数据。Pandas是基于Numpy框架建立的,可以很好地与其它科学计算库协作使用。

    2024-03-27
    79
  • Python正则表达式:用字符模式匹配和替换文本

    Python正则表达式:用字符模式匹配和替换文本在正式介绍Python正则表达式之前,需要先了解一些正则表达式的基础知识。正则表达式是一种描述字符串结构的方法,帮助我们在文本中查找、匹配和替换特定的字符或字符串。正则表达式通常由字符、元字符和模式组成。其中,字符指的是正则表达式中的普通字母和数字,用来匹配对应的字符或数字。而元字符是特殊字符,具有特殊的含义,常用来描述模式,如通配符、边界、重复等。模式是由字符和元字符组成的匹配规则。

    2023-12-14
    118
  • delete-drop语句生成的存储过程[亲测有效]

    delete-drop语句生成的存储过程[亲测有效]问题: 开发时有时候需要对很多表进行操作。 例如:清空(删除)所有(某些)表,删除所有表某时间点之后导入的数据(类似于回滚) 解决方式: 对选定的表集合执行相同的查询条件(可为空),如果这个执行结果大

    2023-05-05
    219

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注