Logstash一个开源收集引擎,具有近实时的管道功能
文章目录
Logstash的介绍
Logstash是一个开源的数据收集引擎,具有近实时的管道能力,Logstash能够从不同的数据源中动态统一出标准化数据,并将格式化的数据输入到你所指定的目标。为形形色色的且不断增加的下游数据分析和可视化等使用案例,提供数据清理和普适。
虽然Logstash最初推动了日志收集方面的创新,但其功能远远超出了该用例。 任何类型的事件都可以通过各种各样的输入,过滤器和输出插件来丰富和转换,使许多本机编解码器进一步简化了提取过程。 Logstash通过利用利用更大容量和更多样化的数据,来加快您的对其的深入了解。
Logstash的能力
Logstash 有可插拔的管道架构,具有可扩展的社区,并且具有友好的开发者插件生态,超过200种可食用的插件,为你的使用灵活创建和分配
日志和指标
- 处理所有类型的日志
- 拥有接受Filebeat安全日志转发的能力
- 收集基础设施和应用平台的指标
web方面
- 将HTTP请求转化为事件进行处理,例如消费类似Twitter的网络服务,进行社会情感分析
- 根据需求轮询
HTTP endpoint
创建时间,例如获取健康状态/指标/web应用接口其他数据
数据和数据流
- 利用JDBC从关系型数据和NoSQL更好的理解你数据的价值
- 统一多种从队列中消费的数据流,这类的队列有很多,例如 Apache Kafka, RabbitMQ, Amazon SQS
传感器和物联网
- 在这个技术进步的时代,庞大的物联网世界通过捕获和利用来自连接的传感器的数据释放出无穷的用例。
- Logstash是常见事件收集主干,用于提取从移动设备传送到智能家居,联网汽车,医疗保健传感器以及许多其他特定于行业的应用程序的数据。
数据存储
你可以根据你的需求将数据路由到不同的地方,用于给下游进行数据分析、存储和操作
- 数据分析
- Elasticsearch
- Data stores such as MongoDB and Riak
- 数据归档
- HDF
- SS3
- 监控数据
- Nagios
- Ganglia
- Zabbix
- Graphite
- Datadog
- CloudWatch
- 实时告警
- Watcher with Elasticsearch
- Pagerduty
- IRC
- SNS
Logstash初窥门径
检查Java版本
Logstash需要的版本入下:
- Java 8
- Java 11
- Java 14
首先可以使用java -version
检查你的jdk版本,并且Logstash在使用时需要设置JAVA_HOME来指定Java版本,也就是说 必须设置JAVA_HOME环境变量,Logstash才能正常运行。(其实修改启动脚本,然后再启动时set JAVA_HOME=/jdk_path
貌似也是可以的)