Apache Storm - 简介

什么是 Apache Storm?

Apache Storm 是一个分布式实时大数据处理系统。 Storm 旨在以容错和水平可扩展的方法处理大量数据。 它是一个流数据框架,具有最高摄取率的能力。 虽然 Storm 是无状态的,但它通过 Apache ZooKeeper 管理分布式环境和集群状态。 它很简单,您可以对实时数据并行执行各种操作。

Apache Storm 继续成为实时数据分析领域的领导者。 Storm 易于设置和操作,它保证每条消息都将通过 topology 至少处理一次。


Apache Storm 与 Hadoop

Hadoop 和 Storm 框架基本上用于分析大数据。 两者相辅相成,在某些方面有所不同。 Apache Storm 完成了除持久性之外的所有操作,而 Hadoop 擅长一切,但在实时计算方面滞后。 下表比较了 Storm 和 Hadoop 的属性。

Storm Hadoop
实时流处理 批处理
无状态 有状态
具有基于 ZooKeeper 协调的主/从架构。 主节点称为nimbus,从节点称为supervisors 具有/不具有基于 ZooKeeper 的协调的主从架构。 主节点是job tracker,从节点是task tracker
Storm 流式处理可以在集群上每秒访问数万条消息。 Hadoop 分布式文件系统 (HDFS) 使用 MapReduce 框架来处理需要数分钟或数小时的海量数据。
Storm topology 会一直运行,直到用户关闭或发生不可恢复的意外故障。 MapReduce 作业按顺序执行并最终完成。
两者都是分布式和容错的
如果 nimbus / supervisor 死了,重新启动会使其从停止的地方继续,因此不会受到任何影响。 如果 JobTracker 死掉,所有正在运行的作业都将丢失。

Apache Storm 的用例

Apache Storm 以实时大数据流处理而闻名。 出于这个原因,大多数公司都将 Storm 用作其系统的一个组成部分。 一些值得注意的例子如下 −

Twitter − Twitter 正在将 Apache Storm 用于其"发布者分析产品"系列。 "发布者分析产品"处理 Twitter 平台中的每条推文和点击。 Apache Storm 与 Twitter 基础架构深度集成。

NaviSite − NaviSite 将 Storm 用于事件日志监控/审核系统。 系统中产生的每一条日志都会经过Storm。 Storm 将根据配置的正则表达式集检查消息,如果匹配,则该特定消息将保存到数据库中。

Wego − Wego 是位于新加坡的旅游元搜索引擎。 旅行相关数据来自世界各地不同时间的许多来源。 Storm 帮助 Wego 搜索实时数据,解决并发问题并为最终用户找到最佳匹配。


Apache Storm 优势

以下是 Apache Storm 提供的优势列表 −

  • Storm 是开源、强大且用户友好的。 它可以在小公司和大公司中使用。

  • Storm 容错、灵活、可靠,并且支持任何编程语言。

  • 允许实时流处理。

  • Storm 速度快得令人难以置信,因为它处理数据的能力非常强大。

  • Storm 通过线性添加资源,即使在负载增加的情况下也能保持性能。 它具有高度可扩展性。

  • Storm 在几秒或几分钟内执行数据刷新和端到端交付响应,具体取决于问题。 它的延迟非常低。

  • Storm 具有操作智能。

  • Storm 提供有保证的数据处理,即使集群中的任何连接节点死亡或消息丢失。