A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© jieyu90 高级黑马   /  2014-5-8 12:33  /  4195 人查看  /  35 人回复  /   3 人收藏 转载请遵从CC协议 禁止商业使用本文

本帖最后由 jieyu90 于 2014-7-24 08:35 编辑

现在大数据的火热程度应该不用楼主多说了,伴随着大数据一起火起来的还有Hadoop、Storm、Spark等大数据的处理工具,什么,作为物联云班级的准程序员,你竟然没听过Storm、Spark,下面让楼主用几句话带你综览一下这三门技术:

Hadoop、Spark、Storm都是JVM上的语言写成的,其中Storm由java和clojure编写,Spark由Scala编写,Hadoop你知道的,他们的区别在于各自应用的侧重点不同:


  • Hadoop主要用于离线计算(历史数据分析),如服务器上的日志数据,这种数据的特点就是数据量大,但是对时间要求不高。
  • Spark可以做的事和Hadoop差不多,只是Spark的中间数据放到内存中,对于迭代运算效率更高,对于某些计算的性能据说超Hadoop百倍。现在也有很多公司正在尝试部署Spark集群代替Hadoop集群。(详见:http://www.searchbi.com.cn/showcontent_76540.htm)
  • Storm用于对实时性要求较高的场合,全内存计算,速度快时延小,这种计算框架的想象空间较Hadoop更大。目前不少互联网企业都有这方面的要求(详见:http://www.zhihu.com/question/20098507)

楼主现在在学校就是做实时计算这块的研究(主要是Storm框架,还有一些zookeeper、kafka之类的工具),如果有什么疑问,可以在下面一起讨论,另外附上前阵子做的一个关于Storm的报告(很基础):
游客,如果您要查看本帖隐藏内容请回复






评分

参与人数 1技术分 +2 收起 理由
王震阳老师 + 2 赞一个!

查看全部评分

35 个回复

倒序浏览
沙发,上标签+收藏,楼主多多发发云方面的资料。
回复 使用道具 举报
zimi626 发表于 2014-5-8 18:22
沙发,上标签+收藏,楼主多多发发云方面的资料。

好的好的:handshake
回复 使用道具 举报
好帖子,谢谢楼主

回复 使用道具 举报
貌似好厉害!看一看!
回复 使用道具 举报
貌似好厉害!看一看!
回复 使用道具 举报
看看 :lol
回复 使用道具 举报
来看看~~~
回复 使用道具 举报
帅哥哥 来自手机 高级黑马 2014-5-9 23:25:17
9#
那天听公开课了,谢楼主分享!
回复 使用道具 举报
看安安看安安看安安看安安看安安看安安
回复 使用道具 举报
Storm。。。。
回复 使用道具 举报
看看看看学习学习
回复 使用道具 举报
不错不错
回复 使用道具 举报
看看:handshake
回复 使用道具 举报
看一下  顺便收藏
回复 使用道具 举报
学习学习!
回复 使用道具 举报
学习学习!
回复 使用道具 举报
看看 谢谢分享~~~~~~~·
回复 使用道具 举报
学习学习!
回复 使用道具 举报
开开喽!!!!
回复 使用道具 举报
12下一页
您需要登录后才可以回帖 登录 | 加入黑马