java未来趋势 Java促进大数据的大发展

2017-06-15

没有Java,甚至不会有大数据的大发展,Hadoop本身就是用Java编写的。当你需要在运行MapReduce的服务器集群上发布新功能时,你需


要进行动态的部署,而这正是Java所擅长的。



大数据领域支持Java的主流开源工具:


1. HDFS


HDFS是Hadoop应用程序中主要的分布式储存系统, HDFS集群包含了一个NameNode(主节点),这个节点负责管理所有文件系统的元数据


及存储了真实数据的DataNode(数据节点,可以有很多)。HDFS针对海量数据所设计,所以相比传统文件系统在大批量小文件上的优化,


HDFS优化的则是对小批量大型文件的访问和存储。


2. MapReduce


Hadoop MapReduce是一个软件框架,用以轻松编写处理海量(TB级)数据的并行应用程序,以可靠和容错的方式连接大型集群中上万个节


点(商用硬件)。


3. HBase


Apache HBase是Hadoop数据库,一个分布式、可扩展的大数据存储。它提供了大数据集上随机和实时的读/写访问,并针对了商用服务器


集群上的大型表格做出优化——上百亿行,上千万列。其核心是Google Bigtable论文的开源实现,分布式列式存储。就像Bigtable利用


GFS(Google File System)提供的分布式数据存储一样,它是Apache Hadoop在HDFS基础上提供的一个类Bigatable。


4. Cassandra


Apache Cassandra是一个高性能、可线性扩展、高有效性数据库,可以运行在商用硬件或云基础设施上打造完美的任务关键性数据平台。


在横跨数据中心的复制中,Cassandra同类最佳,为用户提供更低的延时以及更可靠的灾难备份。通过log-structured update、反规范化


和物化视图的强支持以及强大的内置缓存,Cassandra的数据模型提供了方便的二级索引(column indexe)。


5. Hive


Apache Hive是Hadoop的一个数据仓库系统,促进了数据的综述(将结构化的数据文件映射为一张数据库表)、即席查询以及存储在


Hadoop兼容系统中的大型数据集分析。Hive提供完整的SQL查询功能——HiveQL语言,同时当使用这个语言表达一个逻辑变得低效和繁琐


时,HiveQL还允许传统的Map/Reduce程序员使用自己定制的Mapper和Reducer。


6. Pig


Apache Pig是一个用于大型数据集分析的平台,它包含了一个用于数据分析应用的高级语言以及评估这些应用的基础设施。Pig应用的闪


光特性在于它们的结构经得起大量的并行,也就是说让它们支撑起非常大的数据集。Pig的基础设施层包含了产生Map-Reduce任务的编译


器。Pig的语言层当前包含了一个原生语言——Pig Latin,开发的初衷是易于编程和保证可扩展性。





u=3153038839,885827528&fm=26&gp=0.jpg







7. Chukwa


Apache Chukwa是个开源的数据收集系统,用以监视大型分布系统。建立于HDFS和Map/Reduce框架之上,继承了Hadoop的可扩展性和稳定


性。Chukwa同样包含了一个灵活和强大的工具包,用以显示、监视和分析结果,以保证数据的使用达到最佳效果。


8. Ambari


Apache Ambari是一个基于web的工具,用于配置、管理和监视Apache Hadoop集群,支持Hadoop HDFS,、Hadoop MapReduce、Hive、


HCatalog,、HBase、ZooKeeper、Oozie、Pig和Sqoop。Ambari同样还提供了集群状况仪表盘,比如heatmaps和查看MapReduce、Pig、Hive


应用程序的能力,以友好的用户界面对它们的性能特性进行诊断。


9. ZooKeeper


Apache ZooKeeper是一个针对大型分布式系统的可靠协调系统,提供的功能包括:配置维护、命名服务、分布式同步、组服务等。


ZooKeeper的目标就是封装好复杂易出错的关键服务,将简单易用的接口和性能高效、功能稳定的系统提供给用户。


10. Sqoop


Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库中数据导入Hadoop的HDFS中,也可以将


HDFS中数据导入关系型数据库中。


11. Oozie


Apache Oozie是一个可扩展、可靠及可扩充的工作流调度系统,用以管理Hadoop作业。Oozie Workflow作业是活动的Directed Acyclical 


Graphs(DAGs)。Oozie Coordinator作业是由周期性的Oozie Workflow作业触发,周期一般决定于时间(频率)和数据可用性。Oozie与


余下的Hadoop堆栈结合使用,开箱即用的支持多种类型Hadoop作业(比如:Java map-reduce、Streaming map-reduce、Pig、 Hive、


Sqoop和Distcp)以及其它系统作业(比如Java程序和Shell脚本)。


12. Mahout


Apache Mahout是个可扩展的机器学习和数据挖掘库,当前Mahout支持主要的4个用例:


推荐挖掘:搜集用户动作并以此给用户推荐可能喜欢的事物。


聚集:收集文件并进行相关文件分组。


分类:从现有的分类文档中学习,寻找文档中的相似特征,并为无标签的文档进行正确的归类。


频繁项集挖掘:将一组项分组,并识别哪些个别项会经常一起出现。


13. HCatalog


Apache HCatalog是Hadoop建立数据的映射表和存储管理服务,它包括:


提供一个共享模式和数据类型机制。


提供一个抽象表,这样用户就不需要关注数据存储的方式和地址。


为类似Pig、MapReduce及Hive这些数据处理工具提供互操作性。



上一篇:小程序想要最短服务路径

下一篇:小程序想要连接一切