第一代Hadoop框架有哪 hadoop 如何实现大数据

第一代Hadoop框架有哪

Hadoop1.0即第一代Hadoop，由分布式存储系统HDFS和分布式计算框架MapReduce组成，其中HDFS由一个NameNode和多个DateNode组成，MapReduce由一个JobTracker和多个TaskTracker组成。
Hadoop2.0即第二代Hadoop为克服Hadoop1.0中的不足：针对Hadoop1.0单NameNode制约HDFS的扩展性问题，提出HDFS Federation，它让多个NameNode分管不同的目录进而实现访问隔离和横向扩展，同时彻底解决了NameNode单点故障问题；针对Hadoop1.0中的MapReduce在扩展性和多框架支持等方面的不足，它将JobTracker中的资源管理和作业控制分开，分别由ResourceManager（负责所有应用程序的资源分配）和ApplicationMaster（负责管理一个应用程序）实现，即引入了资源管理框架Yarn。同时Yarn作为Hadoop2.0中的资源管理系统，它是一个通用的资源管理模块，可为各类应用程序进行资源管理和调度，不仅限于MapReduce一种框架，也可以为其他框架使用，如Tez、Spark、Storm等

hadoop 如何实现大数据

Hadoop本身是分布式框架，如果在hadoop框架下，需要配合hbase，hive等工具来进行大数据计算。如果具体深入还要了解HDFS，Map/Reduce，任务机制等等。如果要分析还要考虑其他分析展现工具。

大数据还有分析才有价值

用于分析大数据的工具主要有开源与商用两个生态圈。开源大数据生态圈：1、Hadoop HDFS、HadoopMapReduce, HBase、Hive 渐次诞生，早期Hadoop生态圈逐步形成。2、. Hypertable是另类。它存在于Hadoop生态圈之外，但也曾经有一些用户。3、NoSQL，membase、MongoDb商用大数据生态圈：1、一体机数据库/数据仓库：IBM PureData(Netezza), OracleExadata, SAP Hana等等。2、数据仓库：TeradataAsterData, EMC GreenPlum, HPVertica 等等。3、数据集市：QlikView、 Tableau 、 以及国内的Yonghong Data Mart 。

如何基于hadoop搭建大数据开源平台

这个就比较负责了，可以用hadoop hbase spark/storm进行平台构建，spark用于数据分析和处理、hbase用于将处理后的数据保存、hadoop用于离线分析和原始数据存储，具体的还得结合应用场景

一般，中型公司的大数据平台，hadoop几个节点

可以这样算，首先你要知道这个公司的数据量有多大，比如说有20pb，一般情况下，文件副本设置为3，那么就是60pb,这时候看电脑硬盘多大，然后用60pb除以单个硬盘的大小，得到的结果就是从节点的个数，为了以防万一，在这个节点数的基础上再多加几台。主节点的机器配置要求就比较高了，内存，硬盘之类的要比从节点好太多，主节点一般是一台，如果为了避免单点故障也就是主节点突然挂了，可以使用ha机制再增加一台主节点备用，这样一旦主节点出现问题，另一台主节点能立刻工作，不会出现数据丢失！