大数据测试之hadoop系统生态
2023-12-05 16:23:07
poptest是国内唯一一家培养测试开发工程师的培训机构,以学员能胜任自动化测试,性能测试,测试工具开发等工作为目标,也是国内最早探索大数据测试培训的机构,开发了独有的课程体系。如果对课程感兴趣,请大家咨询qq:908821478,咨询电话010-84505200。
MapReduce:分布式数据处理模型和执行环境、运行于大型商用机集群。
ZooKeeper:一个分布式、高可用的协调服务。ZooKeeper提供分布式锁之类的基本服务用于构建分布式应用。
HDFS: 分布式文件系统,运行于大型商用机集群。 Hadoop体系最底层的一个模块。为Hadoop各子项目提供各种工具,如:配置文件和日志操作等。
HBase: 一个分布式、按列存储的数据库。HBase 使用 HDFS作为底层存储,同时支持 MapReduce 的批量式计算和点查询(随机读取)。
Pig:一种数据流语言和运行环境,用以检索非常大的数据集。Pig 运行在MapReduce 和 HDFS 的集群上。
Hive:一个分布式、按列存储的数据仓库。 Hive 管理 HDFS中存储的数据,并提供基于 SQL 的查询语言(由运行时引擎翻译成 MapReduce作业)用以查询数据。
Avro:支持高效、跨语言的 RPC以及永久存储数据的序列化实现,主要负责数据的序列化。
Mahout:一个可扩展的机器学习和数据挖掘
最新文章
- JAVA-堆区,栈区,方法区。
- Power of Three
- 实验二 PHP基本语法实验
- External Storage 数据存储
- Cookies和Session的区别
- C中的setjmp与longjmp
- 软件授权协议有什么作用,例如GPL、Apache License、CDDL、EPL这些协议有什么区别?
- HDU 2089 不要62(挖个坑=-=)
- js字符串比较
- 每日java基础知识(01)
- URL和HTTP协议(无图片)
- Leetcode题解(十五)
- jmeter通过org.sqlite.JDBC驱动连接db数据库
- XML解析之sax解析案例(二)使用sax解析把 xml文档封装成对象
- 【UOJ#177】欧拉回路
- 导入maven项目导入依赖不会报错,但使用的jar会标红
- log4j2的配置及使用
- thymeleaf之下拉框回显选中
- PyQt5--QPixmap
- HDU 3511 圆扫描线