IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 大数据之Hadoop(二) -> 正文阅读

[大数据]大数据之Hadoop(二)


前言

#博学谷IT学习技术支持#
上篇文章主要介绍了HDFS框架中的三大角色,本次主要介绍HDFS的读写流程和,让大家对HDFS有更深一步的了解。

一、HDFS的写流程

在这里插入图片描述

(一)相关角色介绍

HDFS写流程相关角色主要有Client端,NameNode和DataNode;
(1)Client端的作用主要是发起一些请求,将文件进行切片以及与DataNode进行数据传输;
(2)NameNode则是进行一些权限检查和返回用于存储数据的DataNode列表;
(3)DataNode相对于其他两个角色来说工作比较简单,就是存储Client端上传的数据。

(二)写流程介绍

读流程主要分为上图中的10个步骤,结合上图进行以下说明:
①Client端发起文件上传请求给NameNode
②NameNode进行权限检查,检查是否有操作权限,即将接收文件的文件夹是否存在
③NameNode会返回一个是否可以上传的注记
④如果NameNode返回可以上传的注记,Client会对文件进行切片
⑤文件切片完成后,Clinet端会向NameNode发起Block上传请求
⑥NameNode根据策略以及主机的优秀程度选出最优的主机
⑦NameNode将选出的主机列表返回给Client端
⑧Client端与主机列表中的第一台主机建立Pipeline管道,将每个Block通过管道以Package包的方式传给DataNode,DataNode内部再将数据传送到其他副本主机中
⑨数据传输过程中,HDFS会产生应答队列,如果队列中的ACK完成,则证明数据传输成功
⑩文件的每个Block都成功传送后,Client端会想NameNode汇报结果,NameNode再更新自己内存中的元数据

二、HDFS的读流程

在这里插入图片描述

(一)相关角色介绍

HDFS读流程相关角色跟写流程是一样的,也是有Client端,NameNode和DataNode;
(1)读流程的Client端主要是发起一些文件下载请求,合并取回的Block以及与DataNode进行数据传输;
(2)NameNode也是进行一些权限检查和返回存储文件的Block信息;
(3)DataNode主要与Client建立管道,传输数据。

(二)读流程介绍

读流程主要分为上图中的10个步骤,结合上图进行以下说明:
①Client端发起文件下载请求给NameNode
②NameNode进行权限检查,检查是否有操作权限和文件是否存在
③NameNode获取本次下载文件的Block信息列表,并对存储该Block信息的主机进行排序
④将存储该文件的Block信息列表返回给Client端
⑤Clinet端分别跟存储文件的DataNode建立管道,通过Package方式取回数据
⑥Client端将取回文件所有的Block进行合并,形成完整的文件


总结

HDFS读写流程主要的角色都是Client端,NameNode和DataNode,Client端的作用主要是发起请求和对文件进行切片和合并,NameNode则是提供存储文件的DataNode列表,而DataNode做的事情最简单,就是与Client端进行数据传输以及文件Block的存储。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-09-30 00:59:31  更:2022-09-30 01:00:32 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2025年5日历 -2025/5/1 6:14:50-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码