hadoop大数据平台

java环境 java-1.8.0-openjdk-devel

jvm虚拟机

hadoop软件解压即可用

JAVA_HOME是java的安装路径

hadoop对主机名强依赖,意思是主机名hostname要能ping通

jar命令 是运行一个jar文件

hadoop要运行,主要依赖两个的配置

JAVA_HOME

HADOOP_CONF_DIR

hadoop里面client是切分文件

分片、副本,和es差不多

namenode管理数据分片之后存储到哪里

fsimage 名称空间与数据块的映射信息

副本策略也是namenode负责

hadoop三大核心组件

HDFS

Mapreduce

Yarn

.xml 是可扩展标记语言

配置hadoop是在做填空题

jsp命令查询java系统的角色

hdfs是hadoop的文件系统

yarn是分布式计算框架

datanode所消耗的资源主要为磁盘的io

也就是说使用raid阵列可以优化磁盘的io消耗

zookeeper 应用程序协调服务

hadoop\zookeeper\kafka都是java写的,也都是apache基金会的开源项目

hadoop的namenode有点像k8s的etcd

haproxy可以走tcp也可以走http

Haproxy对于后端服务器的健康检查默认是用tcp三次握手,可以选http状态码检查

nginx\haproxy\lvs\keepalived负载均衡反向代理健康检查,这些功能,在云平台都用一个ELB给解决了。如果在物理机上部署服务的话,keepalived高可用感觉很实用,装个软件,配个虚拟ip,就跟那个虚拟路由器是一个工作原理。

批量操作的时候,感觉ansible还有点绕,直接在命令行写循环,也挺好用的,有的也可以用windterm等软件的同步输入。

看了hadoop的视频,感觉其他软件的配置都简单多了,hadoop是真的步骤多。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/14433.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

每日OJ题_牛客_奇数位丢弃_找规律/模拟_C++_Java

目录 牛客_奇数位丢弃_找规律/模拟 题目解析 C代码1模拟 C代码2找规律 Java代码找规律 牛客_奇数位丢弃_找规律/模拟 奇数位丢弃_牛客题霸_牛客网 描述: 对于一个由 0..n 的所有数按升序组成的序列,我们要进行一些筛选,每次我们丢弃去…

解决table下tr或td选中不生效的问题

目录 一、问题描述 1.首先我们来看一下代码结构 2.检查代码(鼠标右键或按下F12) 3.解决方案 一、问题描述 解决table下tr或td选中不生效,页面刷新无效果 1.首先我们来看一下代码结构 这里我们的结构是table标签下的tr,tr当…

学籍拍照助手,中小学新生学籍证件照电脑端拍照教程

新学期过半,许多中小学学籍管理员都忙碌起来,为孩子们准备学籍所需的证件照。传统的照相馆拍摄、向家长收集都存在一些弊端,下面就来介绍如何使用校园学籍拍照助手,更智能的完成学籍证件照的拍摄。 1. 准备工作在开始之前&#xf…

SE30 程序运行时间评估

日常执行报表的时候 可能会遇到报表反应时间太长 用户无法接受的情况,此时 作为IT同事 需要分析程序的运行时间,可以使用SAP标准事务码SE30. 1、选择运行时分析-测量-立即执行(有些程序可能没有此按钮 需联系开发增加) 2、以发…

T-Rex Label标注

这个是做大量数据集的时候用到的,但我觉得他比labelimg好用。 仙人指路✈trexlabel 基本标注 如果是从新开始的话就是 导入图片然后进行直接标注 如果是后期添加图片继续标注,选择你需要的数据集格式,导入即可。 如此,进去就…

部署zabbix遇到问题: cannot find a valid baseurl for repo:centos-sclo-rh/x86 64 怎么解决 ?

安装 Zabbix 前端包,提示cannot find a valid baseurl for repo:centos-sclo-rh/x86 64 安装zabbix前端包 # yum install zabbix-web-mysql-scl zabbix-apache-conf-scl 解决办法: 原因是:CentOS7的SCL源在2024年6月30日停止维护…

小程序+公众号统一账号unionid,实现pc+公众号+小程序统一身份

一、微信开放平台 注册开发者账号、绑定公众号、小程序 二、小程序端获取unionid 1获取code wx.login({success: res > {console.log("getCode", res.code)this.getOpenId(res.code)}}) 2通过code调用后台方法获取openid,unionid 小程序端 getOpenId: functi…

LeetCode【0037】解数独

本文目录 1 中文题目2 求解方法:递归回溯法2.1 方法思路2.2 Python代码2.3 复杂度分析 3 题目总结 1 中文题目 编写一个程序,通过填充空格来解决数独问题。数独的解法需 遵循如下规则: 数字 1-9 在每一行只能出现一次。数字 1-9 在每一列只…

零碎02-接口文档管理

目录 一、背景故事 二、解决方案分析 1. 静态文档方案 2. Swagger Springfox 3. Knife4j增强方案 三、示例 1. 添加依赖 2. 配置Knife4j 3. 创建knife4j配置类 4. 启动Spring Boot项目并访问接口文档 5. 使用示例 6. 测试和使用 四、总结 一、背景故事 酷乐是一名…

指标体系构建:如何设计北极星指标设计?

目录 1 北极星指标的作用 2 北极星指标设计标准 标准1 标准2 标准3 标准4 标准5 标准6 3 小结 1 北极星指标的作用 北极星指标是公司业务成功的关键指标,反映了公司为用户带来的价值,有以下3点作用: ● 像北极星一样&#xff0c…

三菱FX5UPLC以太网Socket通信功能Passive开放的程序示例

Passive开放的通信流程如下所示。 参数设置 示例程序中使用的参数设置如下所示。 [CPU模块】 导航窗口↔[参数]↔[模块型号]↔[模块参数]-[以太网端口]-[基本设置]-[对象设备连接配置设置]↔[详细设置]→[以太网配置(内置以太网端口)]画面 【以太网模块】 [导航]中「参数]→[模…

【MATLAB源码-第292期】基于matlab的4ASK调制解调窄带通信系统仿真,输出各节点波形图以及误码率曲线图。

操作环境: MATLAB 2022a 1、算法描述 窄带通信系统是指带宽较小、频谱利用效率较低的通信系统。与宽带通信系统相比,窄带系统的特点是信号的带宽相对较窄,因此需要更精确的调制技术来实现有效的通信。在窄带通信中,常见的调制方…

【搜索结构】AVL树的学习与实现

目录 什么是AVL树 AVL树的定义 插入函数的实现 左单旋和右单旋 左右双旋与右左双旋 什么是AVL树 AVL树实际上就是二叉搜索树的一种变体,我们都知道二i叉搜索树可以将查找的时间复杂度提升到O(logn),极大提升搜索效率。但是在极端情况下,当…

【专题】2024年中国消费者消费意愿调查报告汇总PDF洞察(附原数据表)

原文链接:https://tecdat.cn/?p38242 当今时代,经济社会多元发展,消费市场复杂多变。消费者的行为、需求和支出意愿不断演变,深刻影响着各个领域的发展。家庭余钱的用途反映出消费者在储蓄、教育、医疗等方面的考量。在消费领域…

推荐一款游戏玩家性能优化工具:Razer Cortex

Razer Cortex是一款专为游戏玩家设计的性能优化工具,它旨在提升玩家的游戏体验。通过该软件,用户可以优化 PC 性能,从而提高游戏的流畅度,减少延迟并增强视觉效果,尤其在需要精准操作的游戏中,流畅的画面和…

人工智能(AI)对于电商行业的变革和意义

![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/402a907e12694df5a34f8f266385f3d2.png#pic_center> 🎓作者简介:全栈领域优质创作者 🌐个人主页:百锦再新空间代码工作室 📞工作室:新空间代…

1435:【例题3】曲线 一本通 代替三分

1435:【例题3】曲线 题目来源:一本通oj链接 代替三分 题意 给出t组数据,每组里面有n个函数,求出t组数据的函数的最小值 思路 函数是二次函数,具有单峰性,利用左右两边单调性的原理可以进行答案三分处…

英伟达Isaac Manipulator产品体验

相关配置 Isaac Manipulator3.1.0Isaac Sim4.2.0Ubuntu20.04GPURTX 4090 LaptopCPUI9 13900HXMem64GB 过程记录与反馈 GPU加速效果 请描述您在使用Isaac Manipulator时,调用cuMotion加速库来进行机器人运动规划和轨迹优化等任务的步骤和过程,并记录任…

“非法”操控lambda(python)

能过python解释器关卡即是合法脚本代码,偶尔的“违规”操控也是一种唯美。 (笔记模板由python脚本于2024年11月13日 11:18:21创建,本篇笔记适合熟悉python的lambda操控的coder翻阅) 【学习的细节是欢悦的历程】 Python 官网:https://www.pyth…

[ 网络安全介绍 5 ] 为什么要学习网络安全?

🍬 博主介绍 👨‍🎓 博主介绍:大家好,我是 _PowerShell ,很高兴认识大家~ ✨主攻领域:【渗透领域】【数据通信】 【通讯安全】 【web安全】【面试分析】 🎉点赞➕评论➕收藏 养成习…