本人在centos7上安装ganglia,实测,没有成功,可能是哪里没做对,mark一下。后来过了几天莫名其妙的用yum安装又好了。 继续阅读“ganglia安装教程(centos7) – 博学而笃志,切问而近思 – 博客频道 – CSDN.NET”
分类: 大数据、数据挖掘、云计算、机器学习
Ganglia3.1.7安装与配置 – Linux系统教程
一、所需要软件
二、安装过程
1、Ganglia运行平台的安装
2、Ganglia依赖库的安装
3、RRDTool的安装
4、Ganglia的安装 (包括使用yum方式安装)
三、简单配置
四、启动与访问
五、被监控节点上安装Ganglia (包括使用yum方式安装)
六、遇到的问题,及解决办法
Ganglia 权威指南-安装Ganglia过程 – 笑的自然技术博客 – 博客频道 – CSDN.NET
我就是按照这篇教程完成的ganglia安装,主要思路就是添加epel源,然后yum安装就行啦,最后配置文件改一下,搞定。但需要注意的是这里的配置适合于局域网内组播,如果要单播要按照另一篇文章的设置
Ganglia由gmond、gmetad和gweb三部分组成
gmond(Ganglia Monitoring Daemon)是一种轻量级服务,安装在每台需要收集指标数据的节点主机上。gmond在每台主机上完成实际意义上的指标数据收集工作,并通过侦听/通告协议和集群内其他节点共享数据。使用gmond,你可以很容易收集很多系统指标数据,如CPU、内存、磁盘、网络和活跃进程的数据等。
gmetad(Ganglia Meta Daemon)是一种从其他gmetad或gmond源收集指标数据,并将其以RRD格式存储至磁盘的服务。gmetad为从主机组收集的特定指标信息提供了简单的查询机制,并支持分级授权,使得创建联合监测域成为可能。
gweb(Ganglia Web)gweb是一种利用浏览器显示gmetad所存储数据的PHP前端。在Web界面中以图表方式展现集群的运行状态下收集的多种不同指标数据。 继续阅读“Ganglia 权威指南-安装Ganglia过程 – 笑的自然技术博客 – 博客频道 – CSDN.NET”
开源监控软件比较(cgweb) 集群监控工具十八般兵器,哪个您最拿手?(获奖名单已公布-10-24) – 第2页-集群和高可用-ChinaUnix.net
集群监控工具简介:Ganglia和Nagios – 51CTO.COM
本文将介绍 Ganglia 和 Nagios,这是两个用于监视数据中心的工具。这两个工具被大量用于高性能计算(HPC)环境中,但是它们对于其他环境也具有很大的吸引力(例如云、呈现集群和托管中心)。此外,两者对监视的定义也采取了不同的侧重点。Ganglia 更多地与收集度量数据并随时跟踪这些数据有关,而 Nagios 一直致力于成为一种报警机制。 继续阅读“集群监控工具简介:Ganglia和Nagios – 51CTO.COM”
ganglia监控的搭建部署 – elain的技术博客 – 51CTO技术博客
简述:Ganglia是UC Berkeley发起的一个开源集群监视项目,设计用于测量数以千计的节点。Ganglia的核心包含gmond、gmetad以及一个Web前端。主要 是用来监控系统性能,由RRDTool工具处理数据,并生成相应的的图形显示,以Web方式直观的提供给客户端。如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到重要作用。 继续阅读“ganglia监控的搭建部署 – elain的技术博客 – 51CTO技术博客”
hadoop基础:Java中的Hash值介绍-Java语言-about云开发
基于Hadoop的云盘系统上传和下载效率优化及处理大量小文件的解决方法_西西软件资讯
基于任何平台实现的云盘系统,面临的首要的技术问题就是客户端上传和下载效率优化问题。基于Hadoop实现的云盘系统,受到Hadoop文件读写机制的影响,采用Hadoop提供的API进行HDFS文件系统访问,文件读取时默认是顺序、逐block读取;写入时是顺序写入。 继续阅读“基于Hadoop的云盘系统上传和下载效率优化及处理大量小文件的解决方法_西西软件资讯”
谁是云的王者?OpenStack与VMware优劣对比_天极网
在云计算生态系统中,有两种类型的用户需要使用云计算资源:传统型(Traditional IT applications)和在互联网大潮下逐渐崛起云计算应用型(Cloud-aware applications)。国外广为流传的一个比喻是:在传统服务模式下,可以想象服务器就是IT的宠物(Pets),给他们取名字,精心抚养长大,当他们生病了,你得修复他们;在新形态的应用服务模型中,虚拟机被看做是农场中的公牛(Cattle),名字通常都是编号,当他们生病了,你就杀掉他,用一头新牛代替。VMWare和OpenStack的云计算Vision、功能、特点对比正式这个战争或者说趋势的一个生动写照。未来的应用架构应该像对待农场中的公牛一样:VMware的“保养”、保护虚拟机的各种功能比较云计算型应用模式可能会逐渐变得越来越不那么重要。本文在国外广泛流传,热议不断,中国社区意译分享给大家,欢迎积极讨论。
Hadoop配置项整理(hdfs-site.xml) – 实践检验真理 – 51CTO技术博客
续上篇整理一下hdfs相关的配置项 继续阅读“Hadoop配置项整理(hdfs-site.xml) – 实践检验真理 – 51CTO技术博客”
【Hadoop】HDFS的运行原理 – weifield – 博客园
简介
HDFS(Hadoop Distributed File System )Hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS(Google File System)Google 文件系统(中文,英文)。 继续阅读“【Hadoop】HDFS的运行原理 – weifield – 博客园”
Ganglia 权威指南-安装Ganglia过程 – 笑的自然技术博客 – 博客频道 – CSDN.NET
Ganglia由gmond、gmetad和gweb三部分组成 继续阅读“Ganglia 权威指南-安装Ganglia过程 – 笑的自然技术博客 – 博客频道 – CSDN.NET”
云计算管理三利器:Nagios、Ganglia和Splunk – 站长之家
我们在搭建趋势云计算平台时,遇到了很多的问题和挑战。开始搭建时,第一次来了那么多性能强劲的机器,我们在感到兴奋的同时,也不免有些顾虑。大家坐在一起讨论,问题就列了满满一白板。 继续阅读“云计算管理三利器:Nagios、Ganglia和Splunk – 站长之家”
DFSClient技术内幕 (DFSClient介绍以及其初始化) – 推酷
以下是本人研究源代码成果, 此文僅献给我和我的小伙伴们,不足之处,欢迎斧正————————————————-致谢道格等人! 继续阅读“DFSClient技术内幕 (DFSClient介绍以及其初始化) – 推酷”
hadoop中NameNode、DataNode和Client三者之间协作关系及通信方式介绍 – 李克华 – 博客园
1)NameNode、DataNode和Client
NameNode可以看作是分布式文件系统中的管理者,主要负责管理文件系统的命名空间、集群配置信息和存储块的复制等。 继续阅读“hadoop中NameNode、DataNode和Client三者之间协作关系及通信方式介绍 – 李克华 – 博客园”
hadoop安全模式 – Aviva He的日志 – 网易博客
hadoop安全模式
在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结 束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。运行期通过命令也可以进入 安全模式。在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。 继续阅读“hadoop安全模式 – Aviva He的日志 – 网易博客”
改 hadoop ssh 端口_小组_ThinkSAAS
启动hadoop,但ssh 端口不是默认的22怎么样?好在它可以配置。在conf/hadoop-env.sh里改下。如:
export HADOOP_SSH_OPTS=”-p 1234″
Hadoop集群(第8期)_HDFS初探之旅 – 虾皮 – 博客园
1、HDFS简介
HDFS(Hadoop Distributed File System)是Hadoop项目的核心子项目,是分布式计算中数据存储管理的基础,是基于流数据模式访问和处理超大文件的需求而开发的,可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展性、高获得性、高吞吐率等特征为海量数据提供了不怕故障的存储,为超大数据集(Large Data Set)的应用处理带来了很多便利。 继续阅读“Hadoop集群(第8期)_HDFS初探之旅 – 虾皮 – 博客园”
hdfs 常用端口和 hdfs-default配置文件参数的意义(转载) – Hadoop分布式数据分析平台-炼数成金-Dataguru专业数据分析社区
刚配置完hadoop1.0.4发现对配置文件还是不太了解,就baidu了下,跟大家分享下 。常用的端口配置 继续阅读“hdfs 常用端口和 hdfs-default配置文件参数的意义(转载) – Hadoop分布式数据分析平台-炼数成金-Dataguru专业数据分析社区”
HDFS RAID实现方案-zyd_cu-ChinaUnix博客
分布式文件系统主要用于解决海量数据存储的问题,如Goolge、Facebook等大型互联网企业都使用分布式文件系统作为数据存储的基础设施,并在其上构建很多服务,分布式文件系统通常采用三副本的策略来保证数据的可靠性,但随着应用数据量的不断膨胀,三副本策略为可靠性牺牲的存储空间也越来越大,如何在不降低数据可靠性的基础上,进一步降低存储空间成本? Facebook将erasure code应用到内部HDFS集群中,该方案使用erasure code代替传统的三副本策略,在保持集群可用性不变的情况下,节省了数PB的存储空间,Facebook的实现方案(HDFS RAID)目前已贡献给开源社区。 继续阅读“HDFS RAID实现方案-zyd_cu-ChinaUnix博客”