不看不知道 六个超大规模Hadoop部署案例_云计算前沿技术-中关村在线

Hadoop已经成为技术发展趋势

  据估计,到2015年,全世界一半以上的数据将涉及Hadoop–围绕这个开源平台的生态系统日益庞大,这有力地印证了这个惊人的数字。

  然而,有些人表示,虽然Hadoop是眼下热闹非凡的大数据领域最热话题,但它肯定不是可以解决数据中心和数据管理方面所有难题的灵丹妙药。考虑到这一点,我们暂且不想猜测这个平台未来会如何,也不想猜测彻底改变各种数据密集型解决方案的开源技术未来会如何,而是关注让Hadoop越来越火的实际应用案例。 继续阅读“不看不知道 六个超大规模Hadoop部署案例_云计算前沿技术-中关村在线”

Hive导入10G数据的测试 | 粉丝日志

让Hadoop跑在云端系列文章,介绍了如何整合虚拟化和Hadoop,让Hadoop集群跑在VPS虚拟主机上,通过云向用户提供存储和计算的服务。

现在硬件越来越便宜,一台非品牌服务器,2颗24核CPU,配48G内存,2T的硬盘,已经降到2万块人民币以下了。这种配置如果简单地放几个web应用,显然是奢侈的浪费。就算是用来实现单节点的hadoop,对计算资源浪费也是非常高的。对于这么高性能的计算机,如何有效利用计算资源,就成为成本控制的一项重要议题了。 继续阅读“Hive导入10G数据的测试 | 粉丝日志”

HBase导入大数据三大方式之(一)hive类SQL语句方式 – 数据库综合 – 次元立方网 – 电脑知识与技术互动交流平台

做大数据时,经常需要用到将大量格式化的文本数据导入到hbase中。此处就用到的三种方式:hive类SQL语句方式、importtsv +completebulkload 方式、mapreduce+completebulkload 方式,做下简单示例。其中当属hive类SQL语句方式最简单,首先介绍之:

实例中,我以虚拟话单作为需要导入的数据,格式如下: 继续阅读“HBase导入大数据三大方式之(一)hive类SQL语句方式 – 数据库综合 – 次元立方网 – 电脑知识与技术互动交流平台”

配置SecondaryNameNode – I’m Me! – 博客园

一、SecondaryNameNode概念:

    光从字面上来理解,很容易让一些初学者先入为主:SecondaryNameNode(snn)就是NameNode(nn)的热备进程。其实不是。ssn是HDFS架构中的一个组成部分,但是经常由于名字而被人误解它真正的用途,其实它真正的用途,是用来保存namenode中对HDFS metadata的信息的备份,并减少namenode重启的时间。 继续阅读“配置SecondaryNameNode – I’m Me! – 博客园”

[信息图]回望30年:“连接性”如何影响硬件设计?_cnBeta 硬件新闻_cnBeta.COM

计算机设备的发展史,与“连接性”有着密不可分的关系。在过去的30年时间里,随着人类社会需求的流动性增大,设备也变得更小且功能更强大。为了让大家更好地理解这一发展趋势,Bluepost Digital特地创建了一张涵盖了各种我们所熟知的设备种类的信息图表,而这一切都到追溯到1980年代。

继续阅读“[信息图]回望30年:“连接性”如何影响硬件设计?_cnBeta 硬件新闻_cnBeta.COM”

[多图回顾]Internet Explorer 已走过20周年_Microsoft Edge / IE_cnBeta.COM

在您的16位操作系统上使用吱吱叫的Modem和蹩脚CRT显示器上网时,我们就已经认识了Internet Explorer,它陪伴我们已经有足足20年了。那是很久以前,1995年8月16日,微软发布了Internet Explorer 1.0,首次发布时它还是一款收费的软件包,售价49美元,随浏览器还带来了一些屏保、主题和小游戏,给人们带来不少快乐。

继续阅读“[多图回顾]Internet Explorer 已走过20周年_Microsoft Edge / IE_cnBeta.COM”

恒星都死了怎么办:从黑洞提取能量靠谱吗?_cnBeta 科学探索_cnBeta.COM

总有一天太阳会陨落,供其进行核聚变的燃料会耗尽,世界会变得阴冷。如果届时地球仍然健在,人类将会坠入永恒的严冬中。为了生存,我们的后代需要另谋出路——也许,他们首先会耗尽地球的能源,然后是太阳系的,最终,可见宇宙范围内所有星系中的所有恒星的能源都会被消耗殆尽。当没有任何剩余能源可用时,他们肯定会把目光投向最后的能量仓库:黑洞。

继续阅读“恒星都死了怎么办:从黑洞提取能量靠谱吗?_cnBeta 科学探索_cnBeta.COM”

宇宙中最精确的时钟:毫秒脉冲星的发现历程_cnBeta 科学探索_cnBeta.COM

据英国广播公司(BBC)网站报道,一开始,希纳·库卡尼(Shri

Kulkarni)并没有意识到自己此时正在经历的是什么。此时正是1982年9月的一个午夜,他正在波多黎各岛上的阿雷西博天文台,利用这里巨大的射电

天线开展脉冲星的搜寻工作:这是大质量恒星死亡之后留下的一种拥有极高密度,高速旋转的残骸。

继续阅读“宇宙中最精确的时钟:毫秒脉冲星的发现历程_cnBeta 科学探索_cnBeta.COM”

加密的数据很不安全 因为随机数其实不够随机_系统安全_cnBeta.COM

很多安全系统都涉及到“随机数”的概念,就是为了让加密更安全,加密算法中会加入随机数,这样系统会变得更加安全和难以破解。不过可能很多人不知道,这种随机数的生成并没有你想得那么随机,随机数完全依赖于广阔的随机数据资源——而这些数据资源量并不足够庞大。

继续阅读“加密的数据很不安全 因为随机数其实不够随机_系统安全_cnBeta.COM”

[多图]Windows 7/8.1/10性能对比测试_Windows 10_cnBeta.COM

外媒TechSpot近日对Windows 7/8.1/10三个系统的性能表现做了横向对比,通过对开机/睡眠/休眠启动速度,性能跑分软件,应用性能,存储性能,游戏性能,编码性能等几个方面对三个系统做了比较。简言之,目前运行Windows7系统的电脑能够胜任最新的Windows 10系统,在性能方面也没有太多的差别。系统能够很稳定地运行,而性能方面似乎也没有出现跨越式提升,目前阶段小问题不断,对于追求稳定的用户可以稍等。

继续阅读“[多图]Windows 7/8.1/10性能对比测试_Windows 10_cnBeta.COM”

美军研发技术将士兵意念转化为计算机指令_the United States 美国_cnBeta.COM

据中国国防科技信息网报道,美国陆军实验室(ARL)正在资助将士兵意念转化为计算机指令的脑机接口技术研究项目。借助该技术,士兵无需发出声音或者移动手指,就能通过手机或者无线电进行通信。美国陆军研究局ARL计算机科学分部项目经理戴礼义称,如果研究人员能够充分利用脑机接口(BCI)技术(该技术已经能够使瘫痪病人用大脑控制机械手),不断提高控制算法和软件的先进程度和复杂度,那么该技术未来将能够促使大脑直接控制军用系统。

继续阅读“美军研发技术将士兵意念转化为计算机指令_the United States 美国_cnBeta.COM”

[图]特斯拉Model S存漏洞 黑客讲述破解过程_cnBeta 人物_cnBeta.COM

特斯拉的Model S在设计之初就将安全摆在非常重要的位置,很难攻击并不意味着无法破解。上周,安全专家Kevin Mahaffey和Marc Rogers演示了通过Model S存在的漏洞打开车门、启动并成功开走,此外还能向Model S发送“自杀”命令,在车辆正常行驶中突然关闭系统引擎让车辆停下来。上周末召开的DEF CON 23数字安全会议上,两名安全专家展示了他们实现破解的细节。

继续阅读“[图]特斯拉Model S存漏洞 黑客讲述破解过程_cnBeta 人物_cnBeta.COM”

可重复使用:澳大利亚或借助Spartan项目跻身航空发射领域_cnBeta 科学探索_cnBeta.COM

在航天上有所建树的国家仍然不多,但是随着技术的持续进步、以及财政和后勤方面的保证,澳大利亚或将很快成为其中的一员——如果昆士兰大学和Heliaq高级工程的能够联手将50到500公斤(110-1102磅)的载荷送入轨道的话。该项目名叫Spartan,并且被分成了三个阶段,旨在提升大家对小型卫星市场的兴趣。

继续阅读“可重复使用:澳大利亚或借助Spartan项目跻身航空发射领域_cnBeta 科学探索_cnBeta.COM”

黑客详解入侵特斯拉Model S车内系统全过程:决非易事_IT与交通_cnBeta.COM

据科技网站CNET报道,入侵特斯拉Model S是一件极为困难的事情,但并非不可能。上周,研究人员凯文·马哈菲(Kevin

Mahaffey)和马克·罗杰斯(Marc Rogers)的演示表明,他们能够远程对Model

S车门解锁,发动汽车,将车开走。他们还能够向Model S发出一条“致死”命令,让Model S关闭系统,然后停车。在本周举行的DEF CON

23数字安全大会上,他们向所有与会人士演示了如何做到这一切。

继续阅读“黑客详解入侵特斯拉Model S车内系统全过程:决非易事_IT与交通_cnBeta.COM”

地球可不止一个月球 小行星默默围绕地球转了一整年_cnBeta 科学探索_cnBeta.COM

据英国每日邮报报道,美国宇航局深空气象观测探测器在100万英里远的天空拍摄到月球远侧令人震惊的照片。结果发现月球并不孤独——在任何特定时间地球拥有多个“迷你月球”环绕着它。一名科学家试图追踪这些迷你月球,希望能够获得探索更大的小行星的一次锻炼机会。

继续阅读“地球可不止一个月球 小行星默默围绕地球转了一整年_cnBeta 科学探索_cnBeta.COM”

中国自主三代核电技术“华龙一号”加速“出海”_cnBeta 最新消息_cnBeta.COM

8日,中越边境广西防城港市企沙半岛东侧,数十名工人顶着夏季的炎炎烈日在防城港核电基地3、4号机组基坑紧张施工,为即将正式开工建设做前期准备。基坑不远处,矗立着防城港核电站一期工程的厂房。作为中国西部少数民族地区的首个核电基地,防城港核电站规划建设6台百万千瓦级的核电机组,其中一期工程已于2010年7月30日开工建设,第一台机组计划于2015年建成并投入商业运营。

继续阅读“中国自主三代核电技术“华龙一号”加速“出海”_cnBeta 最新消息_cnBeta.COM”