设为首页 收藏本站
查看: 1294|回复: 0

[经验分享] IBM将在Hadoop上建立全新存储架构设计

[复制链接]

尚未签到

发表于 2018-11-1 09:57:39 | 显示全部楼层 |阅读模式
  IBM科学家宣称,该设计在将万亿字节的数据变成可用的信息方面,速度比当前技术可以提高两倍。因此,该设计非常适用于云计算和数据密集型的工作负载应用场合,比如数字媒体、数据挖掘、金融分析等。
  这种新的架构名为通用并行文件系统无共享群集 (GPFS-SNC,General Parallel File System-Shared  Nothing Cluster),旨在通过高级集群技术、动态文件系统管理和高级数据复制(Data  Replication)技术来提高可用性和速度。
  存储分析发明者和IBM的研究主管Prasenjit  Sarkar表示,一个拥有40个节点的文件系统将有12GB/sec吞吐量,并与400个节点的系统可以达到120GB/sec吞吐量。他说:“这是非 常符合成本效益的带宽。你得到1MB/sec美元。如果你想复制,存储区域网络,它会非常昂贵。”
  “在我们的集群示例中,您可以在Hadoop架构上建立作为群集运行DB2或Oracle数据库”Sarkar说。 “这让我们能够有一个通用的文件系统,广泛的用户可使用。”
  据了解,新的架构是让应用程序,支持高性能分析,数据仓库应用程序和云计算的目的。他描述为每个节点或标准的x86服务器有机会获得自己的元数据,缓存,数据存储和管理工具的GPFS的“不共享”的集群技术,同时也有通过千兆位接入在同一时间集群中所有其他节点以太网端口。
  他说:“我们所做的,是我们每一个分布式文件系统方面相对于谷歌文件系统,它有一个域节点,元数据,分配,锁管理,令牌管理,即使来自集群服务器的机架,我们仍然可以继续工作。”
  所谓无共享,可用性,性能和扩展新的水平,可实现与集群文件系统。中的每个GPFS-SNC的架构节点也自给自足。任务被划分这些独立的计算机之间。
  GPFS也支持POSIX,使一个应用广泛的传统上运行的文件系统之上,允许读取和写入执行。Prasenjit  Sarkar说:“你可以打开一个文件,你可以读取一个文件,那么你就可以追加到该文件并覆盖任何部分。与谷歌的Hadoop分布式文件系统,你可以不追 加到一个文件,你不能覆盖的任何章节,所以你重非常有限你能做什么。”
  GPFS的-民委还支持企业数据存储功能,例如快照,备份整个范围内,归档,信息生命周期管理,数据缓存,广域网数据复制和管理政策。该体系结构有一个单一的全球域名称空间,使虚拟机管理程序的节点之间移动。
  更多精彩内容请关注:
  IBM存储化官方微博
  IBM存储化官方网站


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-629235-1-1.html 上篇帖子: 使用HADOOP演示MAPREDUCE配置总结 下篇帖子: [20110527]搭hadoop
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表