分布式系统及NoSQLl简介

分布式系统及NoSQL简介

==============================================================================

数据存储

 1.数据存储

数据模型:

  • 层次模型;
  • 网状模型;
  • 关系模型;
  • 对象关系模型

关系模型:

  • 关系型数据,严格的schema;
  • ACID规则

分布式系统

 1.介绍

分布式系统:

  • 分布式系统(distributed system)由多台计算机和通信的软件组件通过计算机网络连接(本地网络或广域网)组成。
  • 分布式系统是建立在网络之上的软件系统。正是因为软件的特性,所以分布式系统具有高度的内聚性和透明性。
  • 因此,网络和分布式系统之间的区别更多的在于高层软件(特别是操作系统),而不是硬件。
  • 分布式系统可以应用在在不同的平台上如:Pc、工作站、局域网和广域网上等。

 2.分布式计算的优点

优点

可靠性(容错) :

  • 分布式计算系统中的一个重要的优点是可靠性。一台服务器的系统崩溃并不影响到其余的服务器。

可扩展性:

  • 在分布式计算系统可以根据需要增加更多的机器。

资源共享:

  • 共享数据是必不可少的应用,如银行,预订系统。

灵活性:

  • 由于该系统是非常灵活的,它很容易安装,实施和调试新的服务。

更快的速度:

  • 分布式计算系统可以有多台计算机的计算能力,使得它比其他系统有更快的处理速度。

开放系统:

  • 由于它是开放的系统,本地或者远程都可以访问到该服务。

更高的性能:

  • 相较于集中式计算机网络集群可以提供更高的性能(及更好的性价比)。

 2.分布式计算的缺点

缺点

故障排除:

  • 故障排除和诊断问题。

软件:

  • 更少的软件支持是分布式计算系统的主要缺点。

网络:

  • 网络基础设施的问题,包括:传输问题,高负载,信息丢失等。

安全性:

  • 开发系统的特性让分布式计算系统存在着数据的安全性和共享的风险等问题。

NoSQL介绍

 1.介绍

百度百科:

  • NoSQL,泛指非关系型的数据库。随着互联网web2.0网站的兴起,传统的关系数据库在应付web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展。NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤其是大数据应用难题。

什么是NoSQL:

  • NoSQL(NoSQL = Not Only SQL ),意即"不仅仅是SQL"。
  • NoSQL,指的是非关系型的数据库。NoSQL有时也称作Not Only SQL的缩写,是对不同于传统的关系型数据库的数据库管理系统的统称。
  • NoSQL用于超大规模数据的存储。(例如谷歌或Facebook每天为他们的用户收集万亿比特的数据)。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向扩展。

NoSQL简史:

  • NoSQL一词最早出现于1998年,是Carlo Strozzi开发的一个轻量、开源、不提供SQL功能的关系数据库。
  • 2009年,Last.fm的Johan Oskarsson发起了一次关于分布式开源数据库的讨论[2],来自Rackspace的Eric Evans再次提出了NoSQL的概念,这时的NoSQL主要指非关系型、分布式、不提供ACID的数据库设计模式。
  • 2009年在亚特兰大举行的"no:sql(east)"讨论会是一个里程碑,其口号是"select fun, profit from real_world where relational=false;"。因此,对NoSQL最普遍的解释是"非关联型的",强调Key-Value Stores和文档数据库的优点,而不是单纯的反对RDBMS。

 2.为什么使用NoSQL?

今天我们可以通过第三方平台(如:Google,Facebook等)可以很容易的访问和抓取数据。用户的个人信息,社交网络,地理位置,用户生成的数据和用户操作日志已经成倍的增加。我们如果要对这些用户数据进行挖掘,那SQL数据库已经不适合这些应用了, NoSQL数据库的发展也却能很好的处理这些大的数据。

 3.RDBMS vs NoSQL

RDBMS

- 高度组织化结构化数据 
- 结构化查询语言(SQL) (SQL) 
- 数据和关系都存储在单独的表中。 
- 数据操纵语言,数据定义语言 
- 严格的一致性
- 基础事务

NoSQL

- 代表着不仅仅是SQL
- 没有声明性查询语言
- 没有预定义的模式
-键 - 值对存储,列存储,文档存储,图形数据库
- 最终一致性,而非ACID属性
- 非结构化和不可预知的数据
- CAP定理 
- 高性能,高可用性和可伸缩性

 4.CAP定理

在计算机科学中, CAP定理(CAP theorem), 又被称作 布鲁尔定理(Brewer‘s theorem), 它指出对于一个分布式计算系统来说,不可能同时满足以下三点:

一致性(Consistency)

  • 所有节点在同一时间具有相同的数据

可用性(Availability)

  • 保证每个请求不管成功或者失败都有响应

分隔容忍(Partition tolerance)

  • 系统中任意信息的丢失或失败不会影响系统的继续运作

CAP理论的核心是:

  • 一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求,最多只能同时较好的满足两个。

因此,根据 CAP 原理将 NoSQL 数据库分成了满足 CA 原则、满足 CP 原则和满足 AP 原则三 大类:

  • CA - 单点集群,满足一致性,可用性的系统,通常在可扩展性上不太强大。
  • CP - 满足一致性,分区容忍性的系统,通常性能不是特别高。
  • AP - 满足可用性,分区容忍性的系统,通常可能对一致性要求低一些。

 5.NoSQL的优缺点

优点

- 高可扩展性

- 分布式计算

- 低成本

- 架构的灵活性,半结构化数据

- 没有复杂的关系

缺点

- 没有标准化

- 有限的查询功能(到目前为止)

- 最终一致是不直观的程序

 6.BASE

BASE

  • BASE:Basically Available, Soft-state, Eventually Consistent。 由 Eric Brewer 定义。

CAP理论的核心是:

  • 一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求,最多只能同时较好的满足两个。

BASE是NoSQL数据库通常对可用性及一致性的弱要求原则:

  • Basically Availble --基本可用
  • Soft-state --软状态/柔性事务。 "Soft state" 可以理解为"无连接"的, 而 "Hard state" 是"面向连接"的
  • Eventual Consistency --最终一致性;最终一致性, 也是是 ACID 的最终目的。

 7.NoSQL数据库分类

类型 部分代表 特点
列存储
Hbase

Cassandra

Hypertable


顾名思义,是按列存储数据的。最大的特点是方便存储结构化和半结构化数据,方便做数据压缩,对针对某一列或者某几列的查询有非常大的IO优势。


文档

存储


MongoDB

CouchDB


文档存储一般用类似json的格式存储,存储的内容是文档型的。这样也就有有机会对某些字段建立索引,实现关系数据库的某些功能。


key-value存储


Tokyo Cabinet / Tyrant

Berkeley DB

MemcacheDB

Redis


可以通过key快速查询到其value。一般来说,存储不管value的格式,照单全收。(Redis包含了其他功能)


图存储


Neo4J

FlockDB


图形关系的最佳存储。使用传统关系数据库来解决的话性能低下,而且设计使用不方便。


对象存储


db4o

Versant


通过类似面向对象语言的语法操作数据库,通过对象的方式存取数据。


xml数据库


Berkeley DB XML

BaseX


高效的存储XML数据,并支持XML的内部查询语法,比如XQuery,Xpath。

时间: 2024-10-14 06:05:42

分布式系统及NoSQLl简介的相关文章

零基础学习java,最新版学习路线图了解一下

目前Java在许多行业的客户端方面的应用非常多,比如OA.邮箱.投票.金融.考试.物流.医疗.矿山等信息方面的系统.Java开发者在这方面的需求也非常大,待遇也相当不错,工资水平可能和Java互联网方向的差不多,但福利和前途则非常好,因为这类工作基本上是政府事业单位及大型企业提供的. 对于java学习,一套专业系统的java学习路线图是不可少的,让你从入门到精通实现系统化! 第一阶段:Java基础 第一部分Java开发介绍 DOS常用命令 JVM.JRE.JDK之间的关系 Java开发环境的搭建

Java后端学习

学习路线: Java基础--->HTML/CSS/JS(前端页面)--->Servlet/JSP(J2EE)(马士兵的视频).Mysql(数据库) --->Java Web框架(spring.springmvc.mybatis) ---找到工作:Java基础的升级版---<Java编程思想> ---1~2年:看设计模式---<大话设计模式>,写博客(还需要看:代码编写优化的书.比如<重构 改善既有代码的设计>,<effective java>

十年架构师留下最完整的Java学习路线,学完年薪40W

文章有点长,请大家耐心看完,话不多说直接上干货! 永不过时的编程语言--Java 编程开发. Java编程语言占比: 据官方数据统计,在全球编程语言工程师的数量上,Java编程语言以900万的程序员数量位居首位. 而且很多软件的开发都离不开Java编程,因此其程序员的数量最多.而在以Java编程为核心的开发领域中,javaEE程序员的需求量10年来一直居于首位!创一个小群,供大家学习交流聊天如果有对学java方面有什么疑惑问题的,或者有什么想说的想聊的大家可以一起交流学习一起进步呀.也希望大家对

分布式系统简介

研究生阶段学习的分布式原理与泛型几乎忘完了,当初不怎么懂...现在工作中发现大数据技术的底层还是分布式系统,那么重新拾起,总结下~ 一.分布式系统简介 分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像是单个相关系统.这个定义包含了两方面的内容,第一方面是硬件的:机器本身是独立的.第二方面是软件的:对用户来说他们就像在于单个系统打交道. 其中重要特性之一是,各个计算机之间的差别以及计算机之间的通信方式的差别对用户是隐藏的.另一个重要的特性是,用户和应用程序无论在何时何地都能够以一种一致

分布式系统的发展演变以及RPC简介

场景 什么是分布式系统 分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统. 分布式系统是建立在网络之上的软件系统. 注: 博客: https://blog.csdn.net/badao_liumang_qizhi 关注公众号 霸道的程序猿 获取编程相关电子书.教程推送与免费下载. 实现 单一应用架构 当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本.此时,用于简化增删改查工作量的数据访问框架(ORM)是关键. 单一应用结构特点 适用于小型网站,

kafka入门:简介、使用场景、设计原理、主要配置及集群搭建(转)

问题导读: 1.zookeeper在kafka的作用是什么? 2.kafka中几乎不允许对消息进行"随机读写"的原因是什么? 3.kafka集群consumer和producer状态信息是如何保存的? 4.partitions设计的目的的根本原因是什么? 一.入门 1.简介 Kafka is a distributed,partitioned,replicated commit logservice.它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现.k

开源GIS简介

原文 开源GIS C++开源GIS中间件类库: GDAL(栅格)/OGR(矢量)提供了类型丰富的读写支持 GEOS(Geometry Engine Open Source)是基于C++的空间拓扑分析实现类库,遵循LGPL协议发布.GEOS类库提供了丰富的空间拓扑操作函数,用以判断几何对象间的相互关系,以及空间分析操作之后形成新的几何对象.点.线.面要素的两两相互关系,包括相合.分离.相交.重合.包含.相邻等不同位置关系,都可以通过GEOS类库中提供的函数进行分析和判断.并且GEOS类库提供了缓冲

分布式系统基础设施

一.分布式系统基础设施简介 1.分布式协作及配置管理系统ZooKeeper 2.分布式缓存系统 分布式缓存主要用于高并发环境下,减轻数据库的压力,提高系统的响应速度和并发吞吐.当大量的读.写请求涌向数据库时,磁盘的处理速度与内存显然不在 一个量级,因此,在数据库之前加一层缓存,能够显著提高系统的响应速度,并降低数据库的压力. 3.持久化存储      常见的分布式系统存储解决方案,包括MySQL的分布式扩展.HBase的API及使用场景.Redis的使用等. 4.分布式消息系统      在分布

HTTP的REST服务简介

REST简介 一说到REST,我想大家的第一反应就是“啊,就是那种前后台通信方式.”但是在要求详细讲述它所提出的各个约束,以及如何开始搭建REST服务时,却很少有人能够清晰地说出它到底是什么,需要遵守什么样的准则. 在您将看到的这一篇文章中,我们将对REST,尤其是基于HTTP的REST服务进行详细地介绍.通过这些文章,您不仅可以了解到什么是REST,更能清晰地了解到您在编写REST服务时所需要遵守的各个守则,设计RESTful API时需要考虑的各种因素以及实现过程中可能遇到的问题等内容. R