AWS 存储服务(三)

AWS S3

业务场景

挑战

  • Web服务器传输大型文件可能引起网络延迟
  • 用户生成的内容需要分配到所有的web服务器中

解决方案

  • 静态资产存放在S3中
  • S3中的对象设置为公开,用户可以直接访问

S3的好处

  • 通过API或者HTTP进行访问
  • S3是以冗余方式将对象存储,至少在三个可用区存放副本
  • S3使用校验和来验证数据的完整性
  • 提供完善的版本控制使用户能够保存、检索和还原每个对象的各个版本
  • 多副本的数据一致性

S3 属性

存储桶 Buckets

  • 存储S3的容器
  • Bucket 名 最多包含63个字符,且在全球AWS都必须是唯一的
  • 最佳实践是包含并符合DNS域名规范来对Bucket命名
  • 在靠近用户的区域创建Bucket以优化性能
  • 每用户最多可创建100个存储桶
  • 存储桶需要指定区域,但是不能指定可用区

对象 Object

  • 每一个存储在S3的实体或文件都是对象
  • 最大支持单个对象5TB
  • 对象由文件本身和元数据组成
  • 文件本身在S3看来只是一串字节流
  • 元数据包含了对象的名称和键值,系统元数据包括了MD5,上次修改日期等系统信息,用户元数据是用户的可选项
  • 获取对象使用的Request包头
    • x-amz-meta-
    • x-amz-storage-class
    • Content-MD5
    • Content-Length

数据结构

键(Key):可以认为是数据的名字
值(Value):表示数据本身
版本号(Version ID):对于启用了版本控制的存储桶来说很重要
元数据(Metadata):关于数据的描述,比如说数据的创建时间,更改时间,文件类型,文件大小等信息
访问控制信息:能管理对Bucket内文件的访问权限

Key

每个对象的标识,在存储桶内唯一
最大支持1024字节的UTF-8字符,可以包含斜杠等
存储桶名+Key 组成S3对象的唯一标识
最佳命名实践是利用/进行命名对对象进行逻辑组织,但记住这并不代表文件是被层次组织的,S3对象始终处于一个平面而不是一个真正的File System
S3对象可以基于其唯一标识通过Internet直接寻址访问,URL就是其唯一标识

对象标签

每个对象添加最多10个标签
用标签标记后可以用于IAM策略管理

S3 特性
S3 操作

基于REST API接口进行操作,将HTTP动词映射到CRUD操作
实际使用更高级的接口(如编程语言,SDK,CLI和控制台)来调用REST API

可用性和持久性

S3采用高度持久和可用的存储基础架构

持久性 = 11个9
可用性 = 4 个 9

建议采用版本控制、跨域区复制、MFA删除等方式来防止用户意外造成的逻辑错误

一致性

S3会自动在区域内对数据进行自动复制
S3是一个最终一致性系统,保证所有的获取都是一致的

为新对象PUTS 提供 先写后读一致性
为 Overwrite PUTS和DELETE提供最终一致性

S3 定价策略

存储容量
读取操作
数据传输

S3高级功能
存储级别

S3-Standard

提供高耐用、高可用、低延迟和高性能的存储对象

S3-Standard-IA

提供较低的高可用标准但仍然是多可用区部署的,但设计用于长期存取和访问频率较低的数据,
利用规模效应对存储超过30天以上的提供更低成本的选项,最小收费粒度128KB,最短使用30天。

S3-ONEZONE-IA

类似于Standard-IA,但是仅部署在一个可用区内提供高可用
用于非关键性和易重现数据,用于替代RRS

INTELLIGENT_TIERING

自动分层的数据,类似于IA的持久性和可用性
能够提供标准的读写性能但不是一致的,取决于读写请求频率
有额外的监控和自动分层的成本,最短使用30天,小于128K的对象没有资格进行自动分层但仍收费。

S3减少冗余存储 RRS

适用于非关键数据或易于重现的派生数据,支持低延迟访问,不支持高可用的(4个9持久性)
目前已经不再推荐,使用S3-ONEZONE-IA替代

Glacier

成本极低的归档数据存储,不需要实时数据访问

原文地址:https://blog.51cto.com/wzlinux/2422636

时间: 2024-10-10 03:59:51

AWS 存储服务(三)的相关文章

openstack-r版(rocky)搭建基于centos7.4 的openstack swift对象存储服务 三

openstack-r版(rocky)搭建基于centos7.4 的openstack swift对象存储服务 一 openstack-r版(rocky)搭建基于centos7.4 的openstack swift对象存储服务 二 openstack-r版(rocky)搭建基于centos7.4 的openstack swift对象存储服务 三 openstack-r版(rocky)搭建基于centos7.4 的openstack swift对象存储服务 四 以下操作在控制节点执行control

AWS 存储服务(EBS, S3, EFS)详细介绍和对比

一.EBS 卷类型对比 参考文档: https://docs.aws.amazon.com/zh_cn/AWSEC2/latest/UserGuide/EBSVolumeTypes.html?shortFooter=truehttps://aws.amazon.com/cn/ebs/faqs/ 二.S3 存储类的性能 三.EFS 介绍 Amazon Elastic File System (Amazon EFS) 为基于 Linux 的工作负载提供简单.可扩展的弹性文件系统,可与 AWS 云服务

手把手教你搭建LyncServer2013之Lync后端存储准备(三)

这次实验的Lync后端存储安装的是SQL Server 2012,配置了高可用,两台做Mirror,一台做见证服务器,实现故障的自动转移,SQL Server的安装需要.net Framwork 3.5的支持,所以在安装SQL之前,我们先来安装.net Framework 3.5 安装完.net Framework 3.5后,我们开始第一台SQL Server 2012的安装 到此第一台Lync后端存储服务器已经安装好,因为我这次实验中需要安装监控和存档角色,所以在安装数据库的时候选择了三个功能

FreeNAS 11.0 正式发布,提供 S3 兼容的对象存储服务

FreeNAS 11.0 正式版已发布,该版本带来了新的虚拟化和对象存储功能.FreeNAS 11.0 将 bhyve 虚拟机添加到其受欢迎的 SAN / NAS.Jail 和插件中,让用户可以在 FreeNAS box 上使用 host web-scale VMs.它提供 S3 兼容的对象存储服务,可将 FreeNAS box 变成 S3 兼容的服务器,不用再依赖云端.点击此处查看 FreeNAS 11.0 的新功能 FreeNAS 11.0 基于 FreeBSD 11-STABLE ,它增加

NFS存储服务深度实践

第1章 NFS介绍 1.1 什么是NFS? NFS 是Network File System的缩写,中文意思是网络文件系统.它的主要功能是通过网络(一般是局域网)让不同的主机系统之间可以共享文件或目录.NFS客户端(一般为应用服务器,例如web)可以通过挂载(mount)的方式将NFS服务器端共享的数据目录挂载到NFS客户端本地系统中(就是某一个挂载点下).从客户端本地看,NFS服务器端共享的目录就好像是客户端自己的磁盘分区或者目录一样,而实际上却是远端的NFS服务器的目录. NFS网络文件系统

又一个!迅雷快盘宣布关闭个人存储服务

[中关村在线软件资讯]4月27日消息:前两天我们刚刚报道过新浪微盘将在6月关闭个人免费存储业务,现在又一家网盘倒掉了,这次轮到了迅雷快盘. 迅雷快盘在今天一早发布公告,宣布将关闭个人网盘服务,所有用户数据将保留到6月30日,建议用户尽早将个人数据保存到本地. 快盘关闭公告 以下为具体公告: 您好,为配合监管部门专项治理网盘行动,快盘即日起将调整服务功能,包括以下(不仅限于)措施: 1.停止快盘个人用户存储服务,所有用户数据保留到2016年6月30日,过期不再保留. 2.2016年6月30日以后,

玩转Windows Azure存储服务——高级存储

在上一篇中我们中,我们把Windows Azure的存储服务用作网盘,本篇我们继续挖掘Windows Azure的存储服务——高级存储.高级存储自然要比普通存储高大上的,因为高级存储是SSD存储!其吞吐量和IOPS自然是普通存储没法比的.在高级存储功服务推出之前,用户为了提升磁盘性能,通常需要挂载多个持久盘做成RAID 0来使用.一个最大号的虚拟机,最多可以挂载16个持久盘,若将这16个磁盘组成RAID 0,理论上其整体磁盘性能可以提高16倍——当然这个只是理论值,因为是软RAID,总是要消耗一

私有云存储服务4节点部署各方案对比

近日因工作需要在某高校安装私有云存储系统.部署环境是一台4节点服务器,每个节点有16GB内存,3个硬盘,每个硬盘3TB ,每个节点可用空间约为8TB.部署的目标是充分利用所有的服务器资源,提供可靠的存储服务,同时尽量不要修改我们的系统源代码.由于本人在web服务部署经验尚浅,遂问计于师哥,对比了如下多种部署方案. 1. 原始方案 说明:1节点部署ffmpeg转码服务,1节点部署私有云存储系统(nginx+mysql+php代码).文件读写只在部署了私有云存储的节点进行,日后购买磁盘阵列后将存储挂

腾讯云cos对象存储服务文件上传api就是一个大坑

一.介绍 对象存储服务(Cloud Object Service)是基于腾讯多年海量服务经验,对外提供的可靠.安全.易用的海量存储服务.提供多样化接入方式,以及全国部署的上传加速集群,可以无缝衔接CDN进行加速下载. 二.cos 文件上传api源码 /** * 单个文件上传,适用于小文件 * * @param bucketName * bucket名称 * @param remotePath * 远程文件路径 * @param localPath * 本地文件路径 * @return 服务器端返