一个简单的NoSQL内存数据库—Berkeley DB基本操作的例子

一个简单的NoSQL内存数据库—Berkeley DB基本操作的例子

最近,由于云计算的发展,数据库技术也从结构式数据库发展到NoSQL数据库,存储模式从结构化的关系存储到现在如火如荼的key/value存储。其中Berkeley

DB就是上述过程中的一个比较有代表性的内存数据库产品,数据库的操作是通过程序来实现的,而不是SQL语句。特别是当今数据不断动态增加的过程中,试图
通过数据切割来达到扩充的思路已经行不通了,因为事先不知道客户数据格式,因此服务提供商不可能进行数据切割。而无模式的key/value存储就可以解
决这种扩充带来的可扩展性问题,因为key/value的存储模式正好可以使得扩充能够自动完成,不需要事先知道任何的数据格式问题。因此,目前NoSQL数据库基本都基于key/value的存储模式,如amazon的simpleDB,google的BigTable等。本文就详细描述key/value模式的一个比较有代表性的内存数据库Berkeley
DB,来介绍如何使用它来操作键值对数据。

Berkeley DB是一个开源的内存数据库,它提供的是一系列直接访问数据库的函数,而不是像关系数据库那样需要网络通讯、SQL解析等步骤。Berkeley
DB是一个高性能的,嵌入数据库编程库,“嵌
入”是指它内嵌在程序中,而不是说他只应用在嵌入式系统上。它适合于管理海量的,简单的数据。例如,Google用Berkeley
DB HA (High Availability) 来管理他们的帐户信息,Motorola在他的无线产品中用Berkeley
DB跟踪移动单元。HP,Microsoft,Sun
Microsystems等也都是它的大客户。它不能完全取代关系数据库,但在某些方面,它却有他们望尘莫及的高效性。

关键字/数据(key/value)是Berkeley DB用来进行数据库管理的基础。前几年,key/value 这个词还是和 hash 表联系在一起的。而现在,程序员看见 key/value这个词时,马上联想到的就是 BigTable、SimpleDB 和云计算。当下,key/value 存储(或者叫
key/value Database、云存储等)是个非常时髦的词汇,越来越多的开发人员(特别是互联网企业)开始关注和尝试 key/value 的存储形式。

每个
key/value对构成一条记录(数据表中的一行)。而整个数据库实际上就是由许多这样的结构单元所构成的。通过使用这种方式,开发人员在使用
Berkeley DB提供的API来访问数据库时,只需提供关键字就能够访问到相应的数据。当然也可以也可以提供 key
和部分value来查询符合条件的相近数据。

Berkeley DB底层实现机制采用B树,可以看成能够存储大量数据的HashMap。Berkeley DB通过环境对象EnvironmentConfig来对数据库进行管理的,每个EnvironmentConfig对象可以管理多个数据库

下面来介绍Berkeley DB是如何存入key/value键值对数据的。

1、定义一个序列化的java类,后面将把String和该类的映射<String,java类>存放到Berkeley DB中

package webspider.berkeleydb;

import java.io.Serializable;

/**
 * 定义一个序列化的java类,放到Berkeley DB中
 *
 * @author typ
 *
 */
public class Bean implements Serializable {
	private static final long serialVersionUID = -6865837107626208563L;

	private Integer id;
	private String name;

	public Integer getId() {
		return id;
	}

	public void setId(Integer id) {
		this.id = id;
	}

	public String getName() {
		return name;
	}

	public void setName(String name) {
		this.name = name;
	}

}

2、定义Frontier接口类,定义存储和获取键值对(key/value)时候需要实现的功能接口

package webspider.berkeleydb;

/**
 * 定义需要实现的功能接口
 *
 * @author typ
 *
 */
public interface Frontier {
	/**
	 * 获得下一条记录
	 *
	 * @return
	 * @throws Exception
	 */
	public Bean getNext() throws Exception;

	/**
	 * 添加一条记录
	 *
	 * @param bean
	 * @return
	 * @throws Exception
	 */
	public boolean putNext(Bean bean) throws Exception;

}

3、定义AbstractFrontier类,来封装Berkeley DB中的操作

package webspider.berkeleydb;

import java.io.File;
import com.sleepycat.bind.serial.StoredClassCatalog;
import com.sleepycat.je.Database;
import com.sleepycat.je.DatabaseConfig;
import com.sleepycat.je.Environment;
import com.sleepycat.je.EnvironmentConfig;

/**
 * 封装Berkeley DB的操作
 *
 * @author typ
 *
 */
public abstract class AbstractFrontier {

	private Environment env;
	private static final String CLASS_CATALOG = "java_class_catalog";
	protected StoredClassCatalog javaCatalog;
	protected Database catalogDatabase;
	protected Database database;

	/**
	 * 初始化数据库需要的各种变量
	 *
	 * @param homeDirectory
	 * @throws Exception
	 */
	public AbstractFrontier(String homeDirectory) throws Exception {
		EnvironmentConfig envConfig = new EnvironmentConfig();
		// 设置事务处理开启,
		envConfig.setTransactional(true);
		// AllowCreate属性表示没有数据库的前提下,可以自动创建数据库
		envConfig.setAllowCreate(true);
		// 定义Environment变量,homeDirectory指的是数据库存放路径
		env = new Environment(new File(homeDirectory), envConfig);
		// 设置数据库的属性
		DatabaseConfig dbConfig = new DatabaseConfig();
		dbConfig.setTransactional(true);
		dbConfig.setAllowCreate(true);
		// 通常java对象和java对象之间的映射关系要分开存放,放置到不同的数据库中
		// 存放java对象的数据库
		catalogDatabase = env.openDatabase(null, CLASS_CATALOG, dbConfig);
		javaCatalog = new StoredClassCatalog(catalogDatabase);
		// 存放key/value映射的数据库<String,JavaBean>
		database = env.openDatabase(null, "String_JavaBean", dbConfig);
	}

	/**
	 * 关闭数据库时候,关闭各种链接
	 *
	 * @throws Exception
	 */
	public void close() throws Exception {
		database.close();
		javaCatalog.close();
		env.close();
	}

	/**
	 * Berkeley DB的存储键值对操作
	 *
	 * @param key
	 * @param value
	 */
	protected abstract void put(Object key, Object value);

	/**
	 * Berkeley DB的得到键值对操作
	 *
	 * @param key
	 * @return
	 */
	protected abstract Object get(Object key);

	/**
	 * Berkeley DB的删除键值对操作
	 *
	 * @param key
	 * @return
	 */
	protected abstract Object delete(Object key);
}

4、设计实现类,实现数据库的插入,查找和删除功能(其实数据库的功能就是直接可以用java程序来实现的,这是Berkeley DB优点的地方,可以直接向操作普通java hash程序一样,操作数据库)

package webspider.berkeleydb;

import java.util.Map.Entry;
import java.util.Set;
import com.sleepycat.bind.EntryBinding;
import com.sleepycat.bind.serial.SerialBinding;
import com.sleepycat.collections.StoredMap;

/**
 * 具体实现类
 *
 * @author typ
 *
 */
public class BDBFrontier extends AbstractFrontier implements Frontier {
	// 建立map,存储key/value键值对
	private StoredMap pendingUrisDBMap;

	/**
	 * 初始化java对象数据库和对象映射数据库
	 *
	 * @param homeDirectory
	 * @throws Exception
	 */
	public BDBFrontier(String homeDirectory) throws Exception {
		super(homeDirectory);
		// 定义key和value的Entry
		EntryBinding keyBinding = new SerialBinding(javaCatalog, String.class);
		EntryBinding valueBinding = new SerialBinding(javaCatalog, Bean.class);
		// map存放在database中,database存放key/value映射
		pendingUrisDBMap = new StoredMap(database, keyBinding, valueBinding,
				true);
	}

	/*
	 * (non-Javadoc)
	 *
	 * @see webspider.berkeleydb.Frontier#getNext()
	 */
	public Bean getNext() throws Exception {
		Bean bean = null;
		if (!pendingUrisDBMap.isEmpty()) {
			Set<Entry<String, Bean>> entrys = pendingUrisDBMap.entrySet();
			Entry<String, Bean> entry = (Entry<String, Bean>) pendingUrisDBMap
					.entrySet().iterator().next();
			bean = entry.getValue();
			delete(entry.getKey());
		}
		return bean;
	}

	/* (non-Javadoc)
	 * @see webspider.berkeleydb.Frontier#putNext(webspider.berkeleydb.Bean)
	 */
	public boolean putNext(Bean bean) throws Exception {
		put(bean.getName(), bean);
		return true;
	}

	/*
	 * (non-Javadoc)
	 *
	 * @see webspider.berkeleydb.AbstractFrontier#put(java.lang.Object,
	 * java.lang.Object)
	 */
	protected void put(Object key, Object value) {
		pendingUrisDBMap.put(key, value);
	}

	/*
	 * (non-Javadoc)
	 *
	 * @see webspider.berkeleydb.AbstractFrontier#get(java.lang.Object)
	 */
	protected Object get(Object key) {
		return pendingUrisDBMap.get(key);
	}

	/*
	 * (non-Javadoc)
	 *
	 * @see webspider.berkeleydb.AbstractFrontier#delete(java.lang.Object)
	 */
	protected Object delete(Object key) {
		return pendingUrisDBMap.remove(key);
	}

	/**
	 * 测试效果,可以看到在f:\bdb文件夹下面生成了.jdb和.lck等Berkeley DB相关文件,数据存储在.jdb中
	 * 控制台输出刚刚插入的数据bean的Name值LiMing
	 */
	public static void main(String[] args) {
		try {
			BDBFrontier frontier = new BDBFrontier("f:\\bdb");
			Bean bean = new Bean();
			bean.setName("LiMing");
			frontier.putNext(bean);
			System.out.println(frontier.getNext().getName());
			frontier.close();
		} catch (Exception e) {
			e.printStackTrace();
		}
	}

}

从上述过程看来,Berkeley DB可以很好的实现key/value这种存储方式,而且完全是通过一系列直接访问数据库的函数,而不是像关系数据库那样需要数据库连接、SQL解析等步骤。完全跟java程序中操作HashMap没有太大的区别,比较容易上手。

一个简单的NoSQL内存数据库—Berkeley DB基本操作的例子,布布扣,bubuko.com

时间: 2025-01-06 19:56:33

一个简单的NoSQL内存数据库—Berkeley DB基本操作的例子的相关文章

使用mybatis框架的一个简单的用户商品的增删改查例子

---恢复内容开始--- 这个例子的实现过程:用户登录----->servlet验证用户是否存在----->显示商品信息----->可以进行商品的删除.修改.添加功能(商品信息是分页显示的) 例子很简单,但是基本的mybatis框架一个也差不多是这样的 数据库表格如下 项目的结构 1.src目录下的mybatis文件和外部源文件 jdbc.properties jdbc.driver=oracle.jdbc.driver.OracleDriver jdbc.url=jdbc:oracle

socket编程——一个简单的例子(转)

原文地址:http://blog.csdn.net/wind19/article/details/6156339 从一个简单的使用TCP例子开始socket编程,其基本步骤如下: server                                                  client +++++++                                          ++++++++ 创建socket                               

socket编程——一个简单的例子

从一个简单的使用TCP例子开始socket编程,其基本步骤如下: server                                                  client +++++++                                          ++++++++ 创建socket                                          创建socket +++++++                              

了解 Oracle Berkeley DB 可以为您的应用程序带来 NoSQL 优势的原因及方式。

将 Oracle Berkeley DB 用作 NoSQL 数据存储 作者:Shashank Tiwari 2011 年 2 月发布 “NoSQL”是在开发人员.架构师甚至技术经理中新流行的一个词汇.尽管这个术语最近很流行,但令人惊讶的是,它并没有一个普遍认可的定义. 通常来说,任何非 RDBMS 且遵循无模式结构的数据库一般都不能完全支持 ACID 事务,并且因高可用性的承诺以及在横向伸缩环境中支持大型数据集而普遍被归类为“NoSQL 数据存储”.鉴于这些共同特征(与传统的 RDBMS 的特征

BDB (Berkeley DB)数据库简单介绍(转载)

近期要使用DBD,于是搜了下相关的资料,先贴个科普性的吧: 转自http://www.javaeye.com/topic/202990 DB综述DB最初开发的目的是以新的HASH訪问算法来取代旧的hsearch函数和大量的dbm实现(如AT&T的dbm,Berkeley的ndbm,GNU项目的gdbm),DB的第一个发行版在1991年出现,当时还包括了B+树数据訪问算法.在1992年,BSD UNIX第4.4发行版中包括了DB1.85版.基本上觉得这是DB的第一个正式版.在1996年中期,Sle

berkeley db储存URL队列的简单实现增、删、查

 Berkeley DB(BDB)是一个高效的嵌入式数据库编程库,C语言.C++.Java.Perl.Python.Tcl以及其他很多语言都有其对应的API.Berkeley DB可以保存任意类型的键/值对(Key/Value Pair),而且可以为一个键保存多个数据.Berkeley DB支持让数千的并发线程同时操作数据库,支持最大256TB的数据,广泛用于各种操作系统,其中包括大多数类Unix操作系统.Windows操作系统以及实时操作系统. Berkeley DB在06年被 Oracl

Berkeley DB的常见API简单分析

1.用来存储类信息的数据库不要求能够存储重复的关键字    例:    dbConfig.setSortedDuplicates(false);2.DatabaseEntrt能够支持任何能够转化为bytes数组形式的基本数据.包括java基本类型和可序列化的对象(getBytes转换为UTF-8编码,可以不转)    例:    DatabaseEntry theKey = new DatabaseEntry(aKey.getBytes("UTF-8")); Berkeley DB的常

Berkeley DB

Berkeley DB基础教程 http://blog.csdn.net/jediael_lu/article/details/27534223 Berkeley DB教程之三:读写数据的几种方法的比较 http://www.micmiu.com/nosql/berkeley/berkeley-write-read-data/ 三.一个简单的BDB JE例子 http://blog.csdn.net/ms_x0828/article/details/5506324 Berkeley DB基础教程

Berkeley DB基础教程

一.Berkeley DB的介绍 (1)Berkeley DB是一个嵌入式数据库,它适合于管理海量的.简单的数据.如Google使用其来保存账户信息,Heritrix用其来保存froniter. (2)key/value是Berkeley DB用来管理数据的基础,每个key/value对代表一条记录. (3)Berkeley DB在底层实现采用B树,可以看成能够存储大量数据的HashMap. (4)它是Oracle公司的一个产品,C++版本最新出现,之后JAVA等版本也陆续出现.它不支持SQL语