Oracle海量数据导入MongoDB 采用JAVA反射-Penghao

首先人员表数据一共有100W条,前期开始是想先用PL/SQL导出为xml格式,然后在SAX解析xml,后来发现xml超过10W条的时候解析起来会有问题,特别占用CPU资源,后改用java程序直接连oracle和mongo,该表有50多个全大写字段,如果先获取到oracle表的列名和值,再写条件判断 if(列名==类属性){ 新实例赋值}, 要写50多个if代码块.觉得用反射更代码更简洁一点。

PatMaster实体类中的NAME字段

String NAME;
public String getNAME() {
		return NAME;
	}
public void setNAME(String nAME) {
		NAME = nAME;
	}

Class<PatMaster> c = PatMaster.class;

PatMaster patMaster = c.newInstance();

Method m1 = c.getDeclaredMethod("set" + column, String.class);

m1.setAccessible(true);

m1.invoke(patMaster, value);

column为oracle获取的字段列,String.class是指改set方法需要传入一个String,那么m1就获取到这个set方法了,如果不是public方法,需要setAccessible(true);然后invoke的时候传入实例和数据库中该字段值即可.

全部代码:直接拷过去就可以用,你改个IP定义个你的实体类就好了,  如果搞不定加我QQ468165108

用到的jar包 :ojdbc14.jar,mongo-2.5.3.jar

JAR下载地址:http://pan.baidu.com/s/1kTGNVoj 密码:69fz ,

	public void OdbcTOMongo() throws Exception {

		Mongo mongo = new Mongo("192.168.1.3", 30000);
		DB db = mongo.getDB("test");
		db.authenticate("user", "user".toCharArray());
		DBCollection dbc = db.getCollection("patMasterIndex");

		//自定义数据字典
		FieldfUtils fu = new FieldfUtils();
		HashMap<String, String> map = fu.GetMinField();

		Class.forName("oracle.jdbc.driver.OracleDriver");
		String url = "jdbc:oracle:thin:@192.168.1.111:1521:dba";
		String user = "user";
		String password = "pwd";
		Connection conn = DriverManager.getConnection(url, user, password);
		PreparedStatement ps = conn.prepareStatement("select * from PAT_MASTER_INDEX");
		ResultSet rs = ps.executeQuery();
		int num = 0;
		ResultSetMetaData rsmd = rs.getMetaData();
		int colCount = rsmd.getColumnCount();

		while (rs.next()) {

			//计数器 每导入1W行记录输入
			num++;
			if(num%10000==0){
				System.out.println(num);
			}
			Class<PatMaster> c = PatMaster.class;
			PatMaster patMaster = c.newInstance();
			BasicDBObject bdo = new BasicDBObject();

			for (int i = 1; i <= colCount; i++) {
				String column = rsmd.getColumnName(i);
				Object object = rs.getObject(i);
				String value = "";
				if (object == null) {
				} else {
					value = (String) object.toString();
				}
				Method m1 = c.getDeclaredMethod("set" + column, String.class);
				m1.setAccessible(true);
				m1.invoke(patMaster, value);

				String minName = map.get(column);
				bdo.put(minName, value);
			}
			dbc.insert(bdo);
		}

		rs.close();
		ps.close();
		conn.close();
	}
}

版权声明:本文为博主原创文章,未经博主允许不得转载。

时间: 2024-10-12 19:53:01

Oracle海量数据导入MongoDB 采用JAVA反射-Penghao的相关文章

Java反射机制的学习

Java反射机制是Java语言被视为准动态语言的关键性质.Java反射机制的核心就是允许在运行时通过Java Reflection APIs来取得已知名字的class类的相关信息,动态地生成此类,并调用其方法或修改其域(甚至是本身声明为private的域或方法). 也许你使用Java已经很长时间了,可是几乎不会用到Java反射机制.你会嗤之以鼻地告诉我,Java反射机制没啥用.或许在J2EE.J2SE等平台,Java反射机制没啥用(具体我也不了解,不多做评论),但是在Android应用开发中,该

Oracle数据导入导出命令

IMP 和EXP命令 Oracle数据导入导出imp/exp就相当于oracle数据还原与备份.exp命令可以把数据从远程数据库服务器导出到本地的dmp文件,imp命令可以把dmp文件从本地导入到远处的数据库服务器中. 利用这个功能可以构建两个相同的数据库,一个用来测试,一个用来正式使用. 执行环境:可以在SQLPLUS.EXE或者DOS(命令行)中执行,DOS中可以执行时由于在oracle 8i中安装目录\ora81\BIN被设置为全局路径,该目录下有EXP.EXE与IMP.EXE文件被用来执

[转载] Java反射机制的学习

本文转载自: http://www.blogjava.net/zh-weir/archive/2011/03/26/347063.html Java反射机制是Java语言被视为准动态语言的关键性质.Java反射机制的核心就是允许在运行时通过Java Reflection APIs来取得已知名字的class类的相关信息,动态地生成此类,并调用其方法或修改其域(甚至是本身声明为private的域或方法). 也许你使用Java已经很长时间了,可是几乎不会用到Java反射机制.你会嗤之以鼻地告诉我,Ja

08.Java反射问题

目录介绍 8.0.0.1 反射的原理是什么?有哪些途径获取到Class对象,Class类的含义和作用是什么?什么是class类? 8.0.0.2 有哪些方式可以提高反射效率?为何反射消耗性能?究竟是怎么影响的,举例说明? 8.0.0.3 java反射机制提供了什么功能?发射具有暴力访问权限,如何防止反射序列化***单例? 8.0.0.4 通过反射获得泛型的实际类型参数?反射获取构造方法,变量,方法的方法是哪些? 8.0.0.5 getGenericParameterTypes 与 getPara

java 反射 详解

本文来自:blog.csdn.net/ljphhj JAVA反射机制:   通俗地说,反射机制就是可以把一个类,类的成员(函数,属性),当成一个对象来操作,希望读者能理解,也就是说,类,类的成员,我们在运行的时候还可以动态地去操作他们. 理论的东东太多也没用,下面我们看看实践 Demo - Demo: package cn.lee.demo; import java.lang.reflect.Constructor; import java.lang.reflect.Field; import

java 反射类的理解与应用

本文主要解析的类是: ClassLodaer,Class,Field,Method,Constructor. 本文的目标很简单,只是对这些常用的反射类进行简单解释.对这些类中常用方法进行介绍. JAVA反射机制是在运行状态中,对于任意一个类,都能够知道这个类的所有属性和方法:对于任意一个对象,都能够调用它的任意一个方法:这种动态获取的信息以及动态调用对象的方法的功能称为java语言的反射机制.Java反射机制主要提供了以下功能: 在运行时判断任意一个对象所属的类:在运行时构造任意一个类的对象:在

Java反射与代理

Java反射机制与动态代理,使得Java更加强大,Spring核心概念IoC.AOP就是通过反射机制与动态代理实现的. 1       Java反射 示例: User user = new User(); user.setTime5Flag("test"); Class<?> cls = Class.forName("com.test.User"); //接口必须public,无论是否在本类内部使用!或者使用cls.getDeclaredMethod()

java反射与动态代理

Java反射与动态代理 Java反射机制可以动态地获取类的结构,动态地调用对象的方法,是java语言一个动态化的机制.java动态代理可以在不改变被调用对象源码的前提下,在被调用方法前后增加自己的操作,极大地降低了模块之间的耦合性.这些都是java的基础知识,要想成为一名合格的程序猿,必须掌握! Java反射机制 JAVA反射机制是在运行状态中,对于任意一个类,都能够知道这个类的所有属性和方法:对于任意一个对象,都能够调用它的任意一个方法和属性:这种动态获取的信息以及动态调用对象的方法的功能称为

java反射机制分析

本文转自:http://www.cnblogs.com/gulvzhe/archive/2012/01/27/2330001.html 浅显易懂,值得收藏 Java反射机制是在运行状态中,对于任意一个类,都能够知道这个类的所有属性和方法:对于任意一个对象, 都能够调用它的任意一个方法和属性:这种动态获取的信息以及动态调用对象的方法的功能称为Java语言的反射机制.反射的概念是由Smith在1982年 首次提出的,主要是指程序可以访问.检测和修改它本身状态或行为的一种能力.这一概念的提出很快引发了