卷积+池化+卷积+池化+全连接2

#!/usr/bin/env python

import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data

# In[2]:

mnist = input_data.read_data_sets(‘MNIST_data‘, one_hot=True)

# 每个批次的大小batch_size = 100# 计算一共有多少个批次n_batch = mnist.train.num_examples // batch_size

# 初始化权值def weight_variable(shape):    initial = tf.truncated_normal(shape, stddev=0.1)  # 生成一个截断的正态分布    return tf.Variable(initial)

# 初始化偏置def bias_variable(shape):    initial = tf.constant(0.1, shape=shape)    return tf.Variable(initial)

# 卷积层def conv2d(x, W):    # x input tensor of shape `[batch, in_height, in_width, in_channels]`    # W filter / kernel tensor of shape [filter_height, filter_width, in_channels, out_channels]    # `strides[0] = strides[3] = 1`. strides[1]代表x方向的步长,strides[2]代表y方向的步长    # padding: A `string` from: `"SAME", "VALID"`    return tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding=‘SAME‘)

# 池化层def max_pool_2x2(x):    # ksize [1,x,y,1]    return tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding=‘SAME‘)# 定义两个placeholderx = tf.placeholder(tf.float32, [None, 784])y = tf.placeholder(tf.float32, [None, 10])# 改变x的格式转为4D的向量[batch, in_height, in_width, in_channels]`x_image = tf.reshape(x, [-1, 28, 28, 1])# 初始化第一个卷积层的权值和偏置W_conv1 = weight_variable([5, 5, 1, 16])  # 5*5的采样窗口,32个卷积核从1个平面抽取特征b_conv1 = bias_variable([16])  # 每一个卷积核一个偏置值# 把x_image和权值向量进行卷积,再加上偏置值,然后应用于relu激活函数conv2d_1 = conv2d(x_image, W_conv1) + b_conv1h_conv1 = tf.nn.relu(conv2d_1)h_pool1 = max_pool_2x2(h_conv1)  # 进行max-pooling    # 初始化第二个卷积层的权值和偏置W_conv2 = weight_variable([5, 5, 16, 32])  # 5*5的采样窗口,64个卷积核从32个平面抽取特征b_conv2 = bias_variable([32])  # 每一个卷积核一个偏置值    # 把h_pool1和权值向量进行卷积,再加上偏置值,然后应用于relu激活函数conv2d_2 = conv2d(h_pool1, W_conv2) + b_conv2h_conv2 = tf.nn.relu(conv2d_2)h_pool2 = max_pool_2x2(h_conv2)  # 进行max-pooling# 28*28的图片第一次卷积后还是28*28,第一次池化后变为14*14# 第二次卷积后为14*14,第二次池化后变为了7*7# 进过上面操作后得到64张7*7的平面    # 初始化第一个全连接层的权值W_fc1 = weight_variable([7 * 7 * 32, 512])  # 上一场有7*7*64个神经元,全连接层有1024个神经元b_fc1 = bias_variable([512])  # 1024个节点    # 把池化层2的输出扁平化为1维h_pool2_flat = tf.reshape(h_pool2, [-1, 7 * 7 * 32])    # 求第一个全连接层的输出wx_plus_b1 = tf.matmul(h_pool2_flat, W_fc1) + b_fc1h_fc1 = tf.nn.relu(wx_plus_b1)    # keep_prob用来表示神经元的输出概率keep_prob = tf.placeholder(tf.float32)h_fc1_drop = tf.nn.dropout(h_fc1, keep_prob)    # 初始化第二个全连接层W_fc2 = weight_variable([512, 10])b_fc2 = bias_variable([10])wx_plus_b2 = tf.matmul(h_fc1_drop, W_fc2) + b_fc2        # 计算输出prediction = tf.nn.softmax(wx_plus_b2)# 交叉熵代价函数cross_entropy = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y, logits=prediction))# 使用AdamOptimizer进行优化train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)        # 结果存放在一个布尔列表中correct_prediction = tf.equal(tf.argmax(prediction, 1), tf.argmax(y, 1))  # argmax返回一维张量中最大的值所在的位置        # 求准确率accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

with tf.Session() as sess:    sess.run(tf.global_variables_initializer())    for epoch in range(11):        for batch in range(n_batch):            batch_xs, batch_ys = mnist.train.next_batch(batch_size)            sess.run(train_step, feed_dict={x: batch_xs, y: batch_ys, keep_prob: 0.7})        acc = sess.run(accuracy, feed_dict={x: mnist.test.images, y: mnist.test.labels, keep_prob: 1.0})        print("Iter " + str(epoch) + ", Testing Accuracy= " + str(acc))

Iter 0, Testing Accuracy= 0.9366
Iter 1, Testing Accuracy= 0.9602
Iter 2, Testing Accuracy= 0.9677
Iter 3, Testing Accuracy= 0.9735
Iter 4, Testing Accuracy= 0.9769
Iter 5, Testing Accuracy= 0.9803
Iter 6, Testing Accuracy= 0.9783
Iter 7, Testing Accuracy= 0.9842
Iter 8, Testing Accuracy= 0.9839
Iter 9, Testing Accuracy= 0.9853
Iter 10, Testing Accuracy= 0.9848

原文地址:https://www.cnblogs.com/rongye/p/10012915.html

时间: 2024-11-06 07:10:00

卷积+池化+卷积+池化+全连接2的相关文章

全连接层 和 卷积层

卷积不过是一个稀疏的全连接:全连接也不过是一个画面那么大的卷积.本质上都可以理解为矩阵乘法(卷积可以参考托普利兹矩阵和块循环矩阵),相比起来卷积这种形式可以很好捕捉图像这种有空间相关性输入的特征. 本身conv和fc两者在设计好conv大小的情况下就是等价的, 没有什么取代不取代的. 基本上可以理解全conv就是拿一个小点的fc不停的在图片不同位置上跑, 当然, 有层数的情况下不严格一样, 但是差不了多少. fc不愿意用是因为锁死分辨率, 而且容易造成模型参数太多, 性能上受限制. 但是fc可以

卷积+池化+卷积+池化+全连接

#!/usr/bin/env python import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data # In[2]: mnist = input_data.read_data_sets('MNIST_data', one_hot=True) # 每个批次的大小batch_size = 100# 计算一共有多少个批次n_batch = mnist.train.num_examples //

Tensorflow 池化层(pooling)和全连接层(dense)

一.池化层(pooling) 池化层定义在 tensorflow/python/layers/pooling.py. 有最大值池化和均值池化. 1. 最大池化层 tf.layers.max_pooling2d max_pooling2d( inputs, pool_size, strides, padding='valid', data_format='channels_last', name=None ) inputs: 进行池化的数据.pool_size: 池化的核大小(pool_heigh

理解为什么要将全连接层转化为卷积层

理解为什么要将全连接层转化为卷积层 1.全连接层可以视作一种特殊的卷积 考虑下面两种情况: 特征图和全连接层相连,AlexNet经过五次池化后得到7*7*512的特征图,下一层全连接连向4096个神经元,这个过程可以看做有4096个7*7*512的卷积核和7*7*512的特征图进行卷积操作,最终得到1*1*4096的特征图,等价与全连接得到4096个神经元. 全连接层和全连接层相连,AlexNet的再下一层依然是4096个神经元,即4096个神经元和4096个神经元全连接,由(1)我们得到了1*

【TensorFlow/简单网络】MNIST数据集-softmax、全连接神经网络,卷积神经网络模型

初学tensorflow,参考了以下几篇博客: soft模型 tensorflow构建全连接神经网络 tensorflow构建卷积神经网络 tensorflow构建卷积神经网络 tensorflow构建CNN[待学习] 全连接+各种优化[待学习] BN层[待学习] 先解释以下MNIST数据集,训练数据集有55,000 条,即X为55,000 * 784的矩阵,那么Y为55,000 * 10的矩阵,每个图片是28像素*28像素,带有标签,Y为该图片的真实数字,即标签,每个图片10个数字,1所在位置

高效线程池之无锁化实现(Linux C)

笔者之前练手写过一个小的线程池版本(已上传至https://github.com/xhjcehust/thread-pool),最近几天复习了一下,发现大多数线程池实现都离不开锁的使用,如互斥量pthread_mutex*结合条件变量pthread_cond*.众所周知,锁的使用对于程序性能影响较大,虽然现有的pthread_mutex*在锁的申请与释放方面做了较大的优化,但仔细想想,线程池的实现是可以做到无锁化的,于是有了本文. 1.常见线程池实现原理 如上图所示,工作队列由主线程和工作者线程

resnet18全连接层改成卷积层

想要尝试一下将resnet18最后一层的全连接层改成卷积层看会不会对网络效果和网络大小有什么影响 1.首先先对train.py中的更改是: train.py代码可见:pytorch实现性别检测 # model_conv.fc = nn.Linear(fc_features, 2)这是之前的写法 model_conv.fc = nn.Conv2d(fc_features, 2, 1) print(model_conv.fc) 但是运行的时候出错: 1) RuntimeError: Expected

(转)高效线程池之无锁化实现(Linux C)

本文链接:https://blog.csdn.net/xhjcehust/article/details/45844901 笔者之前照着通用写法练手写过一个小的线程池版本,最近几天复习了一下,发现大多数线程池实现都离不开锁的使用,如互斥量pthread_mutex*结合条件变量pthread_cond*.众所周知,锁的使用对于程序性能影响较大,虽然现有的pthread_mutex*在锁的申请与释放方面做了较大的优化,但仔细想想,线程池的实现是可以做到无锁化的,于是有了本文. 1.常见线程池实现原

解决Mysql连接池被关闭 ,hibernate尝试连接不能连接的问题。 (默认mysql连接池可以访问的时间为8小时,如果超过8小时没有连接,mysql会自动关闭连接池。系统发布第二天访问链接关闭问题。

解决Mysql连接池被关闭  ,hibernate尝试连接不能连接的问题. (默认MySQL连接池可以访问的时间为8小时,如果超过8小时没有连接,mysql会自动关闭连接池. 所以系统发布第二天访问会失去链接,导致访问失败.因此稳定解决办法是把hibernate默认的连接池换成c3p0链接池. 在Hibernate(spring管理)中的配置:<bean id="dataSource" class="com.mchange.v2.c3p0.ComboPooledData