用tensorflow搭建CNN的方法


Posted in Python onMarch 05, 2018

CNN(Convolutional Neural Networks) 卷积神经网络简单讲就是把一个图片的数据传递给CNN,原涂层是由RGB组成,然后CNN把它的厚度加厚,长宽变小,每做一层都这样被拉长,最后形成一个分类器

用tensorflow搭建CNN的方法

在 CNN 中有几个重要的概念:

  1. stride
  2. padding
  3. pooling

stride,就是每跨多少步抽取信息。每一块抽取一部分信息,长宽就缩减,但是厚度增加。抽取的各个小块儿,再把它们合并起来,就变成一个压缩后的立方体。

padding,抽取的方式有两种,一种是抽取后的长和宽缩减,另一种是抽取后的长和宽和原来的一样。

pooling,就是当跨步比较大的时候,它会漏掉一些重要的信息,为了解决这样的问题,就加上一层叫pooling,事先把这些必要的信息存储起来,然后再变成压缩后的层

利用tensorflow搭建CNN,也就是卷积神经网络是一件很简单的事情,笔者按照官方教程中使用MNIST手写数字识别为例展开代码,整个程序也基本与官方例程一致,不过在比较容易迷惑的地方加入了注释,有一定的机器学习或者卷积神经网络制式的人都应该可以迅速领会到代码的含义。

#encoding=utf-8 
import tensorflow as tf  
import numpy as np  
from tensorflow.examples.tutorials.mnist import input_data  
mnist = input_data.read_data_sets('MNIST_data', one_hot=True)  
def weight_variable(shape): 
  initial = tf.truncated_normal(shape,stddev=0.1) #截断正态分布,此函数原型为尺寸、均值、标准差 
  return tf.Variable(initial) 
def bias_variable(shape): 
  initial = tf.constant(0.1,shape=shape) 
  return tf.Variable(initial) 
def conv2d(x,W): 
  return tf.nn.conv2d(x,W,strides=[1,1,1,1],padding='SAME') # strides第0位和第3为一定为1,剩下的是卷积的横向和纵向步长 
def max_pool_2x2(x): 
  return tf.nn.max_pool(x,ksize = [1,2,2,1],strides=[1,2,2,1],padding='SAME')# 参数同上,ksize是池化块的大小 
 
x = tf.placeholder("float", shape=[None, 784]) 
y_ = tf.placeholder("float", shape=[None, 10]) 
 
# 图像转化为一个四维张量,第一个参数代表样本数量,-1表示不定,第二三参数代表图像尺寸,最后一个参数代表图像通道数 
x_image = tf.reshape(x,[-1,28,28,1]) 
 
# 第一层卷积加池化 
w_conv1 = weight_variable([5,5,1,32]) # 第一二参数值得卷积核尺寸大小,即patch,第三个参数是图像通道数,第四个参数是卷积核的数目,代表会出现多少个卷积特征 
b_conv1 = bias_variable([32]) 
 
h_conv1 = tf.nn.relu(conv2d(x_image,w_conv1)+b_conv1) 
h_pool1 = max_pool_2x2(h_conv1) 
 
# 第二层卷积加池化  
w_conv2 = weight_variable([5,5,32,64]) # 多通道卷积,卷积出64个特征 
b_conv2 = bias_variable([64]) 
 
h_conv2 = tf.nn.relu(conv2d(h_pool1,w_conv2)+b_conv2) 
h_pool2 = max_pool_2x2(h_conv2) 
 
# 原图像尺寸28*28,第一轮图像缩小为14*14,共有32张,第二轮后图像缩小为7*7,共有64张 
 
w_fc1 = weight_variable([7*7*64,1024]) 
b_fc1 = bias_variable([1024]) 
 
h_pool2_flat = tf.reshape(h_pool2,[-1,7*7*64]) # 展开,第一个参数为样本数量,-1未知 
f_fc1 = tf.nn.relu(tf.matmul(h_pool2_flat,w_fc1)+b_fc1) 
 
# dropout操作,减少过拟合 
keep_prob = tf.placeholder(tf.float32) 
h_fc1_drop = tf.nn.dropout(f_fc1,keep_prob) 
 
w_fc2 = weight_variable([1024,10]) 
b_fc2 = bias_variable([10]) 
y_conv = tf.nn.softmax(tf.matmul(h_fc1_drop,w_fc2)+b_fc2) 
 
cross_entropy = -tf.reduce_sum(y_*tf.log(y_conv)) # 定义交叉熵为loss函数 
train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # 调用优化器优化 
correct_prediction = tf.equal(tf.argmax(y_conv,1), tf.argmax(y_,1)) 
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float")) 
 
sess = tf.InteractiveSession() 
sess.run(tf.initialize_all_variables()) 
for i in range(2000): 
 batch = mnist.train.next_batch(50) 
 if i%100 == 0: 
  train_accuracy = accuracy.eval(feed_dict={x:batch[0], y_: batch[1], keep_prob: 1.0}) 
  print "step %d, training accuracy %g"%(i, train_accuracy) 
 train_step.run(feed_dict={x: batch[0], y_: batch[1], keep_prob: 0.5}) 
 
print "test accuracy %g"%accuracy.eval(feed_dict={x: mnist.test.images[0:500], y_: mnist.test.labels[0:500], keep_prob: 1.0})

在程序中主要注意这么几点:

1、维度问题,由于我们tensorflow基于的是张量这样一个概念,张量其实就是维度扩展的矩阵,因此维度特别重要,而且维度也是很容易使人迷惑的地方。

2、卷积问题,卷积核不只是二维的,多通道卷积时卷积核就是三维的

3、最后进行检验的时候,如果一次性加载出所有的验证集,出现了内存爆掉的情况,由于是使用的是云端的服务器,可能内存小一些,如果内存够用可以直接全部加载上看结果

4、这个程序原始版本迭代次数设置了20000次,这个次数大约要训练数个小时(在不使用GPU的情况下),这个次数可以按照要求更改。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python self,cls,decorator的理解
Jul 13 Python
Python学习笔记之常用函数及说明
May 23 Python
python迭代器实例简析
Sep 25 Python
使用Python的urllib2模块处理url和图片的技巧两则
Feb 18 Python
python3+PyQt5自定义视图详解
Apr 24 Python
python3 pygame实现接小球游戏
May 14 Python
详解解决Python memory error的问题(四种解决方案)
Aug 08 Python
python实现简单井字棋游戏
Mar 04 Python
python MultipartEncoder传输zip文件实例
Apr 07 Python
python“静态”变量、实例变量与本地变量的声明示例
Nov 13 Python
Django websocket原理及功能实现代码
Nov 14 Python
Python爬虫之Selenium警告框(弹窗)处理
Dec 04 Python
利用TensorFlow训练简单的二分类神经网络模型的方法
Mar 05 #Python
python使用Pycharm创建一个Django项目
Mar 05 #Python
python爬虫基本知识
Mar 05 #Python
用tensorflow构建线性回归模型的示例代码
Mar 05 #Python
详解python实现线程安全的单例模式
Mar 05 #Python
分析python动态规划的递归、非递归实现
Mar 04 #Python
python3.x上post发送json数据
Mar 04 #Python
You might like
怎样在UNIX系统下安装MySQL
2006/10/09 PHP
隐藏你的.php文件的实现方法
2007/03/19 PHP
WordPress中用于创建以及获取侧边栏的PHP函数讲解
2015/12/29 PHP
PHP实现找出链表中环的入口节点
2018/01/16 PHP
ie6下png图片背景不透明的解决办法使用js实现
2013/01/11 Javascript
Jquery判断radio、selelct、checkbox是否选中及获取选中值方法总结
2015/04/15 Javascript
谈一谈JS消息机制和事件机制的理解
2016/04/14 Javascript
浅析函数声明和函数表达式——函数声明的声明提前
2016/05/03 Javascript
js获取新浪天气接口的实现代码
2016/06/06 Javascript
JavaScript自学笔记(必看篇)
2016/06/23 Javascript
JavaScript基础重点(必看)
2016/07/09 Javascript
详解Angular开发中的登陆与身份验证
2016/07/27 Javascript
浅谈bootstrap使用中的一些问题以及解决过程
2016/10/18 Javascript
Vue.js创建Calendar日历效果
2016/11/03 Javascript
AngularJS实现根据变量改变动态加载模板的方法
2016/11/04 Javascript
过期软件破解办法实例详解
2017/01/04 Javascript
react中的ajax封装实例详解
2017/10/17 Javascript
vue2手机APP项目添加开屏广告或者闪屏广告
2017/11/28 Javascript
React props和state属性的具体使用方法
2018/04/12 Javascript
新手入门js闭包学习过程解析
2019/10/08 Javascript
Vue之封装公用变量以及实现方式
2020/07/31 Javascript
Python实现随机生成有效手机号码及身份证功能示例
2017/06/05 Python
Python实现批量读取图片并存入mongodb数据库的方法示例
2018/04/02 Python
使用python爬取B站千万级数据
2018/06/08 Python
Python pymongo模块常用操作分析
2018/09/01 Python
python Gunicorn服务器使用方法详解
2019/07/22 Python
Python调用Windows命令打印文件
2020/02/07 Python
关于tf.matmul() 和tf.multiply() 的区别说明
2020/06/18 Python
女孩每月服装订阅盒:kidpik
2019/04/17 全球购物
教育课题研究自我鉴定范文
2013/12/28 职场文书
公司培训心得体会
2014/01/03 职场文书
学生会个人总结范文
2015/02/15 职场文书
大学副班长竞选稿
2015/11/21 职场文书
小学英语新课改心得体会
2016/01/22 职场文书
2016大学生优秀志愿者事迹材料
2016/02/25 职场文书
详解Go与PHP的语法对比
2021/05/29 PHP