博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
CNN 笔记
阅读量:5039 次
发布时间:2019-06-12

本文共 1126 字,大约阅读时间需要 3 分钟。

  

 

 

1. 卷积后的图像的大小为    (w+2p-f)*3 / s    W为图像的宽,p为padding的大小, f为卷积核大小, 3 为图像的通道数, s为步长

 

2. 卷积层和池化层的区别?

卷积层是窗口滑动卷积,  池化层是取最大值

 

3. sigmod 函数和 relu函数的区别 ??

sigmoid函数,

sigmoid函数在在两段接近饱和区是,变换的很缓慢,导数趋近于0,在反向传播时,容易出现梯度消失的现象,造成信息的丢失。同时因为sigmoid函数是指数运算,计算量较大,导致反向传播求误差梯度是,计算量相对于relu会大很多,而采用relu激活函数,计算量会小很多。同样还有一个好处,relu函数会使得一部分神经元的输出为0,这样会使网络稀疏,减少了参数的依赖关系,缓解了过拟合的发生。

 

4. 特征提取  尽量提取和需要识别的物体的相关的特征,不然容易过拟合

  • sobel算子

 

5. 什么时候使用Relu函数,

每次迭代后都需要使用Relu函数;

6.  如果是10个 32*32*1 的特征图,  需要的参数为  10*5*5*3 + 10 = 760 个参数;

 

7.  caffe 参数含义

 epoch   batch  batch_size 含义

所以图片训练完叫一次epoch, 由于图片太多,无法将他们一次性训练完,所以要分很多个batch,  一个batch有batch_size张图片

lr_mult: 学习率的系数,最终的学习率是这个数乘以solver.prototxt配置文件中的base_lr。如果有两个lr_mult, 则第一个表示权值的学习率,第二个表示偏置项的学习率。一般偏置项的学习率是权值学习率的两倍。

inner_product_layer :全连接层

 

 

weight_filter    权值初始化方法     xavier   使用xavier方法初始化

 

 

bias_filler  偏置项初始化

 

 

accuracy层:就是计算准确度的层

accuracy层是通过对比预测的结果与输入的label,通过统计预测正确的数量与总共要预测的数量的比值得到的。 
accuracy层需要两个输入源,一个是经过网络预测的数值,另一个是最开始输入的label至,分别对应了bottom[0]和bottom[1]. 

 

SoftmaxWithLoss层  :  计算归一化概率和loss

 

 

 

 

 

8.  向量化

没有使用向量化的逻辑回归

 

使用了向量化的逻辑回归

 

 

 

 

9   梯度下降

 

 

 

10  逻辑回归中的代价函数

其中 是未知的,  y(i)  是已知的,  我们的目的就是求得的表达式, 即求得wT 和b

 

转载于:https://www.cnblogs.com/luoyinjie/p/9680679.html

你可能感兴趣的文章
HTML5 input控件 placeholder属性
查看>>
使用JAVA如何对图片进行格式检查以及安全检查处理
查看>>
html5实现移动端下拉刷新(原理和代码)
查看>>
iPhone开发中从一个视图跳到另一个视图有三种方法:
查看>>
pytho logging
查看>>
一个Java程序员应该掌握的10项技能
查看>>
c#英文大小写快捷键
查看>>
tpframe免费开源框架又一重大更新
查看>>
一.go语言 struct json相互转换
查看>>
什么是架构设计
查看>>
程序员学习能力提升三要素
查看>>
PHP 微信错误状态返回码说明
查看>>
【4.1】Python中的序列分类
查看>>
ubuntu 移动文件
查看>>
Easy Mock
查看>>
看看 Delphi XE2 为 VCL 提供的 14 种样式
查看>>
Python内置函数(29)——help
查看>>
机器学习系列-tensorflow-01-急切执行API
查看>>
SqlServer 遍历修改字段长度
查看>>
Eclipse快捷键:同时显示两个一模一样的代码窗口
查看>>