卷积神经网络笔记
卷积层
概述和直观介绍
卷积层的参数是有一些可学习的滤波器集合构成的。每个滤波器在空间上(宽度和高度)都比较小,但是深度和输入数据一致。举例来说,卷积神经网络第一层的一个典型的滤波器的尺寸可以是5x5x3(宽高都是5像素,深度是3是因为图像应为颜色通道,所以有3的深度)。在前向传播的时候,让每个滤波器都在输入数据的宽度和高度上滑动(更精确地说是卷积),然后计算整个滤波器和输入数据任一处的内积。当滤波器沿着输入数据的宽度和高度滑过后,会生成一个2维的激活图(activation map),激活图给出了在每个空间位置处滤波器的反应。
局部连接
在处理图像这样的高维度输入时,让每个神经元都与前一层中的所有神经元进行全连接是不现实的。相反,我们让每个神经元只与输入数据的一个局部区域连接。该连...
深度学习用于计算机视觉
卷积神经网络简介
卷积运算
密集连层:从输入特征空间中学到的是全局模式
卷积层:局部模式
卷积神经网络具有以下两个特性:
学到的模式具有 平移不变性
可以学到 模式的空间层次结构
卷积由以下两个关键参数定义:
从输入中提取的图块尺寸
输出特征图的深度:卷积所计算的过滤器的数量。
输出的宽度和高度可能与输入的不同,原因:
边界效应,可通过对输入特征图进行填充来抵消
使用了 步幅
最大池化运算
作用:对特征图进行下采样,与步进卷积类似。
原因:
减少需要处理的特征图的元素个数
通过让连续卷积层的观察窗口越来越大从而引入空间过滤器的层级结构
在小型数据集上从头开始训练一个卷积神经网络
数据增强
深度学习与小数据...
我来金泽这一年
看看日历,不知不觉我到日本已经有一年的时间了。
恍惚还记得去年的这个时间,我应该刚下飞机,提着我的两个箱子住进了大阪国际机场里的FirstCarbon胶囊旅馆。
也还记得当时坐在狭小的胶囊旅馆中拿出我的小电脑在印象笔记上写下了来日本后的第一篇日记。
哈哈,这一切都仿佛是在昨天发生的一样,现在还记忆深刻。
可惜这一切确实是发生在过去的,留下的也只是记忆罢了。
也还记得第一次见赵哥的时候,觉得他像个越南人,哈哈。
第一次见游哥的时候是在来学校的bus上,给我记忆最深刻的场景就是游哥抱着ps4走过我面前,那个时候我就知道这又是一个资深宅男了。哈哈。
那个时候还遇到了越南的小姐姐ジェンさん,我在大巴上坐在她旁边。
她应该是我来日本之后认识的第一个人吧,一开始还以为是个中国人,脑海里还YY...
机器学习基础
机器学习的四个分支
监督学习
监督学习是目前最常见的机器学习类型。
变体:
序列生成:给定一张图像,预测描述图像的文字。
语法树预测:给定一个句子,预测其分解生成的语法树。
目标检测:给定一张图像,在图中特定目标的周围画一个边界框。
图像分割:给定一张图像,在特定物体上画一个象素级的mask。
无监督学习
是指在没有目标的情况下寻找输入数据的有趣变换。
降维
聚类
自监督学习
没有人类参与的监督学习。
标签是从输入数据中生成的,通常是使用启发式算法生成的。
自编码器
强化学习
智能体
还没有工业化,未来?
评估机器学习模型
训练集,验证集和测试集
超参数–选择层数或每层的的大小
参数–权重
信息泄露
如果数据很...
85 post articles, 11 pages.