加入收藏 | 设为首页 | 会员中心 | 我要投稿 河北网 (https://www.hebeiwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 建站 > 正文

形象领略深度进修中八大范例卷积

发布时间:2019-02-14 06:55:41 所属栏目:建站 来源:AI火箭营
导读:本文总结了深度进修中常用的八大范例的卷积,以很是形象的方法辅佐你成立直觉领略,为你的深度进修提供有益的参考。 别离是单通道卷积、多通道卷积、3D卷积、1 x 1卷积、转置卷积、扩张卷积、可疏散卷积、分组卷积。 单通道卷积 单通道卷积 在深度进修中,
副问题[/!--empirenews.page--]

本文总结了深度进修中常用的八大范例的卷积,以很是形象的方法辅佐你成立直觉领略,为你的深度进修提供有益的参考。

别离是单通道卷积、多通道卷积、3D卷积、1 x 1卷积、转置卷积、扩张卷积、可疏散卷积、分组卷积。

单通道卷积

形象领略深度进修中八大范例卷积

单通道卷积

在深度进修中,卷积是元素先乘法后加法。对付具有1个通道的图像,卷积如下图所示。这里的滤波器是一个3 x 3矩阵,元素为[[0,1,2],[2,2,0],[0,1,2]]。过滤器在输入端滑动。在每个位置,它都在举办元素乘法和加法。每个滑动位置最终都有一个数字。最终输出是3 x 3矩阵。

多通道卷积

在很多应用措施中,我们处理赏罚的是具有多个通道的图像。典范的例子是RGB图像。每个RGB通道都夸大原始图像的差异方面,如下图所示:

形象领略深度进修中八大范例卷积

图像拍摄于云南省元阳市

卷积神经收集中每层用多个滤波器核就是多通道。卷积收集层凡是由多个通道(数百个卷积核)构成。每个通道提取前一层差异方面的抽象特性。我们如安在差异深度的层之间举办过渡?我们怎样将深度为n的图层转换为深度为m的后续图层?

形象领略深度进修中八大范例卷积

"层"(过滤器)和"通道"(卷积核)

多通道卷积如下。将每个内核应用到前一层的输入通道上以天生一个输出通道。这是一个内核方面的进程。我们为全部内核一再这样的进程以天生多个通道。然后将这些通道中的每一个加在一路以形成单个输出通道。

下图使多通道卷积进程更清楚。

输入层是一个5 x 5 x 3矩阵,有3个通道。滤波器是3 x 3 x 3矩阵。起首,过滤器中的每个内核别离应用于输入层中的三个通道,并相加;然后,执行三次卷积,发生3个尺寸为3×3的通道。

形象领略深度进修中八大范例卷积

多通道2D卷积的第一步:滤波器中的每个内核别离应用于输入层中的三个通道。

形象领略深度进修中八大范例卷积

多通道的2D卷积的第二步:然后将这三个通道相加在一路(逐元素加法)以形成一个单通道。

3D卷积

3D滤镜可以在全部3个偏向(图像的高度,宽度,通道)上移动。在每个位置,逐元素乘法和加法提供一个数字。因为滤镜滑过3D空间,因此输出数字也分列在3D空间中,然后输出是3D数据。

形象领略深度进修中八大范例卷积

相同于2D卷积中工具的空间相关,3D卷积可以描写3D空间中的工具的空间相关。这种3D相关有很重要的应用,譬喻在生物医学想象的3D支解/重建中,CT和MRI,个中诸如血管的工具在3D空间中蜿蜒。

1 x 1卷积

1 x 1卷积中将一个数字乘以输入层中的每个数字。

假如输入层有多个通道,此卷积会发生风趣的浸染。下图声名白1 x 1卷积怎样合用于尺寸为H x W x D的输入层。在滤波器尺寸为1 x 1 x D的1 x 1卷积之后,输出通道的尺寸为H x W x 1.假如我们应用N这样的1 x 1卷积然后将功效毗连在一路,我们可以获得一个尺寸为H x W x N的输出层。

形象领略深度进修中八大范例卷积

1 x 1卷积,滤波器巨细为1 x 1 x D

最初,在收集收集文件中提出了1 x 1卷积。然后,他们在Google Inception 被高度行使1 x 1卷积的一些利益是:

  • 低落维度以实现高效计较
  • 高效的低维嵌入或特性池
  • 卷积后再次应用非线性

在上图中可以调查到前两个利益。在1 x 1卷积之后,我们显著地减小了尺寸。假设原始输入有200个通道,1 x 1卷积会将这些通道(成果)嵌入到单个通道中。第三个利益是在1 x 1卷积之后,可以添加诸如ReLU的非线性激活,非线性应承收集进修更伟大的成果。

转置卷积(解卷积、反卷积)

对付很多应用措施和很多收集架构,我们常常但愿举办与正常卷积相反偏向的转换,即我们但愿执行上采样。一些示例包罗天生高判别率图像并将低维特性映射映射到高维空间,譬喻自动编码器或语义分段。

传统上,可以通过应用插值方案或手动建想法则来实现上采样。然而,神经收集之类的当代架构可以让收集自己自动地进批改确的转换,而无需工钱过问。

对付下图中的示例,我们行使3 x 3内核在2 x 2输入上应用转置卷积,行使单元步幅添补2 x 2边框,上采样输出的巨细为4 x 4。

形象领略深度进修中八大范例卷积

输入2 x 2上采样输出4 x 4

风趣的是,通过应用花式添补和步幅,可以将沟通的2 x 2输入图像映射到差异的图像巨细。下面,转置卷积应用于沟通的2 x 2输入,行使单元步幅添补2 x 2界线的零,此刻输出的巨细为5 x 5。

形象领略深度进修中八大范例卷积

输入2 x 2上采样输出5 x 5

在卷积中,让我们将C界说为我们的内核,将Large界说为输入图像,将Small界说为来自卷积的输出图像。在卷积(矩阵乘法)之后,我们将大图像下采样为小图像输出。矩阵乘法中的卷积的实现遵循C x Large = Small。

(编辑:河北网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读