本文共 568 字,大约阅读时间需要 1 分钟。
学习资料
自编码器是一种能够通过无监督学习,学到输入数据搞笑表示的人工神经网络。输入数据的这一高效表示称为编码,其维度一般远小于输入数据,使得自编码器可用于降维。自编码器可以用用于特征检测,也可以随机生成与训练数据类似的数据,这被称作生成模型。比如,可以用人脸图片训练自编码器,可以生成新的图片。
一个自编码器接收输入,将其转换成高i笑傲的内部表示,然后再输出输入数据的类似物。自编码器通常包括两部分:encoder(也称为识别网络)将输入转换成内部表示,decoder(也称为生成网络)将内部表示转换成输出
由于内部表示的维度小于输入数据,这称为不完备自编码器。
在
再介绍以下栈式自编码器。和其他神经网络一样,自编码器可以有多个隐层,这被称作栈式自编码器。增加隐层可以学到更复杂的编码,但千万不能使自编码过于强大。
栈式自编码器要求权重对称,这就使得模型参数减半,加快了训练速度并降低了过拟合风险。
在
再看看去噪自编码器,它的过程如下,就是在输入阶段九加入噪声
另外聊聊它的稀疏性
如果隐藏节点数目过多,甚至比可视节点数目还多的时候,自编码器不仅会丧失这种能力,更科恩那个会习得一种恒等函数。所谓稀疏性,就是对一对输入图像,隐藏节点中被激活得节点数远远小于被抑制得节点数目。那么使得神经元大部分得时间都是被抑制,称作稀疏性限制。在
转载地址:https://blog.csdn.net/zhouzhouasishuijiao/article/details/86289705 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!