网络拓扑结构(带你了解神经网络的“拓扑结构”)
网络拓扑结构(带你了解神经网络的“拓扑结构”)
深度学习模型是层构成的有向无环图。最常见的例子就是层的线性堆叠,将单一输入映射为单一输出。
神经网络的拓扑结构包括网网络层数、各层神经元数量以及各神经元之间相互连接的方式。一些常见的网络拓扑结构有:
双分支(two-br网anch)网络
多头(multihead)网络
Inception模块
网络的拓网扑结构定义了一个假设空间(hypothesis space)。在预先定义好的可能性空间中,利用反馈信号的指引来寻找输入数据的有用表示。选定了网络拓扑结构,意味着将可能性空间(假设空间)限定为一系列特定的张量运算,将输入数据映射为输出数据。然后,我们为这些张量运算的权重张量找到一组合适的值。
人工神经网络的模型从其拓扑结构角度去看,可分为层次型和互连型。层次型模型是将神经网络分为输入层(Input Layer)、隐层(Hidden Layer)和输出层(Output Layer),各层顺序连接。其中,输入层神经元负责接收来自外界的输入信息,并将其传递给隐层神经元。隐层负责神经网络内部的信息处理、信息变换。通常会根据变换的需要,将隐层设计为一层或多层。
网络模型示意图
选择正确的网络架构更像是一门艺术而不是科学。虽然有一些最佳实践和原则,但只有动手实践才能让你称为合格的神经网络架构师。在学习过程中,我们需要深入理解构建神经网络的详细原则,从直觉上对它们进行感知,明白对于特定问题哪些架构有用,而哪些架构无用。