神经网络基本特点

神经网络是一种受生物神经系统启发的机器学习算法。 它们具有以下基本特点：
1. 层级结构：
神经网络通常由相互连接的神经元层构成。 每层的神经元从前一层接收输入，并向后一层输出处理后的信号。
2. 节点（神经元）：
节点是神经网络的计算单元，模拟神经元的行为。 它们接收输入、应用激活函数并计算输出。
3. 加权连接：
节点之间的连接具有权重，表示它们对输出信号的影响强度。 这些权重在训练过程中进行调整。
4. 激活函数：
激活函数将节点的加权输入映射到输出信号。 常用的激活函数包括 ReLU、sigmoid 和 tanh。
5. 前馈传播：
输入数据从输入层向输出层逐层传递，每个节点的输出成为下一层的输入。
6. 反向传播：
在训练过程中，使用反向传播算法计算每个权重的梯度。 这些梯度用于更新权重，最小化损失函数。
7. 训练：
神经网络通过使用带标签的数据集进行训练，调整权重以最小化预测错误。 训练过程通常是迭代的。
8. 泛化：
训练后，神经网络应该能够对新的、从未 seen 过的数据做出准确的预测。 泛化能力是神经网络的重要特性。
9. 参数化：
神经网络的参数包括节点数、层数、连接权重和激活函数。 这些参数在训练过程中进行优化。
10. 表达能力：
神经网络具有很强的表达能力，可以近似任何函数。 通过增加层数和节点数，神经网络可以建模复杂的关系。
11. 并行计算：
神经网络非常适合并行计算，因为节点可以同时处理输入。 这使得它们在大型数据集上进行训练时效率更高。