1.3 单层神经网络的概述

1.3.1 回归模型

当一个神经网络只有输入层与输出层时，它是一个单层神经网络，是最为简单的神经网络，可用于实现线性回归分析，也可用于解决简单的二分类问题，还可用于解决多分类问题。

当使用单层神经网络实现线性回归分析时，其原理与使用机器学习实现线性回归分析的原理完全一致。单变量线性回归模型如图1.6所示。其中x为自变量，y为因变量。

单变量线性回归模型的数学表达式如下。

式中，θ表示权重，需要通过训练得到最优值。

对于线性回归模型，损失函数一般使用均方误差（Mean Square Error，MSE），如下式所示。

式中，m表示样本总数；表示预测结果；i表示m个样本中的第i个。

线性回归模型可以使用TensorFlow实现，代码如下所示。

运行代码，结果如下所示。

TensorFlow线性回归模型案例损失函数图像如图1.7所示。

线性回归模型也可以使用PyTorch实现，代码如下所示。

运行代码，结果如下所示。

PyTorch线性回归模型案例损失函数图像如图1.8所示。

以上就是使用TensorFlow和PyTorch实现单变量线性回归模型的代码，可以看出两种框架之间的实现方法存在一些差异，但是整体原理都是相同的，同时代码的运行结果是一样的。