损失函数

损失函数是一个用于衡量模型预测结果与实际目标之间差异的函数。在神经网络中，损失函数的作用是指导模型的训练过程，通过最小化损失函数的值来优化模型的参数。

在回归任务中，常用的损失函数是均方误差（Mean Squared Error, MSE），它计算预测值与真实值之间差异的平方平均值。选择合适的损失函数取决于具体的任务需求。例如，除了均方误差外，有时也可能使用平均绝对误差（Mean Absolute Error）。

y <- torch_randn(5)  
y_pred <- y + 0.01  
loss <- (y_pred - y)$pow(2)$mean()

这个代码片段计算了预测值y_pred与真实值y之间的均方误差，并将其存储在loss变量中。损失函数的值越小，表示模型的预测越接近真实值。通过不断调整模型的参数以最小化损失函数的值，模型的性能可以得到提升。