回归（regression）是监督学习的一个重要问题，回归问题用于预测输入变量（自变量）和输出变量（因变量）之间的关系，特别是当输入变量的值发生变化时，输出变量的值随之发生变化，回归模型正是表示输入变量到输出变量之间映射的函数，回归问题的学习等价于函数拟合；选择一条函数曲线使其很好地拟合已知数据且很好地预测未知数据。 按照输入变量与输出变量之间的关系的类型即模型的类型，回归问题分为线性回归和非线性回归。 回归问题最常用的损失函数是平方损失函数，再次情况下可以由著名的最小二乘法求解。     好，…