回归（regression）是监督学习的一个重要问题，回归问题用于预测输入变量（自变量）和输出变量（因变量）之间的关系，特别是当输入变量的值发生变化时，输出变量的值随之发生变化，回归模型正是表示输入变量到输出变量之间映射的函数，回归问题的学习等价于函数拟合；选择一条函数曲线使其很好地拟合已知数据且很好地预测未知数据。 按照输入变量与输出变量之间的关系的类型即模型的类型，回归问题分为线性回归和非线性回归。 回归问题最常用的损失函数是平方损失函数，再次情况下可以由著名的最小二乘法求解。 好，…
[author]博主前一段时间一直在做嵌入式开发学习,苦于一些廉价传感器的差质量，我的项目一直停滞在demo阶段。遇到了较大的瓶颈，我决定暂时放一放，开始直接入手信息处理层。暑期的数学建模中，我也感觉自己对于数据的处理能力还欠缺，遂开始恶补基础。开始《线性代数》《离散数学》《集体编程的智慧》《廖雪峰的python2.7教程》《机器学习实战》《Ensemnle Methods Foundations and Algroithns》并行学习。[/author] k-Nearest Heighbor 也称为k-近邻算法，…
