LR与线性回归的区别与联系?_人工智能基础培训

　　LR(Logistic Regression)和线性回归(Linear Regression)是两种常见的回归算法，用于处理不同类型的问题。下面是它们的区别与联系：

　　一、区别：

　　1.应用领域：

　　·线性回归(Linear Regression)： 适用于解决连续数值预测问题，如房价预测、销售预测等。

　　·逻辑回归(Logistic Regression)： 虽然名字中带有“回归”一词，但实际上是用于处理分类问题，特别是二分类问题，如垃圾邮件分类、疾病诊断等。

　　2.输出类型：

　　·线性回归： 输出是一个连续的数值，可以是任意实数。

　　·逻辑回归： 输出是一个在0和1之间的概率值，通常表示为某个样本属于某个类别的概率。

　　3.假设函数：

　　·线性回归： 使用线性函数来建模目标变量与特征之间的关系，假设特征和目标之间存在线性关系。

　　·逻辑回归： 使用逻辑函数(如sigmoid函数)来建模目标变量与特征之间的关系，以预测样本属于某个类别的概率。

　　4.损失函数：

　　·线性回归： 通常使用均方误差(Mean Squared Error，MSE)作为损失函数，优化目标是最小化预测值与实际值之间的平方差。

　　·逻辑回归： 通常使用对数损失(Log Loss)作为损失函数，优化目标是最大化正确类别的概率，或者等价地，最小化预测概率与实际标签之间的差异。

　　二、联系：

　　尽管LR和线性回归在应用、输出类型、假设函数和损失函数等方面存在很多区别，但它们都属于广义线性模型(Generalized Linear Models, GLM)的一种。广义线性模型是一类用于建模因变量与自变量之间关系的统计模型。在这个框架下，线性回归和逻辑回归都是特定形式的广义线性模型。

　　总之，LR和线性回归是两种不同的算法，用于解决不同类型的问题，但它们在某些方面有一些共同的基础和框架。