回归分析怎么做?一文说清楚！

欢迎大家来到IT世界,在知识的湖畔探索吧!

文章来源：自习人课堂。仅做知识交流用，侵权立删。

回归分析是一种统计方法，用于研究一个或多个自变量（解释变量）与因变量（目标变量）之间的关系。

欢迎大家来到IT世界,在知识的湖畔探索吧!

其核心目标是建立数学模型，解释变量之间的相关性或预测因变量的值。

注意：

❑ 根据试验或观测得到的数据结果，分析、推断哪些因素（X）对过程的Y有着显著的影响，以及影响大小 的常用工具。

❑ 回归分析研究的是在一项观测或试验中，X的变化是否对Y产生影响及影响的大小。

❑ 常用的回归分析有：一元和多元线性回归分析，此时X和Y都是连续型数据。

❑ 应用回归分析可以帮助我们寻找潜在的X，以及确定它们与Y的关系。

❑ 通过回归分析，确定X对Y是否有显著的影响-统计显著性,以及他们对Y的影响程度-实践显著性。

❑ 获得X和Y的线性模型（建模），用X预测Y。

❑ 在线性回归分析中，我们假设X对Y的影响是线性的

❑ 当只考虑一个X对Y的影响时，称为一元线性回归

一元回归分析实施步骤

1. 收集Y和X的数据，应为连续型数据且一一对应；

2. 使用散点图对数据进行图形分析，直观判断X和Y之间是否存在线性相关；

3. 使用线性回归进行量化分析，找出X和Y是否存在对应的线性方程；

4. 使用残差诊断对于线性方程的有效性进行判断。

案例：在改进某合金强度的六西格玛项目中，项目团队认为在某合金的加工过程中，碳含量可能是影响其强度的关键影响因素；为了调查碳含量对合金强度的影响，项目团队在生产现场一对一地收集了碳含量与合金强度的数据，希望知道碳含量对合金强度是否有影响？影响程度是否较强？

第一步：收集Y和X的数据，应为连续型数据且一一对应

第二步：使用散点图对数据进行图形分析

直观判断X和Y之间是否存在线性相关

这里要注意区分XY分别是什么

不要填错了

由上图可以看出：

合金强度与碳含量之间存在强正相关的关系

第三步：使用线性回归进行量化分析，找出X和Y是否存在对应的线性方程

minitab路径：统计-回归-回归-拟合回归模型

将Y合金强度输入响应，X碳含量输入连续预测变量，并点击图形

在图形里面勾选残差图四合一

得到回归分析和残差图

回归分析的结果解读

S = 1.31945

S的意义：残差标准差。

是观测点与回归直线的平均偏离大的度量，

观测点越接近回归直线，S越小。

是用回归直线对Y进行控制时的重要考察指标。

R-Sq = 94.8%

R-Sq（R²）的意义： 相关系数。

是回归直线与观测值拟合程度的度量，R²越接近于1，表明回归直线与观测值越吻合。

R²的数学意义是：

R²在因素分析中的意义

在回归分析中，用来表示实践上的显著性。

如果R²的值比较小，则表明因素的影响作用并不大，还有其他因素在影响Y。

在实际应用中，我们常用R-Sq(调整) 的结果作为实践显著性分析的指标。

在本例中R-Sq(调整) = 94.3%，很接近于1，说明碳含量这个因素是合金强度的主要影响因素。

回归分析的残差诊断

❑ 残差诊断的作用主要是确认回归方程的拟合效果；

❑ 简而言之，残差即实际观测值与回归方程计算的理论值的差异

❑ 若要依据回归分析得结论时，首先要保证残差满足以下条件：

• 残差值具有时间独立性；

• 来自于稳定受控的总体；

• 对影响因素X的所有水平有相等的总体方差；

• 残差符合正态分布N(0,σ² );

❑ 残差诊断主要配合分析阶段的回归分析、方差分析以及改进阶段的试验设计使用。

残差图如下：

Minitab图形分析结果—残差图

1. 正态概率图：目的是用来分析残差是否为正态分布。

当残差服从正态分布时，残差值应近似一条直线并趋近于图中的蓝线。

2. 直方图：目的与概率图类似，同样是用来诊断残差的正态性。

当残差服从正态分布时，直方图应为由中间往两侧逐次降低且关于中心近似对称。

3. 残差与拟合值图：目的是用来判断方差是否相等。

对于等方差的情况，图中各残差值应在0线上下两侧随机波动；

4. 残差与观测值顺序图：目的是用来判断数据的独立性，如果数据相互独立，则图中残差值随观测值顺序应呈现随机波动，而无明显的趋势。

（如果出现喇叭口、拱桥形、U形等规律图形，就属于不随机波动）

残差图分析结论：

从正态概率图和直方图可以看出，该例数据的残差值大致服从正态分布，并没有出现明显的异常；从残差与拟合值图以及残差与顺序图中可以看出，该例数据的残差值并没有出现明显的非随机波动情况。

得出结论：残差图无异常，模型可靠。