在线词典

最小二乘法公式怎么算

更新日期:2026-11-12 12:49:20

标题最小二乘法公式怎么算
内容

在数据拟合与回归分析中,最小二乘法是一种常用的数学优化方法,用于寻找最佳拟合曲线或直线。其核心思想是通过最小化实际观测值与模型预测值之间的平方误差之和,来确定最优的参数值。本文将对最小二乘法的基本原理及计算公式进行总结,并以表格形式展示关键内容。

一、最小二乘法基本原理

最小二乘法(Least Squares Method)是一种基于最小化误差平方和的数学方法,广泛应用于线性回归、非线性拟合等领域。它假设模型与数据之间存在一定的线性关系,通过调整模型参数,使得预测值与真实值之间的误差尽可能小。

二、最小二乘法的公式推导

1. 线性回归模型

设有一组数据点 $(x_1, y_1), (x_2, y_2), ..., (x_n, y_n)$,我们希望找到一条直线 $y = ax + b$ 来拟合这些数据点。

目标是最小化误差平方和:

$$

E = \sum_{i=1}^{n}(y_i - (ax_i + b))^2

$$

通过对 $a$ 和 $b$ 求偏导并令其为零,可得到正规方程组:

$$

\begin{cases}

\sum y_i = a \sum x_i + nb \\

\sum x_i y_i = a \sum x_i^2 + b \sum x_i

\end{cases}

$$

解这个方程组即可得到 $a$ 和 $b$ 的值。

2. 公式表达

- 斜率 $a$ 的公式为:

$$

a = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2}

$$

- 截距 $b$ 的公式为:

$$

b = \frac{\sum y_i - a \sum x_i}{n}

$$

三、最小二乘法计算步骤

步骤 内容
1 收集数据点 $(x_i, y_i)$
2 计算 $\sum x_i$, $\sum y_i$, $\sum x_i y_i$, $\sum x_i^2$
3 利用公式计算斜率 $a$
4 利用公式计算截距 $b$
5 得到拟合直线 $y = ax + b$

四、示例说明

假设有如下数据点:

$x_i$ $y_i$
1 2
2 4
3 5
4 7

计算步骤如下:

- $\sum x_i = 1+2+3+4 = 10$

- $\sum y_i = 2+4+5+7 = 18$

- $\sum x_i y_i = 1×2 + 2×4 + 3×5 + 4×7 = 2+8+15+28 = 53$

- $\sum x_i^2 = 1² + 2² + 3² + 4² = 1+4+9+16 = 30$

代入公式:

$$

a = \frac{4×53 - 10×18}{4×30 - 10^2} = \frac{212 - 180}{120 - 100} = \frac{32}{20} = 1.6

$$

$$

b = \frac{18 - 1.6×10}{4} = \frac{18 - 16}{4} = \frac{2}{4} = 0.5

$$

最终拟合直线为:$y = 1.6x + 0.5$

五、总结

最小二乘法是一种简单而有效的数据拟合方法,适用于线性关系的数据分析。通过建立误差平方和的最小化目标,可以求得最优的模型参数。掌握其计算公式和步骤,有助于在实际问题中快速实现数据拟合与预测。

名称 公式
斜率 $a$ $a = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2}$
截距 $b$ $b = \frac{\sum y_i - a \sum x_i}{n}$
误差平方和 $E$ $E = \sum_{i=1}^{n}(y_i - (ax_i + b))^2$

通过以上内容,你可以清晰地理解最小二乘法的计算方式及其应用过程。

随便看