线性无关函数族和权函数
最小二乘法基础
- 基本概念
- 给定数据点 (xᵢ, yᵢ) (i=1,2,...,m)，其中 m >> n
- 构建近似函数 s(x) 逼近真实函数 y=f(x)
- 最佳平方逼近
- 最小化残差平方和: ||δ||₂² = ∑[s*(xᵢ) - f(xᵢ)]²
- 常用多项式形式: s(x) = a + bx + cx² + dx³ + ...
线性无关函数族
- 定义
- 函数集合 {φ₀, φ₁, ..., φₙ} 线性无关当且仅当 ∑αⱼφⱼ(x)=0 ⇒ αⱼ=0 ∀j
- 典型例子
- {1, x, x², ..., xⁿ} 构成多项式空间 Hₙ
- 作用
- 作为逼近函数的"素材库"
- 用于构建近似函数: s*(x) = ∑aⱼφⱼ(x)
权函数
- 定义
- 非负函数 ρ(x) 满足特定积分条件
- 作用
- 为不同数据点赋予不同重要性
- 加权最小二乘
- ||δ||₂² = ∑ω(xᵢ)[s*(xᵢ) - f(xᵢ)]²
- 当某些点更重要时，增大其权重
内积空间
- 离散形式
- (f,g) = ∑ω(xᵢ)f(xᵢ)g(xᵢ)
- 连续形式
- (f,g) = ∫ω(x)f(x)g(x)dx
- 性质
- 对称性: (u,v) = (v,u)
- 线性性: (αu+βv,w) = α(u,w)+β(v,w)
- 正定性: (u,u) ≥ 0 且等于0当且仅当 u=0
正规方程组
- 形式
- 矩阵方程 Ga = b
- 其中 Gⱼₖ = (φⱼ,φₖ), bⱼ = (φⱼ,f)
- 解的存在性
- 当函数族线性无关时，G 非奇异，解唯一
- 多项式基特例
- 当 φⱼ = xʲ 且 ω(x)≡1 时，矩阵元素变为 ∑xᵢʲ⁺ᵏ
卡片 1/5