曲线拟合最小二乘法 C++程序
课题八曲线拟合的最小二乘法
实验目标：
在某冶炼过程中，通过实验检测得到含碳量与时间关系的数据如下，试求含碳量y与时间t
#include
#include
using namespace std;
int Array(double ***Arr, int n){
double **p;
int i;
p=(double **)malloc(n*sizeof(double *));
if(!p)return 0;
for(i=0;i { p[i]=(double *)malloc(n*sizeof(double)); if(!p[i])return 0; } *Arr=p; return 1; } void main(){ int n,i,j,k; double **A,*B,*S; S=new double[3]; B=new double[3]; cout<<"共2有?DN个?节¨2点ì?：êo"; cin>>n; cout<<"请?输o?入¨?节¨2点ì?值|ì（ê?§Xi）ê?：êo"< double *X; X = new double[n]; for(i=0;i cin>>X[i]; } cout<<"请?输o?入¨?节¨2点ì?函?￥数oy值|ì（ê?§Yi）ê?：êo"< double *Y; Y = new double[n]; for(i=0;i cin>>Y[i]; } if(!Array(&A,3)) cout<<"内¨2存??分¤?配?失o?ì败?¨1！ê?"; else { for(i=0;i<3;i++){ for(j=0;j<3;j++){ A[i][j]=0; } } for(i=0;i A[0][0]+=1;// cout< A[0][1]+=X[i]; A[0][2]+=X[i]*X[i]; A[1][0]=A[0][1]; A[1][1]=A[0][2]; A[1][2]+=X[i]*X[i]*X[i]; A[2][0]=A[0][2]; A[2][1]=A[1][2]; A[2][2]+=X[i]*X[i]*X[i]*X[i]; } } for(i=0;i<3;i++){ B[i]=0; } for(i=0;i B[0]+=Y[i]; B[1]+=X[i]*Y[i]; B[2]+=X[i]*X[i]*Y[i]; } for( k = 0; k < 2 ;k++) { for(i = k+1; i<3; i++) { double T = A[i][k]/A[k][k]; B[i] = B[i] - T * B[k]; for ( j = k+1 ; j < 3 ; j++ ) { A[i][j] = A[i][j] - T * A[k][j]; } } } S[2] = B[2]/A[2][2]; for (i = 1; i >=0 ; i--) { double Temp = 0; for (int j = i+1; j<2 ;j++) Temp = Temp + A[i][j] * S[j]; S[i] = (B[i] - Temp) /A[i][i]; } cout<<"拟a合?曲¨2线?为a：êo"< cout<<"y="< "< <<"误¨?差?为a：êo"< for(i=0;i cout<<"Y"< } } 最小二乘法及其应用 1． 引言 最小二乘法在19世纪初发明后,很快得到欧洲一些国家的天文学家和测地学家的广泛关注。据不完全统计,自1805年至1864年的60年间,有关最小二乘法的研究论文达256篇,一些百科全书包括1837年出版的大不列颠百科全书第7版,亦收入有关方法的介绍。同时,误差的分布是“正态”的,也立刻得到天文学家的关注及大量经验的支持。如贝塞尔( F. W. Bessel, 1784—1846)对几百颗星球作了三组观测,并比较了按照正态规律在给定范围内的理论误差值和实际值,对比表明它们非常接近一致。拉普拉斯在1810年也给出了正态规律的一个新的理论推导并写入其《分析概论》中。正态分布作为一种统计模型,在19世纪极为流行,一些学者甚至把19世纪的数理统计学称为正态分布的统治时代。在其影响下,最小二乘法也脱出测量数据意义之外而发展成为一个包罗极大,应用及其广泛的统计模型。到20世纪正态小样本理论充分发展后,高斯研究成果的影响更加显著。最小二乘法不仅是19世纪最重要的统计方法,而且还可以称为数理统计学之灵魂。相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础。正如美国统计学家斯蒂格勒( S. M. Stigler)所说,“最小二乘法之于数理统计学犹如微积分之于数学”。最小二乘法是参数回归的最基本得方法所以研究最小二乘法原理及其应用对于统计的学习有很重要的意义。 2. 最小二乘法 所谓最小二乘法就是：选择参数10,b b ,使得全部观测的残差平方和最小. 用数学公式表示为： 21022)()(m in i i i i i x b b Y Y Y e --=-=∑∑∑∧ 为了说明这个方法，先解释一下最小二乘原理，以一元线性回归方程为例. i i i x B B Y μ++=10 （一元线性回归方程） 课题八曲线拟合的最小二乘法 实验目标： 在某冶炼过程中，通过实验检测得到含碳量与时间关系的数据如下，试求含碳量y与时间t #include 曲线拟合（curve-fitting ）：工程实践中，用测量到的一些离散的数据},...2,1,0),,{(m i y x i i =求一个近似的函数)(x ?来拟合这组数据，要求所得的拟合曲线能最好的反映数据的基本趋势（即使)(x ?最好地逼近()x f ，而不必满足插值原则。因此没必要取)(i x ?=i y ，只要使i i i y x -=)(?δ尽可能地小）。 原理： 给定数据点},...2,1,0),,{(m i y x i i =。求近似曲线)(x ?。并且使得近似曲线与()x f 的偏差最小。近似曲线在该点处的偏差i i i y x -=)(?δ，i=1,2,...,m 。 常见的曲线拟合方法: 1.使偏差绝对值之和最小 2.使偏差绝对值最大的最小 3.使偏差平方和最小 最小二乘法： 按偏差平方和最小的原则选取拟合曲线，并且采取二项式方程为拟合曲线的方法,称为最小二乘法。 推导过程： 1. 设拟合多项式为： 2. 各点到这条曲线的距离之和，即偏差平方和如下： 3. 问题转化为求待定系数0a ...k a 对等式右边求i a 偏导数，因而我们得到 了： ....... 4、 把这些等式化简并表示成矩阵的形式，就可以得到下面的矩阵： 5. 将这个范德蒙得矩阵化简后可得到: 6. 也就是说X*A=Y，那么A = (X'*X)-1*X'*Y，便得到了系数矩阵A，同时，我们也就得到了拟合曲线。 MATLAB实现： MATLAB提供了polyfit（）函数命令进行最小二乘曲线拟合。 调用格式：p=polyfit(x,y,n) [p,s]= polyfit(x,y,n) [p,s,mu]=polyfit(x,y,n) x,y为数据点，n为多项式阶数，返回p为幂次从高到低的多项式系数向量p。x必须是单调的。矩阵s包括R（对x进行QR分解的三角元素）、df(自由度）、normr(残差）用于生成预测值的误差估计。 [p,s,mu]=polyfit(x,y,n)在拟合过程中，首先对x进行数据标准化处理，以在拟合中消除量纲等影响，mu包含标准化处理过程中使用的x的均值和标准差。 polyval( )为多项式曲线求值函数，调用格式： y=polyval(p,x) [y,DELTA]=polyval(p,x,s) y=polyval(p,x)为返回对应自变量x在给定系数P的多项式的值。 [y,DELTA]=polyval(p,x,s) 使用polyfit函数的选项输出s得出误差估计Y DELTA。它假设polyfit函数数据输入的误差是独立正态的，并且方差为常数。则Y DELTA将至少包含50%的预测值。 如下给定数据的拟合曲线： x=[0.5,1.0,1.5,2.0,2.5,3.0]， y=[1.75,2.45,3.81,4.80,7.00,8.60]。 解：MATLAB程序如下： x=[0.5,1.0,1.5,2.0,2.5,3.0]; y=[1.75,2.45,3.81,4.80,7.00,8.60]; p=polyfit(x,y,2) x1=0.5:0.05:3.0; y1=polyval(p,x1); plot(x,y,'*r',x1,y1,'-b') 运行结果如图1 计算结果为： p =0.5614 0.8287 1.1560 即所得多项式为y=0.5614x^2+0.08287x+1.15560 图1 最小二乘法曲线拟合示例 对比检验拟合的有效性： 例：在[0,π]区间上对正弦函数进行拟合，然后在[0,2π]区间画出图形，比较拟合区间和非拟合区间的图形，考察拟合的有效性。 在MATLAB中输入如下代码： clear x=0:0.1:pi; y=sin(x); [p,mu]=polyfit(x,y,9) 1、最小二乘法： 1）（用1 T A A 方法计算逆矩阵） #include double mean,temp=0,variance=0; int i; for(i=0;i 第6章曲线拟合的最小二乘法 6.1 拟合曲线 通过观察或测量得到一组离散数据序列，当所得数据比较准确时，可构造插值函数逼近客观存在的函数，构造的原则是要求插值函数通过这些数据点，即。此时，序列与 是相等的。 如果数据序列，含有不可避免的误差（或称“噪音”），如图6.1 所示；如果数据序列无法同时满足某特定函数，如图6.2所示，那么，只能要求所做逼近函数最优地靠近样点，即向量与的误差或距离最小。按与之间误差最小原则作为“最优”标准构造的逼近函数，称为拟合函数。 图6.1 含有“噪声”的数据 图6.2 一条直线公路与多个景点 插值和拟合是构造逼近函数的两种方法。插值的目标是要插值函数尽量靠近离散点；拟合的目标是要离散点尽量靠近拟合函数。 向量与之间的误差或距离有各种不同的定义方法。例如： 用各点误差绝对值的和表示： 用各点误差按模的最大值表示： 用各点误差的平方和表示： 或（6.1） 其中称为均方误差，由于计算均方误差的最小值的方法容易实现而被广泛采用。按 均方误差达到极小构造拟合曲线的方法称为最小二乘法。本章主要讲述用最小二乘法构造拟合曲线的方法。 在运筹学、统计学、逼近论和控制论中，最小二乘法都是很重要的求解方法。例如，它是统计学中估计回归参数的最基本方法。 关于最小二乘法的发明权，在数学史的研究中尚未定论。有材料表明高斯和勒让德分别独立地提出这种方法。勒让德是在1805年第一次公开发表关于最小二乘法的论文，这时高斯指出，他早在1795年之前就使用了这种方法。但数学史研究者只找到了高斯约在1803年之前使用了这种方法的证据。 在实际问题中，怎样由测量的数据设计和确定“最贴近”的拟合曲线？关键在选择适当的拟合曲线类型，有时根据专业知识和工作经验即可确定拟合曲线类型；在对拟合曲线一无所知的情况下，不妨先绘制数据的粗略图形，或许从中观测出拟合曲线的类型；更一般地，对数据进行多种曲线类型的拟合，并计算均方误差，用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。 例如，某风景区要在已有的景点之间修一条规格较高的主干路，景点与主干路之间由各具特色的支路联接。设景点的坐标为点列；设主干路为一条直线 ，即拟合函数是一条直线。通过计算均方误差最小值而确定直线方程（见图6.2）。 6.2线性拟合和二次拟合函数 线性拟合 给定一组数据，做拟合直线，均方误差为 （6.2） 是二元函数，的极小值要满足 为明确解释变量和随机误差各产生的效应是多少，统计上把数据点与它在回归直线上相应位置的差异称为残差，把每个残差的平方和称为残差平方和，它表示随机误差的效应。20()n i i S y y == -∑ 设所示直线议程为y ax b =+，最小二乘法就是示使得残差平方和2 1[()]n i i i M y ax b ==-+∑最 小时a 和b 的值。把M 看作a 和b 的函数，通过求多元函数偏导求最小值时的a 和b 。 1(,)2[()]0n a i i i M M a b y ax b a =?==--+=?∑ 1 (,)2[()]0n b i i i M M a b y a x b b =?==--+=?∑ 即：2111n n n i i i i i i i a x b x x y ===+=∑∑∑ 11 n n i i i i a x nb y ==+=∑∑ 化简得：11122 11()n n n i i i i i i i n n i i i i n x y x y a n x x =====-=-∑∑∑∑∑ b y a x =- 求出其取极值时的a 和b 值取可得直线拟合的方程。其C 语言程序如下： #include 实验三 函数逼近与曲线拟合 一、问题的提出： 函数逼近是指“对函数类A 中给定的函数)(x f ,记作A x f ∈)(,要求在另一类简的便于计算的函数类B 中求函数A x p ∈)(,使 )(x p 与)(x f 的误差在某中度量意义下最小”。函数类A 通常是区间],[b a 上的连续函数，记作],[b a C ,称为连续函数空间，而函数类B 通常为n 次多项式，有理函数或分段低次多项式等，函数逼近是数值分析的基础。主要内容有： （1）最佳一致逼近多项式 （2）最佳平方逼近多项式 （3）曲线拟合的最小二乘法 二、实验要求： 1、构造正交多项式； 2、构造最佳一致逼近； 3、构造最佳平方逼近多项式； 4、构造最小二乘法进行曲线拟合； 5、求出近似解析表达式，打印出逼近曲线与拟合曲线，且打印出其在数据点上的偏差； 6、探讨新的方法比较结果。 三、实验目的和意义: 1、学习并掌握正交多项式的MATLAB 编程； 2、学习并掌握最佳一致逼近的MATLAB 实验及精度比较； 3、学习并掌握最佳平方逼近多项式的MATLAB 实验及精度比较； 4、掌握曲线拟合的最小二乘法； 5、最小二乘法也可用于求解超定线形代数方程组； 6、 探索拟合函数的选择与拟合精度之间的关系； 四、 算法步骤： 1、正交多项式序列的生成 {n ?（x ）}∞ 0：设n ?（x ）是],[b a 上首项系数a ≠n 0的n 次多项式，)(x ρ为],[b a 上权函数，如果多项式序列{n ?（x ）} ∞0 满足关系式???=>≠==?.,0,, 0)()()()(),(k j A k j x d x x x k k j b a k j ??ρ?? 则称多项式序列{n ?（x ）}∞ 0为在],[b a 上带权)(x ρ正交，称n ?（x ）为],[b a 上带权)(x ρ 的n 次正交多项式。 1）输入函数)(x ρ和数据b a ,; 2）分别求))(),(()),(,(x x x x j j j n ???的内积； 3）按公式①)()) (),(()) (,()(,1)(1 0x x x x x x x x j n j j j j n n n ??? ???∑-=- ==计算)(x n ?，生成正交多项式； 流程图： 开始 实验三.最小二乘法C语言的实现 1.实验目的： 进一步熟悉曲线拟合的最小二乘法。 掌握编程语言字符处理程序的设计和调试技术。 2.实验要求： 输入：已知点的数目以及各点坐标。 输出：根据最小二乘法原理以及各点坐标求出拟合曲线。 3.程序流程： （1）输入已知点的个数； （2）分别输入已知点的X坐标； （3）分别输入已知点的Y坐标； （4）通过调用函数，求出拟合曲线。 最小二乘法原理如下： 根据一组给定的实验数据，求出自变量x与因变量y的函数 关系，只要求在给定点上的误差的平方和最小.当时，即 (4.4.1) 这里是线性无关的函数族，假定在上给出一组 数据，以及对应的一组权，这里为权系 数，要求使最小，其中 (4.4.2) (4.4.2)中实际上是关于的多元函数，求I的最小值就是求多元函数I的极值，由极值必要条件，可得 (4.4.3) 根据内积定义引入相应带权内积记号 (4.4.4) 则(4.4.3)可改写为 这是关于参数的线性方程组，用矩阵表示为 (4.4.5) (4.4.5)称为法方程.当线性无关，且在点集 上至多只有n个不同零点，则称在X上满足Haar条件，此时(4.4.5)的解存在唯一。记(4.4.5)的解为 从而得到最小二乘拟合曲线 (4.4.6) 可以证明对，有 故(4.4.6)得到的即为所求的最小二乘解.它的平方误差为 (4.4.7) 均方误差为 在最小二乘逼近中，若取，则，表示为 (4.4.8) 此时关于系数 的法方程(4.4.5)是病态方程，通常当n≥3 时都不直接取 作为基。 程序流程图： ↓ ↓ 程序： #include 误差理论与数据处理实验报告 ——关于不等精度测量二元线性最小二乘法处理的正规方程解 一、实验原理 对于二元线性参数的误差方程可以表示为 ?? ???? ?+-=+-=+-=) ()()(22112 221212*********x a x a l v x a x a l v x a x a l v n n n n 11a ，121n a a 为1x 的系数；12a ，222n a a 为2x 的系数；而i l 为相应测量方程 i i i l x a x a =+2211（令i v =0）的常量。实际上测量方程可以根据需要做相应的变化，特别是 处理非线性误差时，变量、系数和常量都可以变换。 由于是处理不等精度的测量，在进行最小二乘法处理是，要取加权残余误差平方和为最小，即 []=2 pv 最小 对于给出测量方程为相应的标准差的，可以根据 22 2 21211 : :1 : 1 :::m m p p p σσσ = 化成相应的权数。 对矩阵进行分析：^ X ，A ，V ，P ，L 均为向量 ??????=21^x x X ??????????? ???=21 2221 1211n n a a a a a a A ?? ? ? ??? ???????=n v v v V 21 ??????????????=n p p p P 0000021 ?? ? ? ??? ???????=n l l l L 21 令 * ** A A C T = 根据最小二乘原理，有 0=PV A T 又因为 ^ X A L V -= 得 PL A C X T 1 * ^ -= 因此计算1x ，2x 的算法就可以确定了。 假设以给出权数为例，依据以上所分析，可得用最小二乘法所确定的正规方程： 最小二乘递推算法的MATLAB仿真 针对辨识模型，有z(k)-+a1*z(k-1)+a2*z(k-2)=b1*u(k-1)+b2*u(k-2)+v(k)模型结构，对其进行最小二乘递推算法的MATLAB仿真，对比真值与估计值。更改a1、a2、b1、b2参数，观察结果。 仿真对象：z(k)-1.5*z(k-1)+0.7*z(k-2)=u(k-1)+0.5*u(k-2)+v(k) 程序如下： L=15; y1=1;y2=1;y3=1;y4=0; %四个移位寄存器的初始值 for i=1:L; %移位循环 x1=xor(y3,y4); x2=y1; x3=y2; x4=y3; y(i)=y4; %取出作为输出信号，即M序列 if y(i)>0.5,u(i)=-0.03; %输入信号 else u(i)=0.03; end y1=x1;y2=x2;y3=x3;y4=x4; end figure(1); stem(u),grid on z(2)=0;z(1)=0; for k=3:15; z(k)=1.5*z(k-1)-0.7*z(k-2)+u(k-1)+0.5*u(k-2); %输出采样信号 end c0=[0.001 0.001 0.001 0.001]'; %直接给出被识别参数的初始值 p0=10^6*eye(4,4); %直接给出初始状态P0 E=0.000000005; c=[c0,zeros(4,14)]; e=zeros(4,15); for k=3:15; %开始求k h1=[-z(k-1),-z(k-2),u(k-1),u(k-2)]'; x=h1'*p0*h1+1; x1=inv(x); k1=p0*h1*x1; %开始求k的值 d1=z(k)-h1'*c0;c1=c0+k1*d1; e1=c1-c0; e2=e1./c0; %求参数的相对变化 e(:,k)=e2; c0=c1; c(:,k)=c1; p1=p0-k1*k1'*[h1'*p0*h1+1]; %求出P(k)的值 p0=p1; 最小二乘法多项式拟合 对于给定的数据点N i y x i i ≤≤1),,(，可用下面的n 阶多项式进行拟合，即 为了使拟合出的近似曲线能尽量反映所给数据的变化趋势，要求在所有数据点上的残差 都较小。为达到上述目标，可以令上述偏差的平方和最小，即 称这种方法为最小二乘原则，利用这一原则确定拟合多项式)(x f 的方法即为最小二乘法多项式拟合。 确定上述多项式的过程也就是确定)(x f 中的系数n k a k ≤≤0,的过程，根据最小二乘原则，则偏差平方和应该是这些系数的函数，即 为使上式取值最小，则其关于n k a k ≤≤0,的一阶导数应该为零，即有 将上面各等式写成方程组的形式可有 写成矩阵形式有 上述方程组可以通过克莱姆法则来计算，从而解出各系数n k a k ≤≤0,得到拟合方程。 考虑到一般情况提高拟合多项式的阶数并不能提高拟合精度，所以常用的多项拟合阶数为一阶和二阶，即线性拟合和二次拟合。两者的计算公式如下： 关于线性拟合，除上面按克莱姆法则来计算外，还可以有另一思路，下面对此进行说明。由于是线性拟合，最后得到的是一条直线，因此，直线可以由斜率和截距两个参数来确定，因此，求出这两个参数即可。首先对克莱姆法的求解结果进行展开可以得到 下面考虑先计算斜率再计算截距的方法，从下图可见，斜率计算与坐标系的位置无关，所以可以将坐标原点平移到样本的i x 和i y 坐标的均值所在点上 图中 则在新的坐标系),(y x ''下斜率的计算公式与前面1a 的计算公式相同，将其中的坐标),(y x 换成),(y x ''即可得到下面的计算公式 由样本在新坐标系下的坐标i x '和i y '的均值为零，或者由下面推导可知 x ' 陆韶琦 3110000441 程序说明：本程序用多项式拟合数据，程序会要求输入需要拟合的次数和数据点的个数，数据文件应该保存在本程序运行时的current folder下，文件取名为“mytext.txt” 程序代码： %多项式最小二乘法拟合数据 N=input('please put in how many times the power will you overfit:'); M=input('how many couples of statistics are there in the table:'); %读入数据文件 f=fopen('mytxt.txt','r'); S=fscanf(f,'%g',[M 2]); fclose(f); S=S'; %显示数据文件，确保正确输入 disp('S(x,y)='); disp(S); %建立多项式系数法方程组中间矩阵 C=zeros(N+1,M); for i=1:N+1 for j=1:M if S(1,j)==0 C(i,j)=0; else C(i,j)=S(1,j).^(i-1); end end end %建立法方程组 A=C*C'; Y=zeros(M,1); for i=1:M Y(i,1)=S(2,i); end b=C*Y; %用列主元高斯消元法接法方程组 A=[A,b]; for i=1:N+1 max=abs(A(i,i)); for j=i+1:N+1 if abs(A(j,i))>max flag=j; max=A(j,i); end end for k=i:N+2 B=A(flag,k); A(flag,k)=A(i,k); A(i,k)=B; end for kh=i+1:N+1 m=-A(kh,i)/A(i,i); A(kh,i)=0; for kl=i+1:N+2 A(kh,kl)=A(kh,kl)+m*A(i,kl); end end end X=zeros(N+1,1); for i=N+1:-1:1 for j=i-1:-1:1 m=-A(j,i)/A(i,i); A(j,N+2)=A(j,N+2)+m*A(i,N+2); end X(i,1)=A(i,N+2)/A(i,i); end disp(X); %根据系数求得待定曲线 syms x; expr=0; for i=1:N+1 expr=expr+X(i,1)*x.^(i-1); end %输出得到的曲线表达式 disp(expr); %计算偏差 bias=zeros(M,1); for j=1:M for i=1:N+1 bias(j,1)=bias(j,1)+X(i,1)*S(1,j)^(i-1); end “数值计算方法与算法”论文 题目：浅谈曲线拟合的最小二乘法 院系：化学与材料工程学院20系 姓名： 学号： 时间：2015年春季学期 浅谈曲线拟合的最小二乘法 【摘要】 数值计算方法，一种研究并解决数学问题的数值近似解的方法，主要解决那些理论上有解但是无法轻易且准确求解的数学问题。在当今计算机技术日渐成熟的背景下，数值计算方法的应用被大大的推广，并且极大的推动了自然科学的规律探索及理论验证。本文主要探讨了一种重要的数值计算方法——曲线拟合的最小二乘法的历史发展、理论核心以及应用价值。 关键词：数值计算方法最小二乘法应用 【正文】 数值计算方法，是一种研究并解决数学问题的数值近似解方法，现在通常在计算机上使用来求解数学问题。它主要的计算对象是那些在理论上有解而又无法直接手工计算的数学问题【1】。例如，用已知的数据点来构造合适的插值函数或拟合出合适的曲线来近似代替原函数，从而解决了因难以求得原函数表达式而无法计算相关函数值的难题；又如，对于一个一般的非线性方程，可能在计算方程的根时既无一定章程可循，也无理论解法可言，那么这时就可以构造合适的迭代格式如Newton迭代，通过对一个近似的初值进行有限次迭代，就可以得到较精准的根值，从而有效避免了冗长而又复杂的理论求解的过程。 在学习完计算方法与算法这门课程后，我收获了许多实用的计算方法、技巧和思想，而对书中的某些问题的解法的深入思考也让我加深了对这门课程的理解。由于专业的相关需要，我对曲线拟合的最小二乘法这部分知识点进行了重点的学习和深刻的反思，也收获了许多。 1.最小二乘法的发展历史 18世纪中期以后，欧拉（L. Euler, 1707-1783）、梅耶（T. Meiyer, 1723-1762）、拉普拉斯(P. S. Laplace, 1749—1827)等科学家在研究一些天体运动规律时，都得到了一些含有m个变量n个（）方程的线性方程组（也就是我们现在所说的线性矛盾方程组），并且各自运用了一些方法解出了方程组的较优解。虽然方法繁琐且奇特，但不失为数学史一次伟大的尝试。 有关于最小二乘法的首次应用于实际计算并成功的记载，是关于第一颗小行星位置的预测，十分之有趣。1801年，意大利天文学家朱塞普·皮亚齐（Giuseppe Piazzi,1746-1826）发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后，全世界的科学家利用皮亚齐的观测数据，开始了寻找谷神星之旅。但是，根据大多数人的计算结果来寻找谷神星，都以失败告终。时年24岁的伟大的数学家高斯（C.F.Gauss, 1777－1855）也随即参与了这次的计算。最终德国天文学家奥伯斯（Heinrich Olbers） 2013届本科毕业论文(设计) 论文题目：关于曲线拟合与最小二乘法原理 的探讨 学院：数学科学学院 专业班级： 学生姓名： 指导老师： 答辩日期：年月日 新疆师范大学教务处 目录 引言 (2) 1 最小二乘法拟合 (5) 1.1 最小二乘法 (5) 1.2 最小二乘多项式曲线拟合的基本原理 (5) 1.2.1 线性拟合原理 (6) 1.2.2 多项式拟合原理 (8) 2 分段曲线拟合的原理 (10) 2.1 分段曲线拟合 (11) 2.2 分段三次曲线拟合 (11) 3 几种具体的拟合曲线类型 3.1指数函数拟合.......................................................................................... 3.2幂函数拟合............................................................................................. 3.3双曲型拟合............................................................................................... 4 总结 (20) 参考文献 (21) 引言 在物理实验中,经常要把离散的测量数据转化为直观的便于研究的曲线方程,即曲线拟合。正交基函数因涵盖了幂函数,切比雪夫多项式,拉盖尔函数,多元正交函数系列等而常被采用为拟合函数。如在曲线拟合中最常见的二次曲线,采用二元正交基函数系列:1,x,y,x2,y2,xy,…进行拟合。最小二乘法在确定各拟合函数的系数时,尽管拟合的次数不是很高,但它可使误差较大的测量点对拟合曲线的精度影响较小,而且实现简单,便于物理分析和研究,故成为最常用的方法之一。本文从最小二乘法的基本原理出发,给出了多元正交函数拟合的实现方法,并结合实例给出了最常用的二次曲线拟合的程序流程图。 1 曲线拟合的线性最小二乘法及其MATLAB 程序 例7.2.1 给出一组数据点),(i i y x 列入表7–2中，试用线性最小二乘法求拟合曲线，并用（7.2），（7.3）和（7.4）式估计其误差，作出拟合曲线. 表7–2 例7.2.1的一组数据),(y x 解 （1）在MATLAB 工作窗口输入程序 >> x=[-2.5 -1.7 -1.1 -0.8 0 0.1 1.5 2.7 3.6]; y=[-192.9 -85.50 -36.15 -26.52 -9.10 -8.43 -13.12 6.50 68.04]; plot(x,y,'r*'), legend('实验数据(xi,yi)') xlabel('x'), ylabel('y'), title('例7.2.1的数据点(xi,yi)的散点图') 运行后屏幕显示数据的散点图（略）. （3）编写下列MA TLAB 程序计算)(x f 在),(i i y x 处的函数值，即输入程序 >> syms a1 a2 a3 a4 x=[-2.5 -1.7 -1.1 -0.8 0 0.1 1.5 2.7 3.6]; fi=a1.*x.^3+ a2.*x.^2+ a3.*x+ a4 运行后屏幕显示关于a 1,a 2, a 3和a 4的线性方程组 fi =[ -125/8*a1+25/4*a2-5/2*a3+a4, -4913/1000*a1+289/100*a2-17/10*a3+a4, -1331/1000*a1+121/100*a2-11/10*a3+a4, -64/125*a1+16/25*a2-4/5*a3+a4, a4, 1/1000*a1+1/100*a2+1/10*a3+a4, 27/8*a1+9/4*a2+3/2*a3+a4, 19683/1000*a1+729/100*a2+27/10*a3+a4, 5832/125*a1+324/25*a2+18/5*a3+a4] 编写构造误差平方和的MATLAB 程序 >> y=[-192.9 -85.50 -36.15 -26.52 -9.10 -8.43 -13.12 6.50 68.04]; fi=[-125/8*a1+25/4*a2-5/2*a3+a4, -4913/1000*a1+289/100*a2-17/10*a3+a4, -1331/1000*a1+121/100*a2-11/10*a3+a4, -64/125*a1+16/25*a2-4/5*a3+a4, a4, 1/1000*a1+1/100*a2+1/10*a3+a4, 27/8*a1+9/4*a2+3/2*a3+a4, 19683/1000*a1+729/100*a2+27/10*a3+a4, 5832/125*a1+324/25*a2+18/5*a3+a4]; fy=fi-y; fy2=fy.^2; J=sum(fy.^2) 运行后屏幕显示误差平方和如下 J= (-125/8*a1+25/4*a2-5/2*a3+a4+1929/10)^2+(-4913/1000*a1+2 89/100*a2-17/10*a3+a4+171/2)^2+(-1331/1000*a1+121/100*a2-11/10*a3+a4+723/20)^2+(-64/125*a1+16/25*a2-4/5*a3+a4+663/25)^2+(a4+91/10)^2+(1/1000*a1+1/100*a2+1/10*a3+a4+843/100)^2+(27/8*a1+9/4*a 2+3/2*a3+a4+328/25)^2+(19683/1000*a1+729/100*a2+27/10*a3+a4-13/ 2)^2+(5832/125*a1+324/25*a2+18/5*a3+a4-1701/25)^2 为求4321,,,a a a a 使J 达到最小，只需利用极值的必要条件0=??k a J )4,3,2,1(=k ， 实验三函数逼近 一、 实验目标 1.掌握数据多项式拟合的最小二乘法。 2.会求函数的插值三角多项式。 二、实验问题 （ （2）求函数()2cos f x x x =在区间[,]ππ-上的插值三角多项式。 三、 实验要求 1.利用最小二乘法求问题（1）所给数据的3次、4次拟合多项式，画出拟合曲线。 2.求函数()2cos f x x x =在区间[,]ππ-上的16次插值三角多项式，并画出插值多项式的图形，与()f x 的图形比较。 3.对函数()2cos f x x x =，在区间[,]ππ-上的取若干点，将函数值作为数据进行适当次数的最小二乘多项式拟合，并计算误差，与上题中的16次插值三角多项式的结果进行比较。 《数值分析》实验报告 项式，画出拟合曲线 【实验目标】 （1）加深对用最小二乘法求拟合多项式的理解 （2）学会编写最小二乘法的数值计算的程序； 【理论概述与算法描述】 在函数的最佳平方逼近中()[,]f x C a b ∈,如果()f x 只在一组离散点集{,0,1,,}i x i m =???上给出，这就是科学实验中经常见到的实验数据{(,),0,1,,}i i x y i m =???的曲线拟合，这里 (),0,1,,i i y f x i m ==???，要求一个函数*()y S x =与所给数据{(,),0,1,,}i i x y i m =???拟合，若 记误差*()(0,1,,)i i i S x y i m δ=-=???,()01,,,T m δδδδ=???,设01(),(),,()n x x x ??????是[,]C a b 上的线性无关函数族，在01{(),(),,()}n span x x x ????=???中找一个函数*()S x ，使误差平方和 实验二 #include "stdio.h" float gs(float a[20][20],float b[20],int n ) { int i,j,k,l; float s; k=1; while(k!=n+1) { if(a[k][k]!=0) { for(i=k+1;i<=n+1;i++) { a[i][k]=a[i][k]/a[k][k]; b[i]=b[i]-a[i][k]*b[k]; for(j=k+1;j<=n+1;j++) a[i][j]=a[i][j]-a[i][k]*a[k][j]; } } k=k+1; } for(k=n+1;k>=1;k--) { s=0; for(l=k+1;l<=n+1;l++) s=s+a[k][l]*b[l]; b[k]=(b[k]-s)/a[k][k]; } return 0; } int main() { float a[20][20]={0.0};//定义a矩阵 float c[20][20];//定义c矩阵 float ct[20][20];//定义ct矩阵 float x[20];//定义数组用于存放x的数据 float y[20];//定义数组用于存放y的数据 float b[20]={0.0};//定义b矩阵 int i,j,k,m,n; printf("输入所求函数的最高次数n:\n");//输入n（求线性的函数输入1。。）scanf("%d",&n); printf("输入测试数据的组数m:\n");//输入测试数据的组数scanf("%d",&m); printf("输入x的测试数据%d个:\n",m);//输入x的测试数据m个for(i=1;i<=m;i++) scanf("%f",&x[i]); printf("输入y的测试数据%d个:\n",m);//输入y的测试数据m个for(i=1;i<=m;i++) scanf("%f",&y[i]); for(i=1;i<=m;i++)//c矩阵第一列赋值为1 c[i][1]=1.0; //求C[][] for(j=2;j<=n+1;j++) for(i=1;i<=m;i++) c[i][j]=x[i]*c[i][j-1]; //输出C[][] printf("C矩阵如下：\n"); for(i=1;i<=m;i++) for(j=1;j<=n+1;j++) { printf("%f ",c[i][j]); if(j==n+1) printf("\n"); } //求c的转置矩阵CT[][] for(i=1;i<=m;i++) for(j=1;j<=n+1;j++) ct[j][i]=c[i][j]; //输出CT[][] printf("CT矩阵如下：\n"); for(i=1;i<=n+1;i++) for(j=1;j<=m;j++) { printf("%f ",ct[i][j]); if(j==m) printf("\n");最小二乘法及其应用..
曲线拟合最小二乘法c++程序
最小二乘法曲线拟合 原理及matlab实现
最小二乘法的编程实现
数值计算_第6章 曲线拟合的最小二乘法
最小二乘法C语言程序
曲线拟合的最小二乘法讲解
最小二乘法C语言的实现
C语言编写最小二乘法
最小二乘法MATLAB程序及结果
最小二乘法多项式拟合
最小二乘法程序说明及流程图
曲线拟合的最小二乘法论文
关于曲线拟合与最小二乘法原理的探讨
曲线拟合_线性最小二乘法及其MATLAB程序
利用最小二乘法求解拟合曲线
计算方法 最小二乘法源代码