卡尔曼滤波器阅读：774

    Kalman_filter
    Kalman_smoother - implements the RTS equations
    Learn_kalman - finds maximum likelihood estimates of the parameters using EM
    Sample_lds - generate random samples
    AR_to_SS - convert Auto Regressive model of order k to State Space form
    SS_to_AR
    Learn_AR - finds maximum likelihood estimates of the parameters using least squares

    举例子来说明卡尔曼滤波器的工作过程，配以程序模拟结果。
    先把房间看成一个系统，然后对这个系统建模。当然，我们见的模型不需要非常地精确。我们所知道的这个房间的温度是跟前一时刻的温度相同的，所以A=1。没有控制量，所以U(k)=0。因此得出：
    X(k|k-1)=X(k-1|k-1) ……….. (6)
    式子（2）可以改成：
    P(k|k-1)=P(k-1|k-1) +Q ……… (7)
    因为测量的值是温度计的，跟温度直接对应，所以H=1。式子3，4，5可以改成以下：
    X(k|k)= X(k|k-1)+Kg(k) (Z(k)-X(k|k-1)) ……… (8)
    Kg(k)= P(k|k-1) / (P(k|k-1) + R) ……… (9)
    P(k|k)=（1-Kg(k)）P(k|k-1) ……… (10)
    现在我们模拟一组测量值作为输入。假设房间的真实温度为25度，我模拟了200个测量值，这些测量值的平均值为25度，但是加入了标准偏差为几度的高斯白噪声（在图中为蓝线）。
    为了令卡尔曼滤波器开始工作，我们需要告诉卡尔曼两个零时刻的初始值，是X(0|0)和P(0|0)。他们的值不用太在意，随便给一个就可以了，因为随着卡尔曼的工作，X会逐渐的收敛。但是对于P，一般不要取0，因为这样可能会令卡尔曼完全相信你给定的X(0|0)是系统的，从而使算法不能收敛。我选了X(0|0)=1度，P(0|0)=10。
    该系统的真实温度为25度，图中用黑线表示。图中红线是卡尔曼滤波器输出的化结果（该结果在算法中设置了Q=1e-6，R=1e-1）

    首先，引入一个离散控制过程的系统。该系统可用一个线性随机微分方程（Linear Stochastic Difference equation）来描述：
    X(k)=A X(k-1)+B U(k)+W(k)
    再加上系统的测量值：
    Z(k)=H X(k)+V(k)
    上两式子中，X(k)是k时刻的系统状态，U(k)是k时刻对系统的控制量。A和B是系统参数，对于多模型系统，他们为矩阵。Z(k)是k时刻的测量值，H是测量系统的参数，对于多测量系统，H为矩阵。W(k)和V(k)分别表示过程和测量的噪声。他们被假设成高斯白噪声(White Gaussian Noise)，他们的covariance 分别是Q，R（这里假设不随系统状态变化而变化）。
    对于满足上面的条件(线性随机微分系统，过程和测量都是高斯白噪声)，卡尔曼滤波器是的信息处理器。下面我们来用他们结合他们的covariances 来估算系统的化输出（类似上一节那个温度的例子）。
    首先利用系统的过程模型，来预测下一状态的系统。假设现在的系统状态是k，根据系统的模型，可以基于系统的上一状态而预测出现在状态：
    X(k|k-1)=A X(k-1|k-1)+B U(k) ……….. (1)
    式(1)中，X(k|k-1)是利用上一状态预测的结果，X(k-1|k-1)是上一状态的结果，U(k)为现在状态的控制量，如果没有控制量，它可以为0。
    到现在为止，我们的系统结果已经更新了，可是，对应于X(k|k-1)的covariance还没更新。我们用P表示covariance：
    P(k|k-1)=A P(k-1|k-1) A’+Q ……… (2)
    式(2)中，P(k|k-1)是X(k|k-1)对应的covariance，P(k-1|k-1)是X(k-1|k-1)对应的covariance，A’表示A的转置矩阵，Q是系统过程的covariance。式子1，2就是卡尔曼滤波器5个公式当中的前两个，也就是对系统的预测。
    现在我们有了现在状态的预测结果，然后我们再收集现在状态的测量值。结合预测值和测量值，我们可以得到现在状态(k)的化估算值X(k|k)：
    X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1)) ……… (3)
    其中Kg为卡尔曼增益(Kalman Gain)：
    Kg(k)= P(k|k-1) H’ / (H P(k|k-1) H’ + R) ……… (4)
    到现在为止，我们已经得到了k状态下的估算值X(k|k)。但是为了要另卡尔曼滤波器不断的运行下去直到系统过程结束，我们还要更新k状态下X(k|k)的covariance：
    P(k|k)=（I-Kg(k) H）P(k|k-1) ……… (5)
    其中I 为1的矩阵，对于单模型单测量，I=1。当系统进入k+1状态时，P(k|k)就是式子(2)的P(k-1|k-1)。这样，算法就可以自回归的运算下去。
    卡尔曼滤波器的原理基本描述了，式子1，2，3，4和5就是他的5 个基本公式。根据这5个公式，可以很容易的实现计算机的程序。