关于相关信源的码率界限及其编码的评述

关于相关信源的码率界限及其编码的评述

摘要

随着多媒体移动通信技术的快速发展，人们对信息可靠且有效的传输需求日益增长，但是由于受到无线带宽资源和多径衰落等因素的影响，很难实现高速可靠的数据传输。要解决这一矛盾我们必须采用全新的通信理论及技术。本文从信息论的角度对相关信源编码的相关理论进行了介绍，包括单符号信源编码的理论基础，相关信源的编码理论和码率界限和其编码。

关键字：信源编码，相关信源编码，分布式信源编码，Slepian-Wolf编码理论，

Abstract

With the development of multimedia mobile communication technologies, the demand for reliable and efficient transmission of information is growing. However, due to the impact of limited wireless bandwidth resources, multipath fading and other factors, it is difficult to achieve high-speed and reliable data transmission. To solve this problem we must adopt some new communication theories and technologies.This article makes an introduction to the related theories of correlated source coding fromthe perspective of information-theoretic security, including the basic theory of single symbol source coding and correlated source coding.

KEYWORD：Source Coding，Correlated Source Coding，Distributed Source Coding，CodingTheory of Slepian-Wolf

1.引言

信源编码是一种以提高通信有效性为目的而对信源符号进行的变换，或者说为了减少或消除信源冗余度而进行的信源符号变换。具体说，就是针对信源输出符号序列的统计特性来寻找某种方法，把信源输出符号序列变换为最短的码字序列，使后者的各码元所载荷的平均信息量最大，同时又能保证无失真地恢复原来的符号序列。信源编码的作用之一是设法减少码元数目和降低码元速率，即通常所说的数据压缩；作用之二是将信源的模拟信号转化成数字信号，以实现模拟信号的数字化传输。最原始的信源编码就是莫尔斯电码，另外还有ASCII码和电报码都是信源编码。但现代通信应用中常见的信源编码方式有：Huffman编码、算术编码、L-Z编码，这三种都是无损编码，另外还有一些有损的编码方式。信源编码的目标就是使信源减少冗余，更加有效、经济地传输，最常见的应用形式就是压缩。

而相关信源编码与传统信源编码不同。它一般采用信道码编码技术得以实现，因而可以看作是一种联合信源-信道编码技术。虽然分布式编码理论早在二十多年前就已经提出，但Slepian-Wolf理论[1]和Wyner-Ziv理论[2]只给出了信源编码的理论根据，并没有给出一种具体的实现方法，因此这方面的进展并不显著。直到

近几年，研究者才找到实现分布式信源编码的可行方法，发现了信源编码和信道编码的密切关系。如果信道码能够渐近地接近信道容量，那么把它应用于分布式信源编码就能渐近地接Slepian-Wolf理论极限，Pradhan和Ramchan－dran提出了分布式编码的实现方案[3]，一些具体的实现方案陆续的提出[4-6]，从理论上证明了使用Turbo码可以接Selpian-Wolf编码效率[6]，并且证明了使用LDPC 码可以达到比Turbo码更好的效果[7]。

本文从信源编码的基本理论出发，介绍了相关信源的分布式编码的信息论基础。重点介绍了Slepian-Wolf理论即相关信源的码率界限，对几种不同的编码方式进行了简单介绍和评述。

2.相关信源编码的理论

2.1单符号信源编码

信源编码理论是信息论的重要内容，信源是多种多样的，但信源符号之间具有一定的相关性，因此可以利用信源的冗余度来进行压缩，通过编码让符号间解除相关性，尽可能独立。或是压缩每个信源的平均比特数，从而提高编码效率。它使信源编码的具体设计和架构更加明确。

而香农第一定理明确的提出了信源编码的理论依据。即在无失真的信源编。码当中，离散信源的熵为H(X)，对n次扩展信源进行信源编码，对任意给定的?>0，只要有码率：

R>H(X)+ ?

那么当n足够大时，平均译码错误概率就无限接近于0。这就是单符号离散信源的编码原理。

由定理可得，若想符号可以从码字中无损的恢复出来，信源熵H(X)是信源实现无失真编码的速率最小值。香农编码、Fano编码Huffman编码DMS的几个基本的信源编码方法。

2.2相关信源编码的理论

相关信源编码是分布式信源编码的基本研究问题，目前已经解决了相关信源的可达信息率问题，虽然很多学者做出了努力，但是关于具体码字的设计和优化还没有明确的答案。

20 世纪70年代，分布式信源编码[8]( Distributed Source Coding , DSC )初步形成，它也可以称为是相关信源的信源编码。DSC的理论基础是Slepian-Wolf理论和Wyner-Ziv理论组成而来。Slepian和Wolf指出如果两个信源有一定关联性，若想实现信源的无损压缩则可以根据它们的信息熵计算出一个理论极限，我们称之为Slepian-Wolf 界。其中两个相关信源在分离状态下压缩编码，仍可以达到互相协作时的压缩效率。不久之后，Wyner和Ziv对无损压缩理论做出了进一步研究，并提出了有损压缩编码理论，得到类似的结果。它与传统的信源编码不同，传统的信源编码是编码端充分利用多个信源的冗余信息最大限度的进行压缩，而

Slepian-Wolf理论和Wyner-Ziv理论的出现，使人们意识到信源的冗余信息在译码端也可以充分利用，从而达到相同效果。

在传统的信源编码中，由无失真信源编码定理而得，只有当编码速率比信息熵大时才能保证信息的正确传送。传统信源编码结构中，两个相关信源X，Y 间能够相互通信，通过对信源X和Y进行联合编码，同样要实现无差错恢复出信源，就必须保证编码和速率大于X，Y的联合熵H(X，Y)。图1给出了传统的信源编码结构，其中编码端X，Y可以互相结合各自的信息，同时将信源X压缩到速率为H(X/Y)，信源Y以H(Y)的速率进行压缩，译码器收到X和Y的相关信息序列后进行联合译码。

图1 传统信源编码结构

当两个相关信源不能互相通信时，如下图2所示。已知针对两个独立信源分别用独立信道传送时，若实现无损压缩编码，每个信道的信息率必须大于各信源的无条件熵，即总信息率必须大于H(X) +H(Y)。首先此处要满足这个基本条件。但是X，Y有一定相关性，Slepian和Wolf利用此相关性进行了一定研究，指出若数字信号X、Y满足条件概率分布p(x，y)，如果X，Y在编码端不能互相通信，分别采取独立编码也可以达到X，Y互相通信联合编码的编码效率。只要在解码端联合译码，则分开编码和联合编码都能正确解码，效率相同，这即为Slepian-Wolf定理。

图2 分布式信源编码结构

图2中两个分离的编码器分别对X，Y进行编码，码率设置为Rx和Ry，而在译码处进行联合解码，Slepian-Wolf 理论提出对于互相关的两个离散随机信号X、Y，服从联合概率分布p（x，y），那么在编码端得不到Y的情况下对X 进行编码可以取得编码效率和在编码端得到Y的情况下对X进行编码的效率一样。也就是说，在编码端可以不需要直接跟Y通信，X最少也能以H（X/Y）比特编码，

只要在解码端可以得到Y，那么X仍能正确解码。根据Slepian-Wolf理论，图3所示的两种编码方案可以取得相同的编码效率。

图3两种编码器结构

Slepian-Wolf 理论可以简单地描述如下：假定X和Y是两个互相关的离散无记忆信源，对X和Y进行独立编码，H（X）、H（Y）分别是X，Y的熵，编码器X 输出的码率是Rx，编码器Y输出的码率是Ry，在解码端进行联合解码，如果在解码端可以无失真的恢复X，Y需要满足下面三个式子：

Rx ≥H（X/Y）

Ry≥H（Y/X）

Rx +Ry≥H（X/Y）

Slepian-Wolf理论的可达码率界限如图4所示：

图4Slepian-Wolf理论可达的码率界限

只要如Rx和Ry的取值范围在图中的Slepian-Wolf压缩可达速率的区域，则在解码端可以任意小的误码率来联合解码。

在Slepian-Wolf的无损编码理论发表后不久，Wyner-Ziv就对这个理论进行了

扩充，建立了在解码端使用辅助信息的有损编码理论[2]，如图5所示：

图5 Wyner-Ziv有损分布式编码结构

3.相关信源的分布式编码方案

在相关信源编码理论的支撑下，其分布式编码方案也越来越多，但是一直没有提出实际可行的方案。之后，研究学者发现信源编码和信道编码之间有紧密联系，可以采用有优异性能的信道码来实现，这样则可以逼Slepian-Wolf的理论限值。编码方案具体可以分为基于校验位(Parity)和基于伴随式的分布式信源编码(Distributed Source Coding Using Syndrome, DISCUS)两种方式。

3.1Discus 编码方案

2000年，Pradhan和Ramchandran[9]首先提出了DISCUS方案，将卷积码的维特比译码方法进行修正，解码器根据伴随式s搜索陪集中与y最接近的序列。之后提出的方案均是在DISCUS的基础之上的变形。2005年Z.Tu, J.Li和Blum[10]就将陪集首的变化转移到译码端外，进行反向伴随式变换，然后与y结合，这样解码端只需在伴随式为0的陪集中进行即可，并且不用修改卷积码的维特比译码算法，另外，也可以采用Turbo码实现。2007年，针对伴随式方案，又提出了一种基于卷积码和Turbo码的速率自适应方案，对伴随式比特进行打孔，并设计了最佳解码方法来补偿打孔带来的性能损失。与此同时，译码的复杂性与增加的打孔比特数量呈线性关系。

Discus编码方案[3]考虑了两个相关的信源X和Y的独立编码和联合解码，在X和Y之间想象一条虚拟的信道P（Y/X），把信源X看作信道的输入，把参考信息Y看作信道的输出，即把信源Y看成是信源X经过噪声污染后的结果，这样就可以利用信道码的纠错性能来恢复信源码字。

该方案的关键问题是信源码字空间的分割，把信源X的输出划分成不同的组，称之为陪集，这种划分使得在每一个陪集中的两个码字之间的最小距离尽可能的达到最大，以便在解码端通过观察参考信息Y在陪集中找到和参考信息距离最近的码字作为解码结果，编码器则通过只传输陪集的索引来达到数据压缩的目的，陪集的这种特性正好与信道码的特性十分的相似。对于（n，k）信道分组码，n

为码字长度，k为信息比特长度，这组信道码正好是在所有码长为n的码字序列中选取的距离尽可能大的2k个序列，H为该信道码的校验矩阵，对于每一组信道码的陪集都可以用它的校正子来表征，定义校正子S=XH′，S也称为信道码的伴随式，X是该信道码中的码字，每一组信道码对应一个伴随式，该伴随式也就是这个陪集的索引。

在编码过程中，把待编码码字看作是码字长度为n的码字序列中的一个元素，然后找出这个码字所在的信道码，再传输该组信道码的索引（校正子或伴随式）到解码端，这样传输的码字长度就由n变成了n-k，节省了k个比特。在解码端，接收到的是编码码字所属陪集的伴随式，解码的工作就是利用参考信息Y 在伴随式S所指示的信道码中找到与X距离最近的码字，即利用信道码解码来恢复被编码的码字。

4.总结

本文由单符号信源编码的基础理论出发，详细的论述了相关信源的编码理论。详细的描述了相关信源的编码即分布式信源编码中的Slepian-Wolf理论，得出了相关信源编码的码率界限，并介绍了Wyner-Ziv理论。然后详细介绍了DISCUS 编码方案和LPDC编码方案的理论基础并进行评述。

通过该课程论文的编写，对信息论中的相关信源及其编码的知识得到了学习和加深，对信息论中信源的编码和信道的传输有了进一步的认识和理解。

参考文献

[1] Slepian J，Wolf J.Noiseless coding of correlated information sources[J].IEEE Transactions on Information Theory，1973，7（19）：471-480.

[2] Wyner A，Ziv J.The rate-distortion function for source coding with side information at the decoder[J].IEEE Transactions on InformationTheory，1976，1（22）：1-10.

[3] Pradhan S，Ramchandran K.Distributed source coding using syndromes（DISCUS）：Design and construction[J].IEEE Transactions on Information Theory，2003，49（3）：626-643.

[4] García-Frías https://www.wendangku.net/doc/8011192604.html,pression of correlated binary sources using turbo codes[J].IEEE Commun Lett，2001，5（10）：417-419.

[5] Aaron A，Girod https://www.wendangku.net/doc/8011192604.html,pression with side information using turbo codes[C]//Proc Data Compression Conf，DCC 2002，2002：252-261.

[6] Mitran P，Bajcsy J.Near Shannon limit coding for the Slepian-Wolf problem[C]//Proc 21st Biennial Symposium on Communications，Kingston，Ontario，June 2002.

[7] Liveris，Xiong Z，Georghiades https://www.wendangku.net/doc/8011192604.html,pression of binary sources with side information at the decoder using LDPC codes[J].IEEE CommunLett，2002，6（10）：440-442.

[8] 薛国栋.分布式信源编码理论与应用研究[D].北京:北京邮电大学，2009.

[9] Pradhan S S, Ramchandran K. Distributed source coding using syndromes (DISCUS): design and construction[C]. //Data Compression Conference, 1999. Proceedings. DCC '99. IEEE,1999:158

- 167.

[10] Z.Tu, J.Li, and R.S, Blum. An efficient SF-ISF approach for the Slepian-wolf source coding problem. EURASIP J. on Applied Signal Processing，2005(6): 961-971, May 2005.

信源信道编码

青岛农业大学 本科生课程论文 论文题目联合信源信道编码的原理及其在通信中的应用学生专业班级信息与计算科学09级1班 学生姓名（学号）董晨晨（20093991） 指导教师吴慧 完成时间 2012年6月27日 2012 年 6 月 27 日

课程论文任务书 学生姓名董晨晨指导教师吴慧 论文题目联合信源信道编码的原理及其在通信中的应用 论文内容（需明确列出研究的问题）：由于通信的根本目的是将消息有效而可靠地从信源传到信宿，信源编码的目的在于提高系统的有效性，信道编码理论核心是提高系统的可靠性，因此在编码时应在一定的传信率条件下，通过有规律的增加冗余度保证信息以尽可能小的差错概率从信源传到信宿，并且充分利用系统资源。基于这种情况下，提出了信源信道联合编码，可以跟随信道的变化充分利用通信系统的资源，达到最好的端对端的通信效果。本文主要研究了以下几个方面的问题：（1）信源信道联合编码的原理；（2）信源信道联合编码的研究方向；（3）信源信道联合编码的关键技术；（4）联合编码在通信系统方面的应用。 资料、数据、技术水平等方面的要求：通过书籍报刊杂志、网络等各种渠道广泛搜集资料，充分利用现有文献，借鉴他人的学术成果，做到了资料翔实，数据准确，引用规范，论证充分。论文符合一般学术论文的写作规范，具备学术性、科学性和一定的创造性。文字流畅、语言准确、要点清楚，有独立的观点和见解。内容理论联系实际，计算数据准确，涉及到他人的观点、统计数据或计算公式标明出处，结论写的概括简短。 发出任务书日期2012.6.20完成论文日期2012.6.27 教研室意见（签字） 院长意见（签字）

课程论文成绩评定表

数字通信中的信源编码和信道编码.(优选)

数字通信中的信源编码和信道编码 摘要：如今社会已经步入信息时代，在各种信息技术中，信息的传输及通信起着支撑作用。而对于信息的传输，数字通信已经成为重要的手段。本论文根据当今现代通信技术的发展，对信源编码和信道编码进行了概述性的介绍. 关键词：数字通信；通信系统；信源编码；信道编码 Abstract：Now it is an information society. In the all of information technologies, transmission and communication of information take an important effect. For the transmission of information, Digital communication has been an important means. In this thesis we will present an overview of source coding and channel coding depending on the development of today’s communica tion technologies. Key Words：digital communication; communication system; source coding; channel coding 1.前言 通常所谓的“编码”包括信源编码和信道编码。编码是数字通信的必要手段。使用数字信号进行传输有许多优点, 如不易受噪声干扰, 容易进行各种复杂处理, 便于存贮, 易集成化等。编码的目的就是为了优化通信系统。一般通信系统的性能指标主要是有效性和可靠性。所谓优化，就是使这些指标达到最佳。除了经济性外，这些指标正是信息论研究的对象。按照不同的编码目的，编码可主要分为信源编码和信道编码。在本文中对此做一个简单的介绍。 2.数字通信系统 通信的任务是由一整套技术设备和传输媒介所构成的总体——通信系统来完成的。电子通信根据信道上传输信号的种类可分为模拟通信和数字通信。最简单的数字通信系统模型由信源、信道和信宿三个基本部分组成。实际的数字通信系统模型要比简单的数字通信系统模型复杂得多。数字通信系统设备多种多样，综合各种数字通信系统，其构成如图2-l所示。 图2-1 数字通信系统模型 信源编码是以提高通信有效性为目的的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。 信道，通俗地说是指以传输媒质为基础的信号通路。具体地说，信道是指由有线或无线电线路提供的信号通路。信道的作用是传输信号，它提供一段频带让信号通过，同时又给信号加以限制和损害。 信道编码是以提高信息传输的可靠性为目的的编码。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率或带宽。与信源编码正好相反。在计算机科学领域，信道编

信源编码的基本原理及其应用..

信源编码的基本原理及其应用 课程名称通信原理Ⅱ 专业通信工程 班级******* 学号****** 学生姓名***** 论文成绩 指导教师***** ******

信源编码的基本原理及其应用 信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948 年的著名论文《通信的数学理论》所定义的，它为信息论奠定了理论基础。后来其他科学家，如哈特莱、维纳、朗格等人又对信息理论作出了更加深入的探讨。使得信息论到现在形成了一套比较完整的理论体系。 信息通过信道传输到信宿的过程即为通信，通信中的基本问题是如何快速、准确地传送信息。要做到既不失真又快速地通信，需要解决两个问题：一是不失真或允许一定的失真条件下，如何提高信息传输速度（如何用尽可能少的符号来传送信源信息）；二是在信道受到干扰的情况下，如何增加信号的抗干扰能力，同时又使得信息传输率最大（如何尽可能地提高信息传输的可靠性）。这样就对信源的编码有了要求，如何通过对信源的编码来实现呢？ 通常对于一个数字通信系统而言，信源编码位于从信源到信宿的整个传输链路中的第一个环节，其基本目地就是压缩信源产生的冗余信息，降低传递这些不必要的信息的开销，从而提高整个传输链路的有效性。在这个过程中，对冗余信息的界定和处理是信源编码的核心问题，那么首先需要对这些冗余信息的来源进行分析，接下来才能够根据这些冗余信息的不同特点设计和采取相应的压缩处理技术进行高效的信源编码。简言之，信息的冗余来自两个主要的方面：首先是信源的相关性和记忆性。这类降低信源相关性和记忆性编码的典型例子有预测编码、变换编码等；其次是信宿对信源失真具有一定的容忍程度。这类编码的直接应用有很大一部分是在对模拟信源的量化上，或连续信源的限失真编码。可以把信源编码看成是在有效性和传递性的信息完整性（质量）之间的一种折中有段。 信源编码的基本原理： 信息论的创始人香农将信源输出的平均信息量定义为单消息（符号）离散信源的信息熵： 香农称信源输出的一个符号所含的平均信息量为 为信源的信息熵。 通信原理中对信源研究的内容包括3个方面： (1)信源的建模 信源输出信号的数学描述已有成熟的理论——随机过程，一般的随机过程理∑=-=L i i i x p x p x H 12) (log )()()(x H

差错控制编码

第九章差错控制编码 9.1引言 一、信源编码与信道编码 数字通信中，根据不同的目的，编码分为信源编码与信道编码二大类。 信源编码~ 提高数字信号的有效性，如，PCM编码，M 编码，图象数据压缩编码等。 信道编码~ 提高传输的可靠性，又称抗干扰编码，纠错编码。 由于数字通信传输过程中，受到干扰，乘性干扰引起的码间干扰，可用均衡办法解决。 加性干扰解决的办法有：选择调制解码，提高发射功率。 如果上述措施难以满足要求，则要考虑本章讨论的信道编码技术，对误码（可能或已经出现）进行差错控制。 从差错控制角度看：信道分三类：（信道编码技术） ①随机信道：由加性白噪声引起的误码，错码是随机的，错码间统计独立。 ②突发信道：错码成串，由脉冲噪声干扰引起。 ③混合信道：既存在随机错误，又存在突发错码，那一种都不能忽略不计的信道。 信道编码（差错控制编码）是使不带规律性的原始数字信号，带上规律性（或加强规律性，或规律性不强）的数字信号，信道译码器则利用这些规律性来鉴别是否发生错误，或进而纠错。 需要说明的是信道编码是用增加数码，增加冗余来提高抗干扰能力。二：差错控制的工作方式 (1) 检错重发 (2) 前向纠错，不要反向信道 (3) 反馈校验法，双向信道 这三种差错控制的工作方式见下图所示： 检错重发 前向纠错 反馈校验法 检错误 判决信号 纠错码 信息信号 发 发 收 信息信号 152

153 9.2 纠错编码的基本原理 举例说明纠错编码的基本原理。 用三位二进制编码表示8种不同天气。 ???????? ?????雹 雾霜雪雨阴云 晴1 11 011101001 110010100000???→?种 许使用种中只准 48码组许用码组，其它为禁用雨阴云晴 0 11101110000 ??? ? ??? 许用码组中，只要错一位（不管哪位错），就是禁用码组，故这种编码能 发现任何一位出错，但不能发现的二位出错，二位出错后又产生许用码。 上述这种编码只能检测错误，不能纠正错误。 因为晴雨阴错一位，都变成1 0 0。 要想纠错，可以把8种组合（3位编码）中，只取2种为许用码，其它6种为禁用码。 例如： 0 0 0 晴 1 1 1 雨 这时，接收端能检测两个以下的错误，或者能纠正一个错码。 例：收到禁用码组1 0 0时，如认为只有一位错，则可判断此错码发生在第1位，从而纠正为0 0 0（晴），因为1 1 1（雨）发生任何一个错误都不会变成1 0 0。 若上述接收码组种的错码数认为不超过二个，则存在两种可能性： 位错） （位错）（21111000/变成（1 1 1）或（1 0 0）， 因为只能检出错误，但不能纠正。 一：分组码，码重，码距 （见樊书P282 表9-1） 将码组分段：分成信息位段和监督位段，称为分组码，记为（n, k ） n ~ 编码组的总位数，简称码长（码组的长度） k ~ 每组二进制信息码元数目，（信息位段） r k n =- ~ 监督码元数目，（监督位段）（见樊书P282，图9-2） 一组码共计8种

基于Huffman信源编码和LDPC信道编码的联合译码算法

Joint Source-Channel Decoding of Huffman Codes with LDPC Codes Zhonghui Mei and Lenan Wu Abstract In this paper, we present a joint source-channel decoding algorithm (JSCD) for LDPC codes by exploiting the redundancy of the Huffman coded sources.When the number of Huffman codes increases, just a moderate complexity is added for our algorithm by increasing the size of the lookup table, which is used to estimate the information bit probability based on the source redundancy. Key words － LDPC, Variable length codes (VLC), Huffman code, sum-product algorithm (SPA), joint source-channel decoding (JSCD) I. INTRODUCTION Recently in [1]-[4] several joint source-channel decoding algorithms for variable length codes (VLC) have been proposed. All of these algorithms consider the overall sequence of variable length codeword to exploit the source redundancy. The drawback is that the symbols have to be synchronized in order to limit error propagating. Furthermore, when the number of VLC increases, the decoding complexity of these algorithms explodes. In this paper we present a JSCD algorithm for LDPC codes in combination with Huffman coded sources. The error correcting property of our JSCD algorithm mainly depends on channel codes rather than source redundancy. In order to exploit the source redundancy, we estimate the information bit probability with just some corresponding bits before it, which simplifies the decoding algorithm significantly. The rest of the paper is organized as follows. Section II presents the Huffman coded source model. The JSCD algorithm for LDPC codes is described in section III. Section IV provides the simulation results. Section V concludes this paper. II. HUFFNAN CODED SOURCE MODEL Let denotes a sequence of information bits coded by VLC (e.g. a Huffman code). In [1], [3] and [4], they consider the overall sequence and express the source redundancy with . In order to compute , [3] and [4] design a trellis to illustrate statistics of the source sequence. When the number of the trellis states increases, the computational complexity of will rise explosively. ],......,,,[321n s s s s S =),......,,,()(21n s s s s p S p =)(S p )(S p In this paper, we make use of the source redundancy with , as is illustrated in Fig.1 and table 1. k is chose to be larger than the maximum length of Huffman codes. When the number of VLC increases, we only need to expand the lookup table. In addition, for we just estimate one bit probability with a small part bit of the information sequence every time, the error propagation phenomenon has been avoided successfully. ]),......,,[|(11?+??i k i k i i s s s s p

马尔可夫过程在信源编码中的应用

河南城建学院 马尔科夫过程在信源编码中的应用 信 息 论 基 础 姓名：王坤 专业名称：电子信息工程 专业班级：0934121 指导老师：贺伟 所在院系：电气与信息工程学院 2014年12月20日

摘要 首先主要讲述了马尔科夫过程，对马尔科夫过程进行了简介，介绍了马尔科夫过程的数学描述方法并对马尔科夫过程的发展历史进行了简述。 在第二章节对马尔科夫过程在信源编码中的应用进行了简单的论述及讲解。信息论中的编码主要包括信源编码和信道编码。信源编码的主要目的是提高有效性，通过压缩每个信源符号的平均比特数或降低信源的码率来提高编码效率；信道编码的主要目标是提高信息传输的可靠性，在信息传输率不超过信道容量的前提下，尽可能增加信源冗余度以减小错误译码概率。研究编码问题是为了设计出使通信系统优化的编译码设备 随机过程是与时间相关的随机变量，在确定的时刻它是随机变量。随机过程的具体取值称作其样本函数，所有样本函数构成的集合称作随机过程的样本函数空间，所有样本函数空间及其统计特性即构成了随机过程。

目录 1引言 (1) 2马尔科夫过程 (2) 3马尔科夫过程在信源编码中的应用 (4) 4参考文献 (13)

1 引言 随着现代科学技术的发展，特别是移动通信技术的发展，信息的传输在社会科学进步的地位越来越重要。因此如何更加高效的传输信息成了现代科技研究的重要目标。马尔可夫过程是一类非常重要的随机过程。很多在应用中出现的马氏过程模型的研究受到越来越多的重视。在现实世界中，有很多过程都是马尔可夫过程，马尔可夫过程在研究质点的随机运动、自动控制、通信技术、生物工程等领域中有着广泛的应用。我们可以通过对马尔可夫过程的研究来分析马尔可夫信源的特性。由于 研究马尔科夫过程在信源编码中的作用，可以利用马尔科夫模型减少信息传输的冗余，提高信息传输的效率。 马尔可夫信源是一类有限长度记忆的非平稳离散信源，信源输出的消息是非平稳的随机序列，它们的各维概率分布可能会随时间的平移而改变。由于马尔可夫信源的相关性及可压缩性，它已成为信息领域的热点问题。

以香农编码为信源编码、(7,4)循环码为信道编码的2FSK信号的调制解调

目录 1 课程设计目的 (1) 2 课程设计正文 (1) 2.1 调制原理 (1) 2.2 解调原理 (3) 2.3 程序分析 (3) 3 课程设计总结 (9) 4 参考文献 (9)

1 课程设计目的 通过我们对这次CDIO 二级项目的学习和理解，综合运用课本中所学到的理论知识完成一个以香农编码为信源编码、（7,4）循环码为信道编码的2FSK 信号调制解调的课程设计。以及锻炼我们查阅资料、方案比较、团结合作的能力。学会了运用MA TLAB 编程来实现2FSK 调制解调过程，并且输出其调制及解调过程中的波形，并且讨论了其调制和解调效果，增强了我们的动手能力，为以后学习和工作打下了基础。 2 课程设计正文 本次课程设计我们所做的课题是一个以香农编码为信源编码、（7,4）循环码为信道编码的2FSK 信号调制解调的CDIO 项目，这就要求我们需要完成信源编码、信道编码、信号的调制解调以及误码率分析等问题。 图1 数字通信系统模型 数字信号的传输方式分为基带传输和带通传输，在实际应用中，大多数信道具有带通特性而不能直接传输基带信号。为了使数字信号在带通信道中传输，必须使用数字基带信号对载波进行调制，以使信号与信道的特性相匹配。这种用数字基带信号控制载波，把数字基带信号变换为数字带通信号的过程称为数字调制。 2.1 调制原理 用基带信号)(t f 对高频载波的瞬时频率进行控制的调制方式叫做调频，在数字调制系统中则称为频移键控(FSK)。频移键控在数字通信中是使用较早的一种调制方式，这种方式实现起来比较容易，抗干扰和抗衰落的性能也较强。其缺点是占用频带较宽，频带利用串不够高，因此，额移键控主要应用于低、中速数据的传输，以及衰落信道与频带较宽

信源编码(数据压缩)课程课后题与答案(第二章)

信源编码 Assignment of CH2 1、（a）画出一般通信系统结构的组成框图，并详细说明各部分的作用或功能； 信源信源编码信道编码调制 噪声信道传输 , 信宿信源解码信道解码解调 图1、一般数字通信系统框图 各部分功能： 1、信源和信宿：信源的作用是把消息转换成原始的电信号；信宿的作用是 把复原的电信号转换成相应的消息。 . 2、信源编码和信源解码：一是进行模/数转换，二是进行数据压缩，即设法降低信号的数码率；信源解码是信源编码的逆过程。 3、信道编码和信道解码：用于提高信道可靠性、减小噪声对信号传输的影响；信道解码是信道编码的反变换。 4、调制和解调：将信息调制为携带信息、适应在信道中传输的信号。数字 " 解调是数字调制的逆变换。 5、信道：通信的通道，是信号传输的媒介。 （b）画出一般接收机和发射机的组成框图，并分别说明信源编解码器和信道编 解码器的作用； … 高频振荡器高频放大调制高频功放天线

" 音频功放 信 号 图2、一般发射机框图（无线广播调幅发射机为例）

天线 信号放大器混频器解调器音频放大器 信 号 本地振荡器 图3、一般接收机框图（无线广播调幅发射机为例） 信源编解码器作用：它通过对信源的压缩、扰乱、加密等一系列处理，力求 用最少的数码最安全地传输最大的信息量。信源编解码主要解决传输的有效性问题。 信道编解码器作用：使数字信息在传输过程中不出错或少出错，而且做到自 动检错和尽量纠错。信道编解码主要解决传输的可靠性问题。 （c）信源编码器和解码器一般由几部分组成，画出其组成图并给以解释。 信源编码器 时频分析量化熵编码 信道传输 时频分析反量化熵解码 信源解码器 图 4、信源编解码器框图 时频分析部分：信源编码器对信源传送来的信号进行一定方法的时域频域分析，建立一个能够表达信号规律性的数学模型，从而得知信号中的相关性和多余度，分析出信号数据中可以剔除或减少的部分（比如人感知不到的高频率音频信号或者看不见的色彩信号等等），以决定对后续数据的比特分配、编码速率等处理问题。 量化部分：根据时频分析的结果，为了更加简洁地表达利用该模型的参数， 减少精度，采取相应量化方法对信号进行量化，减小信号的多余度和不相关性，

信源编码和信源解码

信源编码和信源解码 字、符号、图形、图像、音频、视频、动画等各种数据本身的编码通常称为信源编码，信源编码标准是信息领域的基础性标准。无论是数字电视、激光视盘机，还是多媒体通信和各种视听消费电子产品，都需要音视频信源编码这个基础性标准。 大家用电脑打字一定很熟悉，当你用WORD编辑软件把文章（DOC文件）写完，存好盘后，再用PCTOOLS工具软件把你的DOC文件打开，你一定能看到你想象不到的东西，内容全是一些16进制的数字，这些数字叫代码，它与文章中的字符一一对应。现在我们换一种方法，用小画板软件来写同样内容的文章。你又会发现，用小画板软件写出来的BMP文件，占的内存（文件容量）是DOC文件的好几十倍，你知道这是为什么？原来WORD编辑软件使用的是字库和代码技术，而小画板软件使用的是点阵技术，即文字是由一些与坐标位置决定的点来组成，没有使用字库，因此，两者在工作效率上相差几十倍。[信源]->[信源编码]->[信道编码]->[信道传输+噪声]->[信道解码]->[信源解码]->[信宿] 目前模拟信号电视机图像信号处理技术就很类似小画板软件使用的点阵技术，而全数字电视机的图像信号处理技术就很类似WORD编辑软件使用的字库和代码技术。实际上这种代码传输技术在图文电视中很早就已用过，在图文电视机中一般都安装有一个带有图文字库的译码器，对方发送图文信号的时候只需发送图文代码信息，这样可以大大地提高数据传输效率。 对于电视机，显示内容是活动图像信息，它哪来的“字库”或“图库”呢？这个就是电视图像特有的“相关性”技术问题。原来在电视图像信号中，90%以上的图像信息是互相相关的，我们在模拟电视机中使用的Y/C（亮度信号/彩色信号）分离技术，就是利用两行图像信号的相关性，来进行Y/C分离。如果它们之间内容不相关，Y/C信号则无法进行分离。全数字信号电视也一样，如果图像内容不相关，则图像信号压缩也就要免谈。如果图像内容有相关性，那么上一幅图像的内容就相当于下一幅图像的“图形库”，或一幅图像中的某部分就是另一部分的“图形库”，因此，下一幅图像或图像中某一个与另一个相关的部分，在发送信号时，只需发送一个“代码”，而传送一个“代码”要比送一个“图形库”效率高很多，显示时也只需把内容从“图形库”中取出即可，这就是MPEG图像压缩的原理。 利用电视信号的相关性，可以进行图像信号压缩，这个原理大家已经明白，但要找出图像相关性的内容来，那就不是一件很容易的事情，这个技术真的是太复杂了。为了容易理解电视图像的相关性，我们不妨设想做一些试验，把图像平均分成几大块，然后每一块，每一块的进行比较，如果有相同的，我们就定义它们有相关性；如果没有相同的，我们继续细分下去，把每大块又分成几小块，一直比较下去，最后会发现，块分得越细，相同块的数目就越多，但分得太细需要的代码也增多，所以并不是分得越细越好。我们在看VCD的时候经常发现，如果VCD读光盘数据出错，就会在图像中看到“马赛克”，这些“马赛克”就是图像分区时的最小单位，或把数码相片进行放大，也可以看到类似“马赛克”的小区，这就是数码图像的最小“图形库”，每个小“图形库”都要对应一个“代码”。 在单幅图像中找出相关性的几率并不是很大的，所以对单幅图像的压缩率并不很大，这个通过观察数码相片的容量就很容易明白，如果把寻找相关性的范围扩大到两幅图像，你就会发现，具有相关性的内容太多了，这是因为运动物体对于人的眼睛感觉器官来说，是很慢

信源编码与信道编码解析

信源编码与信道编码解析 摘要：衡量一个通信系统性能优劣的基本因素是有效性和可靠性，有效性是指信道传输信息的速度快慢，可靠性是指信道传输信息的准确程度。在数字通信系统中，信源编码是为了提高有效性，信道编码是为了提高可靠性，而在一个通信系统中，有效性和可靠性是互相矛盾的，也是可以互换的。我们可以用降低有效性的办法提高可靠性，也可以用用降低可靠性的办法提高有效性。本文对信源编码和信道编码的概念，作用，编码方式和类型进行了解析,以便于更好的理解数字通信系统的各个环节。 关键字：信源编码信道编码 Abstract: the measure of a communication system the basic factor is quality performance efficiency and reliability, effectiveness refers to channel to transfer information machine speed, reliability is to point to the accuracy of the information transmission channel. In digital communication system, the source coding is in order to improve the effectiveness, channel coding is in order to improve the reliability, and in a communication system, effectiveness and reliability is contradictory, is also can be interchanged. We can use to reduce the availability of improving the reliability, also can use to improve the effectiveness of reduces reliability. In this paper, the source coding and channel coding concept, function, coding mode and the types of analysis, in order to better understand all aspects of digital communication systems. Key words: the source coding channel coding 中图分类号：TN911.21 文献标识码：A 文章编号： 1引言 数字通信系统： 信源是把消息转化成电信号的设备，例如话筒、键盘、磁带等。 信源编码的基本部分是压缩编码。它用于减小数字信号的冗余度，提高数字信号的有效性，如果是模拟信源，则它还包括数模转换功能，在某些系统中，信源编码还包括加密功能。

第10讲 信源编码的性能指标

第10讲 信源编码的性能指标 1. 无失真信源编码的冗余度压缩原理 为了压缩冗余度，必须改造信源输出符号的统计特性。一方面要尽量提高任一时刻输出符号的概率分布的均匀性，另一方面要尽量消除前后输出符号的统计相关性。因此，无失真信源编码的实质是将信源尽可能地改造为均匀分布的无记忆信源。这种信源的通信效率是最大的。改造后的新信源是由原信源和编码器共同组成的，称为编码后的信源。设f 是信源S 的一个编码，X 是编码后的信源，则三者之间的关系表示如下 f S X ??→ 信源编码f 所用的码元可以与信源S 的符号不同，一般是某个信道的输入符号。 从数据处理这个角度来看，编码f 是一个数据处理器，输入信源S 的数据，输出信源X 的数据。从通信的角度看，编码f 是一个信道，输入信源S 的数据，输出信源X 的数据。 无失真信源编码的目的是无损压缩，即用尽可能少的数据表示数据中的所有信息，不能破坏数据原有信息。这相当于提高信息传输效率，使之接近于1。因此，度量无失真编码的压缩性能可以看编码后信息传输效率，称为编码效率。编码效率越接近于1，无损压缩性能越好。下面介绍信源编码的5个性能指标，包括平均码长、码率、编码效率、编码冗余度和压缩率。 2. 平均码长 平均码长是信源编码的一个关键的性能指标。在已知信源熵的前提下，根据平均码长，可以计算出无损压缩编码的码率和编码效率。 定义2.1 设f 是一个N-分组码，各码字的码长分别记为,1i l i q ≤≤，对应的N 长分组的概率为i p ，则f 的平均码长定义为 11(/ q i i i L p l N ==∑码元信源) 注：在有的教材中，当平均码长的单位转化为“比特/信源”时，称为编码速率。本课程用不到这个概念。 讨论：用平均码长估计编码后的数据长度 设S 是一个离散无记忆信源，:f S C →是信源S 的一个编码，其平均码长为L 。令12n s s s s =?是一个信源序列。假设用f 对该数据进行编码，试估计编码后码元序列的长度。 对于信源数据12n s s s s =?，我们令L i 表示信源符号s i 所对应的码字f (s i )的长度，则编码后的数据长度为12+++n L L L 。我们把L i 视为随机变量，则对于任何i ，我们有[]i E L L =。 因为S 是离散无记忆的，所以{L i }是独立同分布随机序列。根据辛钦大数定理，我们有

WCDMA技术的信源编码和信道编码

WCDMA技术的信源编码和信道编码 WCDMA网络是全球商用时间最长，技术成熟、可演进性最好的，全球第一个3G商用网络就是采用WCDMA制式。我国采用了全球广泛应用的WCDMA 3G技术，目前已全面支持HSDPA/HSUPA，网络下载理论最高速率达到14.4Mbps。2G无线宽带的最高下载速度约为150Kbps，我国的WCDMA网络速度几乎是2G网络速度的100倍。支持业务最广泛，基于WCDMA成熟的网络和业务支撑平台，其所能实现的3G业务非常丰富。无线上网卡、手机上网、手机音乐、手机电视、手机搜索、可视电话、即时通讯、手机邮箱、手机报等业务应用可为用户的工作、生活带来更多的便利和美妙享受。终端种类最多，截至2008年底，支持WCDMA商用终端的款式数量超过2000款，全球主要手机厂商都推出了为数众多的WCDMA手机。国内覆盖广泛，截至2009年9月28日，联通3G网络已成功在中国大陆285个地市完成覆盖并正式商用，新覆盖的城镇数量还在不断增长中，联通3G网络和业务已经覆盖了中国绝大部分的人口和地域。开通国家最广，可漫游的国家和地区最多，截至2008年底，全球已有115个国家开通了264个WCDMA网络，占全球3G商用网络的71.3%。截至2009年9月28日，中国联通已与全球215个国家的395个运营商开通了。 WCDMA的优势明显，技术成熟，在WCDMA物理层来看，信源编码和信道编码是WCDMA技术的基础，信源编码是采用语音编码技术，AMR语音编码技术是由基于变速率多模式语音编码技术发展而来，主要原理在于：语音编码器模型由一系列能提供多种编码输出速率与合成质量的声码器构成AMR支持八种速率。鉴于不同信源比特对合成语音质量的影响不同AMR 语音编码器输出的话音比特在传输之前需要按照它们的主观重要性来排序分类，分别采用不同保护程度的信道编码对其进行编码保护。 信源编码AMR模式自适应选择编码器模式以更加智能的方式解决信源和信道编码的速率匹配问题，使得无线资源的配置和利用更加灵活和高效。实际的语音编码速率取决于信道条件，它是信道质量的函数。而这部分工作是解码器根据信道质量的测量参数协助基站来完成，选择编码模式，决定编码速率。原则上在信道质量差时采用低速率编码器，就能分配给信道编码更多的比特冗余位来实现纠错，实现更可靠的差错控制。在信道质量好、误比特率较低时采用高速率编码器，能够提高语音质量。在自适应过程中，基站是主要部分，决定上下行链路采用的速率模式。 信源编码AMR编码器原理，WCDMA系统的AMR声码器共有八种编码模式，它们的输出比特速率不同。为了降低成本和复杂度，八种模式都采用代数码本激励线性预测技术，它们编码的语音特征参量和参量提取方法相同，不同的是参量的量化码本和量化比特数。AMR语音编码器根据实现功能大致可分为LPC分析、基音搜索、代数码本搜索三大部分。其中LPC分析完成的主要功能是获得10阶LPC滤波器的-.个系数，并将它们转化为线谱对参数，并对LSF进行量化；基音搜索包括了开环基音分析和闭环基音分析两部分，以获得基音延迟和基音增益这两个参数；代数码本搜索则是为了获得代数码本索引和代数码本增益，还包括了码本增益的量化。

差错控制编码技术的应用

差错控制编码技术的应用 摘要：随着网络技术的发展,网络中数据交换量迅速增加,大量的数据需要通过网络进行交 换。在数据的传输过程中,由于种种原因,数据并不能保证100%的准确传输,数据传输的高准确率与高效率中间存在着比较难调和的矛盾。为了解决这个问题,便出现了通信中的差错控制技术,即通过将传送数据进行编码发送的方法来进行检错和纠正。 引言：无线应用的飞跃发展和广阔的应用前景，使得人们不得不把更多的目光投向无线网 络的通信。由于无线环境与有线环境相比，具有误码率高、时延长、带宽窄、信道不对称以及频繁的移动等特性，使无线网络中的通信质量难于保证。这样，怎样改善无线网络中的通信性能也自然成了目前乃至以后较长时期网络领域的重要研究课题。 一、差错控制编码技术的概念 信道干扰源可分为无源干扰和有源干扰。前者引起的差错是一种随机差错，即某个码元的出错具有独立性，与前后码元无关。而后者是由短暂原因如突然施加干扰源引起的，差错是成群的，其差错持续时间称为突发错的长度在信息传输中，二者均有可能被引入。根据具体情况而选定合适的差错控制编码可以发现并纠正这些错误。 1．1差错控制的基本方式 (1)反馈纠错 反馈纠错是在信源端采用能发现一定程度传输差错的简单编码方法对所传信息进行编码(加入少量监督码元)，在信宿端根据编码规则对收到的编码信号进行检查，一旦检测出误码，即向信源端发出信号要求重发。信源端收到信号后，立即重发已发生传输差错的那部分信息，直到正确收到为止。这种方法只能发现接收码元中的一个或一些错误，但无法确定误码的准确位置，较适合于双向数据通信，要求信源端有数据存储装置。 (2)前向纠错 前向纠错是信源端采用在解码时能纠正一定程度传输差错的较复杂的编码方法，使信宿端在收到码元后不仅能发现错码，还能够纠正错码。采用前向纠错方式时，不需要反馈信道，也无需反复重发而延误传输时间，对实时传输有利。但是纠错装置比较复杂。此方法可用于没有反馈通道的单向数字信号的传输。 (3)混合纠错 混合纠错即在接收端自动纠正少量差错，当误码严重超出其自行纠正能力时，就向信源端发出询问信号，要求重发，是反馈纠错和前向纠错的混合形式。 1．2差错控制编码的分类 差错控制编码按照差错控制的不同方式，可分为检错码、纠错码和纠删码等；按照误码产生的原因不同，可分为纠正随机错误码与纠正突发性错误码；按照信息码元与附加的监督码元之间的检验关系，可分为线性码与非线性码；按照信息码元与附加监督码元之间的约束方式不同，可以分为分组码与卷积码；按照信息码元在编码之后是否保持原来的形式不变，可分为系统码与非系统码。在实际运用中往往是多种方式的编码方式混合，如线性分组码就是信息码元与附加的监督码元之间的检验关系为线性，约束方式为分组形式。

信源编码

信源编码技术 为什么要进行信源编码 通信系统就是将产生的信息传输到目的地。信源有各种不同的形式，
如广播的信源是语音或音乐，电视的信源是活动图像，这些信源的输 出都是模拟信号，称为模拟信源。计算机和存储器件（磁盘或光盘） 输出的是离散信号，称为数字信源。在数字系统中传输的都是数字信 息，不论是模拟信源还是离散信源其输出都必须转化为可以传输的数 字信息，这种转化通常是由信源编码器来完成的。 信源编码在移动通信中也称语音编码。 ? 信源编码的作用是用信道能传输的符号来表示信源发出的信息，在不 失真或一定失真的条件下用尽可能少的符号传送信源消息，提高信息 传输率。信源编码（如语音）对数字传输非常重要，而且对无线通信
来说显得尤其重要。
PDF created with pdfFactory Pro trial version https://www.wendangku.net/doc/8011192604.html,

?
随着数字电话和数据通信容量日益增长的迫切要求，而又 不希望明显降低传送话音信号的质量，除了提高通信带宽之外， 对话音信号进行压缩是提高通信容量的重要措施。
?在移动通信中，稀少而又昂贵的无线信道更一定要和必 须要对传输的各种信号源进行压缩，以提高通信容量。
PDF created with pdfFactory Pro trial version https://www.wendangku.net/doc/8011192604.html,

模拟信源（语音）编码的种类
波形编码、参量编码、混合编码 一般来说，波形编码器的话音质量高，但数据率也很高；参量编码器的数据 率很低，产生的合成话音的音质有待提高；混合编码器同时使用参量编译码技 术和波形编译码技术，数据率和音质介于它们之间。 （1）波形编码 波形编码比较简单，编码前采样定理对模拟语音信号进行量化，然后进行 幅度量化，再进行二进制编码。解码器作数／模变换后再由低通滤波器恢复出现 原始的模拟语音波形，这就是最简单的脉冲编码调制（PCM），也称为线性 PCM。可以通过非线性量化，前后样值的差分、自适应预测等方法实现数据压 缩。波形编码的目标是让解码器恢复出的模拟信号在波形上尽量与编码前原始波 形相一致，也即失真要最小。波形编码的方法简单，数码率较高，在64kbit/s至 32kbit/s之间音质优良，当数码率低于32kbit/s的时候音质明显降低，16 kbit/s时 音质非常差。
PDF created with pdfFactory Pro trial version https://www.wendangku.net/doc/8011192604.html,

数据压缩与信源编码第四章

第四章 1、详细解释下面概念：（a）绝对掩蔽门限；（b）临界频带；（c）听觉门限；（d）掩蔽效应。（a）绝对掩蔽门限:被掩蔽音单独存在时的听阈分贝值，或者说在安静环境中能被人耳听到的纯 音的最小值称为绝对掩蔽门限。 （b）临界频带:当噪声掩蔽纯音时，起作用的是以纯音频率为中心频率的一定频带宽度内的噪声 频率。如这频带内的噪声功率等于在噪声中刚能听到的该纯音的功率，则这频带就称为听觉临界 频带。 （c）听觉门限:刚刚能引起感觉的最小刺激量，称为感觉阈下限；能产生正常感觉的最大刺激量 ，称为感觉阈上限。刺激强度不允许超过上限，否则，不但无效而且还会引起相应听觉器官的损 伤。 （d）掩蔽效应:一个较弱的声音(被掩蔽音)的听觉感受被另一个较强的声音(掩蔽音)影响的现象 称为人耳的“掩蔽效应”。 2、详细说明：（a）什么是心理声学模型，它的输入和输出分别是什么？ 心理声学模型是对人听感的统计性质的数学表述模型，它解释人各种听感的生理原理。输入是声 音信号，输出是编码数据流。 （b）心理声学模型在音频编码中的作用？ 心理声学原理应用到音频压缩技术中，使获得低比特传输速率和透明音质成为可能。 3、（a）MPEG-1音频编码分几层，各层在编码效率、算法复杂度和算法延迟上有和区别？三层，MPEG-1 Layer1采用每声道192kbit/s，每帧384个样本，32个等宽子带，固定分割数据块。 MPEG-1 Layer2采用每声道128kbit/s，每帧1152个样本，32个子带，属不同分帧方式。MPEG-1 Layer3采用每声道64kbit/s，用混合滤波器组提高频率分辨率，按信号分辨率分成6X32或18X32个

差错控制编码仿真

差错控制编码仿真 一、实验目的 掌握差错控制编码的实现技术以及仿真方法 二、实验内容 1、设计一个（7,4）汉明码编译码仿真模型 2、观察经过并串转换后的(7,4)汉明码输出波形图 三、实验原理 1、线性分组码的基本概念： 线性分组码（n，k）中许用码字（组）为2k个。定义线性分组码的加法为模2和，乘法为二进制乘法。即1+1=0、1+0=1、0+1=1、0+0=0； 1×1=1、1×0=0、0×0=0、0×1=0。且码字与码字 的运算在各个相应比特位上符合上述二进制加法运算规则。 线性分组码具有如下性质（n，k）的性质： 1）封闭性。任意两个码组的和还是许用的码组。 2）码的最小距离等于非零码的最小码重。 对于码组长度为n、信息码元为k位、监督码元为r＝n－k位的分组码，常记作（n，k）码，如果满足2r－1≥n，则有可能构造出纠正一 位或一位以上错误的线性码。 下面我们通过（7，4）分组码的例子来说明如何具体构造这种线性码。设分组码（n，k）中，k = 4，为能纠正一位误码，要求r≥3。现取 r＝3，则n＝k＋r＝7。我们用a0ala2a3a4a5a6表示这7个码元，用S1、 S2、S3表示由三个监督方程式计算得到的校正子，并假设三位S1、S2、 S3校正子码组与误码位置的对应关系如下表12.2所示。 （7，4）码校正子与误码位置

S1＝0。因此有S1＝a6⊕a5⊕a4⊕a2，同理有S2＝a6⊕a5⊕a3⊕a1和S3＝a6⊕a4⊕a3⊕a0。在编码时a6、a5、a4、a3为信息码元，a2、a1、a0为监督码元。则监督码元可由以下监督方程唯一确定 即 由上面方程可得到表12.3所示的16个许用码组。在接收端收到每个码组后，计算出S1、S2、S3，如果不全为0，则表示存在错误，可以由表12.2确定错误位置并予以纠正。例如收到码组为0000011，可算出S1S2S3=011,由表12.2可知在a3上有一误码。通过观察可以看出，上述（7，4）码的最小码距为dmin＝3，它能纠正一个误码或检测两个误码。如果超出纠错能力则反而会因“乱纠”出现新的误码。 （7，4）许用码组 有以下一些特点：码长n＝2m－1，最小码距为d＝3，信息码长k＝2n －m－1，纠错能力t＝1，监督码长r＝n－k＝m。这里m为≥2的正整数。给定m后，就可构造出汉明码（n，k）。 1、（7，4）汉明码的编译码仿真：