文档库 最新最全的文档下载
当前位置:文档库 › 信息论与编码[第三章离散信道及其信道容量]山东大学期末考试知识点复习

信息论与编码[第三章离散信道及其信道容量]山东大学期末考试知识点复习

信息论与编码[第三章离散信道及其信道容量]山东大学期末考试知识点复习
信息论与编码[第三章离散信道及其信道容量]山东大学期末考试知识点复习

第三章离散信道及其信道容量

3.1.1 信道的分类

在信息论中,信道是传输信息的通道,是信息传输系统的重要组成部分之一。信道的分类有:

按照信道输入端或输出端的个数可分为单用户信道和多用户信道。

按照信道输出端有无信号反馈到输入端可分为有反馈信道和无反馈信道。

按照信道的统计参数是否随时间变化可分为时变参数信道和固定参数信道。

按照信道输入/输出信号取值幅度集合以及取值时间集合的离散性和连续性可分为离散信道(数字信道)和波形信道(模拟信道)。

按照信道输入/输出信号取值幅度集合的离散性和连续性(取值时间是离散的)可分为离散信道和连续信道。

按照信道输入/输出信号在取值时刻上是否有依赖关系可分为有记忆信道和无记忆信道。

按照信道输入信号与输出信号之间是否统计依赖关系可分为有噪信道和无噪(无干扰)信道。

3.1.2 离散信道的数字模型

1.一般离散信道(多维离散信道)

一般离散信道输入/输出信号取值幅度和取值时刻都是离散的平稳随机矢量。其数学模型可用离散型概率空间[X,P(y|x),Y]来描述。其中X=(X1X2…X N)为输入信号,Y= (Y1Y2…Y N)为输出信号。X中X i∈A={a1,a2,…,a r},Y中Y i∈B={b1,b2,…,b s}。又P(y|x)(x∈X,y∈Y)是信道的传递概率(转移概率),反映输入和输出信号之间统计依赖关系,并满足

概率空间[X,P(y|x),Y]也可用图来描述。

2.基本离散信道(单符号离散信道)

单符号离散信道是离散信道中最基本的信道,其信道输入/输出信号都是取值离散的单个随机变量。数学模型是概率空间[X,P(y|x),Y],(或[X,P(b j|a i),Y]),其中X∈A={a1,a2,…,a r},Y∈B={b1,b2,…,b s),P(y|x)=P(b j|a i)(i=1,2,…,r;j=1,2,…,s)并满足

概率空间[X,P(y|x),Y]也可用图来描述,如图3.1所示。

若将传递概率排列成矩阵形式,则称其为传递矩阵(或称信道矩阵)P,即

3.无噪(无干扰信道)

若离散信道[X,P(y|x),Y]满足

若x与y是确定的一一对应关系(f为单值函数),则称为无噪无损信道。

若多个x与一个y为对应(多一对应)关系,则称为无噪有损信道。

若离散信道[X,P(y|x),Y]中P(y|x)不是0,1分布,则称为有噪信道。

在有噪信道中,有一类信道若其前向概率P(y|x)不是0,1分布,而后向概率P(x|y)是0,1分布,即y可以唯一确定x,则称为有噪无损信道。有噪无损信道的充要条件是信道矩阵中每一列有一个也仅有一个非零元素。

4.离散无记忆信道

若离散信道[X,P(y|x),Y]满足

则称为无记忆信道(简记为DMC),否则为有记忆信道。

一般情况,离散无记忆信道的数学模型仍可用单符号的概率空间[X,P(y|x),Y]来描述。

5.离散无记忆信道的N次扩展信道

离散无记忆信道[X,P(b j|a i),Y]的N次扩展信道的数学模型是

[X N,P(βh|αk),Y N]

其中X N=X=(X1X2…X N),Y N=Y=(Y1Y2…Y N),

X i=X∈A={a1,a2,…,a r)(i=1,2,…,N),

Y i=Y∈B={b1,b2,…,b s)(i=1,2,…,N)

3.1.3 离散信道的平均互信息及其特性

1.信道疑义度

信道疑义度是在信道输出端接收到输出随机变量Y(或随机矢量Y)后,对输入端的随机变量X(或矢量X)尚存在的平均不确定性(尚存在的疑义)。它也表示信号通过信道传输后所引起的信息损失,故又称为损失熵。记为H(X|Y)(或H(X|Y),基本离散信道[X,P(y|x),Y]中

2.互信息

互信息是信道输出端接收到某消息y(或某消息序列y)后获得关于输入端某消息x(或某消息序列x)的信息量,记为I(x;y)[或I(x;y)],即

3.平均互信息

平均互信息是互信息在其概率空间中的数学期望,记为I(X;Y)(或I(X;Y)),得

4.平均互信息的物理含义及与各类熵的关系

(1)平均互信息与各类熵的关系

I(X;Y)=H(X) - H(X|Y)=H(Y) - H(Y|X)=H(X)+H(Y) - H(XY)

I(X;Y)=H(X) - H(X|Y)=H(Y) - H(Y|X)=H(X)+H(Y) - H(XY)

其中H(X)[或H(X)]是信道输入端信源的信息熵;H(Y)或[H(Y)]是信道输出端输出信源的信息熵;H(X|Y)[或H(X|Y)]是信道疑义度(损失熵);H(Y|X)[或H(Y|X)]是已知输入变量X(或矢量X)的条件下,对于随机变量Y(或矢量Y)尚存在的不确定义(疑义),称为噪声熵。

(2)平均互信息的物理含义

·平均互信息表示接收到输出信号的前、后关于输入信号的平均不确定性的消除。·平均互信息表示输入信号发出的前、后,关于输出信号的平均不确定性的消除。·平均互信息表示信道的输出信号和输入信号之间相互提供的平均信息量。

·平均互信息是输入信号和输出信号之间统计依赖关系的信息量度。

·平均互信息表示信道中平均每个符号所能传送的信息量,就是信道的信息传输率R。

5.平均互信息的特性

(1)非负性

I(X;Y)≥0 或I(X;Y)≥0

当且仅当X和Y(或X和Y)统计独立时,等式成立。

(2)极值性

I(X;Y)≤min[H(X),H(Y)] 或I(X;Y)≤min[H(X),H(Y)]

当且仅当H(X|Y)=0(或H(X|Y)=0)时

I(X;Y)=H(X) 或I(X;Y)=H(X)

当且仅当H(Y|X)=0(或H(Y|X)=0)时

I(X;Y)=H(Y) 或I(X;Y)=H(Y)

(3)交互性(对称性)

I(X;Y)=I(Y;X) 或I(X;Y)=I(Y;X)

(4)凸状性

I(X;Y)[或I(X;Y)]是输入信源的概率分布P(x)(P(x))的上凸函数;

I(X;Y)[或I(X;Y)]是信道传递概率P(y|x)(P(y|x))的下凸函数。

(5)不增性,即信息不增原理

任何不涉及原信源的数据处理,都不会增加获得关于原信源的平均互信息,也称数据处理定理。

·若离散随机变量X→Y→Z形成马氏链,则

I(X;Z)≤I(X;Y)

·若离散随机矢量S→X→Y→Z,形成马氏链,则

I(S;Z)≤I(X;Z)≤I(X;Y)

6.I(X;Y)与I(X i;Y i)的关系

I(X;Y)是两个离散随机矢量(随机序列)之间的平均互信息;而I(X i;Y i)是两序列中对应的离散随机变量之间的平均互信息。

若X=(X1X2…X N),Y=(Y1Y2…Y N)

其中X i∈A={a1,a2,…,a r},Y i∈B={b l,b2,…,a r}

且有x∈X,y∈Y,x i∈X i,y i∈Y i.

则:

3.1.4 多个随机变量之间的平均互信息

1.平均条件互信息

2.平均互信息

离散随机变量X与随机矢量YZ之间的平均互信息为

3.条件互信息与互信息的关系

I(X;YZ)=I(X;Y)+I(X;Z|Y)=I(X;Z)+I(X;Y|Z)

上述关系式易于推广到任意有限维的随机变量中。

3.1.5 离散信道的信道容量及其计算方法

1.离散信道的信道容量

离散无记忆信道[X,P(y|x),Y]的最大信息传输率称为此信道的信道容量,记为C,即

相应的输入概率分布P(x)称为最佳输入分布。其单位是比特/符号、奈特/符号或哈特/符号。

最佳输入分布不一定是唯一的,但最佳输出分布是唯一的。

它是单位时间内信道的最大信息传输速率。

2.信息容量的计算

3.计算信道容量的方法

(1)运用信道容量解的充要性

对于一些简单、特殊的信道,可先估算出P(a i)(或P(b j)),然后用定理3.3来验证并求解。

(2)运用特殊信道的容量公式求解

观察是否是特殊信道(无噪信道、无损信道、对称信道、准对称信道等),若是,就直接按照它们的容量公式来计算。

(3)运用r个方程求解

若信道矩阵P是非奇异矩阵,并r=s,可用下列r个方程求解

再由P(b j)求出最佳输入分布P(a i)。若上述公式中对数选取其他单位时,则公式应作相应改变。(必须解得的所有P(a i)≥0,其中i=1,2,…,r,否则解必在边界上,需重新计算。)

最后还可用迭代算法计算。

3.1.6 常见信道的平均互信息和信道容量

1.无噪一一对应信道(无噪无损信道)

I(X;Y)=H(X)=H(Y) ;C=log||A||

其中||A||表示输入变量X的符号集A中符号的个数。

2.有噪无损信道(H(X|Y)=0)

I(X;Y)=H(X)

3.无噪有损信道(H(Y|X)=0)

I(X;Y)=H(Y)

||B||表示输出变量Y的符号集B中符号的个数。

4.离散对称信道

I(X;Y)=H(Y) - H(P的行矢量) ;C=log||B|| - H(P的行矢量)

其中H(P的行矢量)表示信道矩阵P的行矢量的熵函数。

5.r元强对称信道

C=logr - plog(r - 1) - H(p) (p是总错误传递概率)

6.二元对称信道

3.1.7 无记忆N次扩展信道的I(X;Y)和容量C N

离散无记忆信道[X,P(b j|a i),Y]的N次扩展信道[X N,P(βh|αk),Y N]有I(X;Y)≤NI(X;Y);C N=NC

其中I(X;Y)和C是离散无记忆信道的互信息及信道容量。其最佳输入分布是信源X无记忆及每一分量X i各自达到最佳分布P(x)。

3.1.8 独立并联信道的互信息和信道容量

3.1.9 串接信道互信息及信道容量

3.1.10 信道剩余度

信道剩余度=C - I(X;Y)

信道相对剩余度=1 - I(X;Y)/C

对于无损、对称等一类信道,可通过无失真信源编码使信道剩余度接近于零,使信源和信道达到匹配。

计算机网络答案-山东大学期末考题目答案

计算机网络答案-山东大学期末考题目答案

第一章概述 1-3试从多个方面比较电路交换、报文交换和分组交换的主要优缺点。 答:1、电路交换电路交换是一种必须经过“建立连接-通话-释放链接”三个步骤的一条专用物理通路。从建立连接开始,通讯就一直占用信道资源,直到释放。它具有实施性强,时延小,交换设备成本低的优点。同时,其线路利用效率低,通信效率低,不同类型终端之间不可通讯。电路交换适用于信息量大,较长的报文。 2、报文交换报文交换本质上也是存储转发方式,但是它将整个报文从一个结点传到下一个。它的优点是中继电路利用率高,可以多个用户同时在一条线路上传送。缺点在于报文信息量大,时延长,且占用交换机内存较大,不具有实时性。它适用于报文较短,实时性较低的通讯。 3、分组交换分组交换是将报文分组,在每个分组之前加上地址信息,通过路由器经接收,存储,再转发到下一个接口,直到将分组传到目标地址,再去掉地址信息将其重组为完整报文。在分组传输的过程中动态分配传输宽带,逐

段占用通信链路,多个分组数可同时传送。它传输效率高,且保证数据传输有很高可靠性。同时分组排队会造成时延,但比报文交换小,且成本较高。 1-12 因特网的两大组成部分(边缘部分与核心部分)的特点是什么?他们的工作方式各有什么特点? 答:边缘部分由所有连接在因特网上的主机组成,由用户直接使用,进行通信和资源共享。核心部分,是由大量网络和连接这些网络的路由器组成,主要为边缘部分服务提供连通性和交换。边缘部分不同终端上的程序通信方式有客户-服务器方式和对等方式。客户-服务器方式指进行通讯的双方中一方为服务请求方,一方为服务提供方。客户向服务器发送远程服务请求,因此客户程序必须知道服务器程序地址,而服务器只需要被动接受请求,不需要知道客户程序地址,但需要强大硬件和高级操作系统支持。对等方式是双方均可既为服务提供者,也可以为服务请求

实验二 离散信道及其容量

实验二 离散信道及其容量 一、[实验目的] 1、理解离散信道容量的内涵; 2、掌握求二元对称信道(BSC )互信息量和容量的设计方法; 3、掌握二元扩展信道的设计方法并会求其平均互信息量。 二、[实验环境] windows XP,MATLAB 7 三、[实验原理] 若某信道输入的是N 维序列x ,其概率分布为q(x ),输出是N 维序列y ,则平均互信息量记为I(X ;Y ),该信道的信道容量C 定义为() max (X;Y)q x C I =。 四、[实验内容] 1、给定BSC 信道,信源概率空间为 信道矩阵 0.990.010.010.99P ??=???? 求该信道的I(X;Y)和容量,画出I(X;Y)和ω、C 和p 的关系曲线。 2 、编写一M 脚本文件t03.m ,实现如下功能: 在任意输入一信道矩阵P 后,能够判断是否离散对称信道,若是,求出信道容量C 。 3、已知X=(0,1,2);Y=(0,1,2,3),信源概率空间和信道矩阵分别为 求: 平均互信息量; 4、 对题(1)求其二次扩展信道的平均互信息I(X;Y)。 五、[实验过程 ] X P 0 1 0.6 0.4 = X Px 0 1 2 0.3 0.5 0.2 = 0.1 0.3 0 0.6 0.3 0.5 0.2 0 0.1 0.7 0.1 0.1 P=

每个实验项目包括:1)设计思路2)实验中出现的问题及解决方法; 1)设计思路 1、信道容量( ) max (X; Y) q x C = I ,因此要求给定信道的信道容量,只要知道该信道 的最大互信息量,即求信道容量就是求信道互信息量的过程。 程序代码: clear all,clc; w=0.6; w1=1-w; p=0.01; X P 01 = 0.6 0.4 p1=1-p; save data1 p p1; I_XY=(w*p1+w1*p)*log2(1/(w*p1+w1*p))+(w*p+w1*p1)*log2(1/(w*p+w1*p1))- ... (p*log2(1/p)+p1*log2(1/p1)); C=1-(p*log2(1/p)+p1*log2(1/p1)); fprintf('互信息量:%6.3f\n信道容量:%6.3f',I_XY,C); p=eps:0.001:1-eps; p1=1-p; C=1-(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,1),plot(p,C),xlabel('p'),ylabel('C'); load data1; w=eps:0.001:1-eps; w1=1-w; I_XY=(w.*p1+w1.*p).*log2(1./(w.*p1+w1.*p))+(w.*p+w1.*p1).*log2(1./(w.*p+w1.*p1))- . . .(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,2),plot(w,I_XY) xlabel('w'),ylabel('I_XY'); 实验结果:

实验二 离散信道及其容量

实验二离散信道及其容量 一、[实验目的] 1、理解离散信道容量的内涵; 2、掌握求二元对称信道(BSC)互信息量和容量的设计方法; 3、掌握二元扩展信道的设计方法并会求其平均互信息量。 二、[实验环境] windows XP,MATLAB 7 三、[实验原理] 若某信道输入的是N 维序列x ,其概率分布为q(x ),输出是N 维序列y ,则平均互信息量记为I(X ;Y ),该信道的信道容量C 定义为() max (X;Y)q x C I =。四、[实验内容] 1、给定BSC 信道,信源概率空间为 信道矩阵0.990.010.010.99P ??=???? 求该信道的I(X;Y)和容量,画出I(X;Y)和ω、C 和p 的关系曲线。 2、编写一M 脚本文件t03.m,实现如下功能: 在任意输入一信道矩阵P 后,能够判断是否离散输出对称信道。 3、对题1求其二次扩展信道的平均互信息I(X;Y)。 五、[实验过程] 每个实验项目包括: 1)设计思路 1、信道容量 ()max (X;Y)q x C I =,因此要求给定信道的信道容量,只要知道该信道的最大互信息量,即求信道容量就是求信道互信息量的过程。 程序代码: clear all,clc; w=0.6; w1=1-w; p=0.01;X P 0 10.60.4 =

p1=1-p; save data1p p1; I_XY=(w*p1+w1*p)*log2(1/(w*p1+w1*p))+(w*p+w1*p1)*log2(1/(w*p+w1*p1))-... (p*log2(1/p)+p1*log2(1/p1)); C=1-(p*log2(1/p)+p1*log2(1/p1)); fprintf('互信息量:%6.3f\n信道容量:%6.3f',I_XY,C); p=eps:0.001:1-eps; p1=1-p; C=1-(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,1),plot(p,C),xlabel('p'),ylabel('C'); load data1; w=eps:0.001:1-eps; w1=1-w; I_XY=(w.*p1+w1.*p).*log2(1./(w.*p1+w1.*p))+(w.*p+w1.*p1).*log2(1./(w.*p+w1.*p1))-.. .(p.*log2(1./p)+p1.*log2(1./p1)); subplot(1,2,2),plot(w,I_XY) xlabel('w'),ylabel('I_XY'); 实验结果: 互信息量:0.891 信道容量:0.919 I(X;Y)和ω、C和p的关系曲线图: C X 2、离散对称信道:当离散准对称信道划分的子集只有一个时,信道关于输入和输出对称。 离散准对称信道:若一个离散无记忆信道的信道矩阵中,按照信道的输出集Y 可以将信道划分成n个子集,每个子矩阵中的每一行都是其他行同一组元素的不同排列。

信息论与编码复习题

一、填空题 1.设信源X 包含4个不同离散消息,当且仅当X 中各个消息出现的概率为___Pi=1/4___时,信源熵达到最大值,为__2bit_,此时各个消息的自信息量为____2bit_______。 2.如某线性分组码的最小汉明距dmin=4,则该码最多能检测出___3_____个随机错,最多能 纠正___INT__个随机错。 3.克劳夫特不等式是唯一可译码___存在___的充要条件。 4.平均互信息量I(X;Y)与信源熵和条件熵之间的关系是_I (X :Y )=H (X )-H (X/Y ) 5.__信源__编码的目的是提高通信的有效性,_信道_编码的目的是提高通信的可靠性,__ 加密__编码的目的是保证通信的安全性。 6.信源编码的目的是提高通信的 有效性 ,信道编码的目的是提高通信的 可靠性 ,加密 编码的目的是保证通信的 安全性 。 7.设信源X 包含8个不同离散消息,当且仅当X 中各个消息出现的概率为__1/8_____时,信 源熵达到最大值,为___3bit/符号_________。 8.自信息量表征信源中各个符号的不确定度,信源符号的概率越大,其自信息量越__小____。 9.信源的冗余度来自两个方面,一是信源符号之间的_相关性__,二是信源符号分布的 __不均匀性___。 10.最大后验概率译码指的是 译码器要在已知r 的条件下找到可能性最大的发码Ci 作为移 码估值 。 11.常用的检纠错方法有__前向纠错__、反馈重发和混合纠错三种。 二、单项选择题 1.下面表达式中正确的是( A )。 A. ∑=j i j x y p 1)/( B.∑=i i j x y p 1)/( C.∑=j j j i y y x p )(),(ω D.∑=i i j i x q y x p )(),( 2.彩色电视显像管的屏幕上有5×105 个像元,设每个像元有64种彩色度,每种彩度又有 16种不同的亮度层次,如果所有的彩色品种和亮度层次的组合均以等概率出现,并且各个 组合之间相互独立。每秒传送25帧图像所需要的信道容量( C )。 A. 50106 B. 75106 C. 125106 D. 250106

一般离散无记忆信道容量的迭代计算

一般离散无记忆信道容量的迭代计算 信道容量的迭代算法 1信道容量的迭代算法的步骤 一、用了matlab 实现DMC 容量迭代的算法如下: 第一步:首先要初始化信源分布: .0deta 10,1,0,1)(>>=?==,选置,,k r i r P k i 即选取一个精度,本次中我选deta=0.000001。 第二步:}{,) ()()()(k ij i ji k i ji k i k ij t p p p p t 得到反向转移概率矩阵根据式子∑=。 第三步: 第四步: 第五步: 若a C C C k k k det )1() ()1(>-++,则执行k=k+1,然后转第二步。直至转移条件不成立, 接着执行下面的程序。 第六步:输出迭代次数k 和()1+k C 和1+k P ,程序终止。 2. Matlab 实现 clear; r=input('输入信源个数:'); s=input('输入信宿个数:'); deta=input('输入信道容量的精度: '); ()()()()(){}111]log exp[] log exp[+++==∑∑∑k i k i j ij k ji j ij k ji k i p P t p t p p 计算由式()()()()()()。C t p t P I C k r i s j k ij ji k k k 10011log exp log ,+==++????????????????==∑∑计算由式

Q=rand(r,s); %形成r行s列随机矩阵Q A=sum(Q,2); %把Q矩阵每一行相加和作为一个列矩阵A B=repmat(A,1,s); %把矩阵A的那一列复制为S列的新矩阵 %判断信道转移概率矩阵输入是否正确 P=input('输入信道转移矩阵P:')%从这句话开始将用下面两句代替可自动生成信道转移矩阵 [r,s]=size(P); for i=1:r if(sum(P(i,:))~=1) %检测概率转移矩阵是否行和为1. error('概率转移矩阵输入有误!!') return; end for j=1:s if(P(i,j)<0||P(i,j)>1) %检测概率转移矩阵是否负值或大于1 error('概率转移矩阵输入有误!!') return; end end end %将上面的用下面两句代替可自动生成信道转移矩阵 %disp('信道转移概率矩阵:') %P=Q./B 信道转移概率矩阵(每一个原矩阵的新数除以所在行的数总和) i=1:1:r; %设置循环首项为1,公差为1,末项为r(Q的行数)的循环 p(i)=1/r; %原始信源分布r个信源,等概率分布 disp('原始信源分布:')

信息论与编码复习题,德州学院

一、填空 1. 信息论基础主要研究信息的测度、 信道容量 、 信源和信道编码理论 等问题。 2. 必然事件的自信息量是0,不可能事件的自信息量是无穷大。 3. 若把掷骰子的结果作为一离散信源,则信源熵为 2log 。 4. 当事件i x 和j y 彼此之间相互独立时,平均互信息量为 0 。 5. 若二维平稳信源的信源熵为3bit/sign ,则其平均符号熵为1.5bit/sign 。 6. 信源熵H(X)表示信源输出后每个消息所提供的 平均信息量 。 7. 布袋中有红白球各50只,若从中随意取出一只球,则判断其颜色所需的信息量为 1bit 。 8. 单符号离散信源是用随机变量来描述的,则多符号离散信源用随机矢量来描述。 9. 平均互信息量与信息熵、联合熵的关系是I(X;Y)=H(X)+H(Y)-H(XY) 。 10. 条件熵H (x|y )和无条件熵H (X )的关系是小于等于。 11. 对于理想信道,H (x|y )等于0 ;I (x ;y )= H (X )。 12. 若YZ 统计独立,则H (YZ )和H (Y )、H (Z )之间的关系是H (YZ )=H (Y )+H (Z ) 。 13. 对某含有7个消息的信源,其熵的最大值为2log 7,对应为等概分布分布。 14. 对某含有8个消息的信源,其熵的最大值为2log 8,对应为等概分布。 15. 对某含有6个消息的信源,其熵的最大值为2log 6,对应为等概分布。 16. 对某含有9个消息的信源,其熵的最大值为2log 9,对应为等概分布。 17. 十六进制脉冲所含的信息量是四进制脉冲的2 倍。 18. 八进制脉冲所含的信息量是二进制脉冲的3倍。 19. 十六进制脉冲所含的信息量是二进制脉冲的 4倍。 20. 离散平稳无记忆信源的N 次扩展信源的熵等于离散信源熵的N 倍。 21. 离散信源的熵越小,则该信源消息之间的平均不确定性越弱。 22. 对于r 进制树图,n 级节点的个数一般为n r 。 23. 信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号,而与非对应时刻的输入符号及其它任何 时刻的输出符号无关,这种信道称之为 有干扰无记忆信道 。 24. 对于某一信源和某一符号集来说,若有一个唯一可译码,其平均码长小于所有其它唯一可译码的平均 码长,则称该码为紧致码或最佳码 。 25. 分组码是前向纠错码 ,它可以在无需重新发射的情况下检测出有限个错码,并加以纠正。 26. 信源编码的目的是提高通信的有效性。 27. 对于香农编码和哈夫曼编码,编码方法唯一的是香农编码 。 28. 若纠错码的最小距离为dmin,则可以纠错任意小于等于(dmin-1)/2个差错。 29. 线性分组码是同时具有线性特性和分组特性的纠错码。 30. 道的输出仅与当前输入有关,而与过去无关的信道称无记忆信道。 31. 唯一可译码存在的充要条件是 1 1i n k i m -=≤∑ 。 32. 编码分为信源编码和信道编码两种。 33. 信道无失真传输信息的条件是信息传输速率小于信道容量。 34. 对称信道中,信源的最佳分布为等概分布。 35. 信源编码和信道编码的最大区别在于信源编码需减少信源的冗余度,而信道编码需增加信源的冗余。 36. 信道编码的目的是提高通信的可靠性。 37. 离散信源分为离散无记忆信源 和 离散有记忆信源。

信息论与编码期末考试题(全套)..

于信源爛H(X). () 2.由于构成同一空间的基底不是唯一的,所以不同的基底或生成矩阵有可能生成同一码集. () 3.—般情况下,用变长编码得到的平均码长比定长编码 大得多. () 4.只要信息传输率大于信道容量,总存在一种信道编译 码,可以以所要求的任意小的误差概率实现可靠的通信 . () 5.务码字的长度符合克拉夫特不等式,是唯一可译码存在的充分和必要条件.() &连续信源和离散信源的爛都具有非负性. () 7.信源的消息通过信道传输后的误差或失真越大,信宿收到消息后对信源存在的不确 定性就越小,获得的信息戢就越小. 8.汉明码是一种线性分组码. () 9.率失真函数的最小值是0 . () 10.必然事件和不可能事件的自信息量都是0 . () 二、填空题共6小题,满分20分. 1 、码的检、纠错能力取决 于______________________________ . 2、___________________________________ 信源编码的目的是:信道编码 的目的是____________________ . 3、把信息组原封不动地搬到码字前k位的(仏灯码就叫 做___________________ ? 4、香农信息论中的三大极限建理 是____________________ 、 ____________________ 、■ 5、耳信道的输入与输出随机序列分别为X和Y ,则 KX\Y N)=NI(X,Y)成立的 条件______________________________ ? 6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码, 编码方法惟一的是 O ",则该信源的Dmax= ________ a 0 三、本题共4小题,满分50分. K某信源发送端有2种符号x,i = 1,2), /心)=a:接收端 有3种符号y r. () = 123),转移概率矩阵为 1/2 1/2 0 P = ? 1/2 1/4 1/4. (1)计算接收端的平均不确定 度 (2)计算由于噪声产生的不确 定度H(rix): (3)计算信道容量以及最佳入 口分布. 2、一阶马尔可夫信源的状态转移 (1) 求信源平稳后的概率分布: (2) 求此信源的燔: (3) 近似地认为此信源为无记忆时,符号的概率分布为 稳分布?求近似信源的爛H(X)并与Hs进行比较. 4、设二元(7,4)线性分组码的生成矩阵为0 0 0 10 0 0 1 0 0 0 1 (1)给岀该码的一致校验矩阵,写出 所有的陪集首和与之相对应的伴随式: (2)若接收矢gv = (0001011),试讣 算出其对应的伴 随式S并按照最小距离译码准则试着对其译码. (二) 一、填空题(共15分,每空1分) 一、判断题共10小J满分20分. 1.当随机变量X和丫相互独立时,条件爛H(XI Y)等 7、某二元信源[爲冷打加其失真矩阵 图如右图所示, 信源X的符号集为{0丄2}? 1 1 0 1 G = 1 1 0 1 1 0 1 0 1 0

山东大学期末考试知识点复习

第七章新闻图片编辑 【知识框架】 【重点难点归纳】 一、新闻图片的种类及其地位 1.报纸上常见的图片种类 (1)照片 新闻照片就是以新闻事件、新闻人物为拍摄对象,再现新闻现场情景的照片,它可以作为独立的新闻报道出现在版面上,也可以配合文字报道一同编发。 (2)漫画 漫画在现代报纸上的使用非常广泛,有根据新闻事实进行艺术加工的新闻漫画,时效性较强,经常刊登在新闻版上;也有反映社会生活现象的社会性漫画,通常刊登在专刊副刊上;还有用来配合文字报道的图解式漫画以及连环漫画、幽默画等。 (3)图示 图示包括统计图表、示意图和新闻地图三类。 统计图表就是将统计数字制成表格图,便于读者集中阅读,一目了然。

示意图不但将统计数字集中绘制成图,而且用形象化的手法表示这些数据所说明的意义。 新闻地图则是根据标准地图,将新闻发生地的地理位置绘制成更加简洁明确的地图。 (4)图饰 图饰一般是用美术图案点缀和烘托报纸的报头、报眉、标题、栏题、版头或版面的其他部位,使整个版面更加美观生动,恰当地运用图饰还能使版面编排思想得到更加充分的体现。 2.图片的地位与作用 (1)纪实性作用 作为独立报道体裁的新闻照片具有再现新闻现场、记载真实瞬间的作用,这类照片成为报纸上不可或缺的重要组成部分。 (2)证实性作用 非独立使用的新闻照片与非新闻照片具有证实文字报道的作用,这类照片对新闻资源的充分发掘,对提高新闻报道的可信度具有重要意义。 (3)解说性作用 图表、示意图、新闻地图、漫画等能够以形象性的符号统计和描绘新闻报道中的某些内容,从而对相对比较枯燥的文字表述进行生动易懂的解释。 (4)装饰性作用 图片的形象性特征使其可以作为文字稿件的美化装饰手段。 (5)视觉冲击性作用 图片的形象性和直观性能够产生强烈的视觉冲击效果,产生巨大的吸引力与震撼力,这是文字报道所难以达到的。

计算机网络答案 山东大学期末考题目答案

第一章概述 1-3试从多个方面比较电路交换、报文交换和分组交换的主要优缺点。 答:1、电路交换电路交换是一种必须经过“建立连接-通话-释放链接”三个步骤的一条专用物理通路。从建立连接开始,通讯就一直占用信道资源,直到释放。它具有实施性强,时延小,交换设备成本低的优点。同时,其线路利用效率低,通信效率低,不同类型终端之间不可通讯。电路交换适用于信息量大,较长的报文。 2、报文交换报文交换本质上也是存储转发方式,但是它将整个报文从一个结点传到下一个。它的优点是中继电路利用率高,可以多个用户同时在一条线路上传送。缺点在于报文信息量大,时延长,且占用交换机内存较大,不具有实时性。它适用于报文较短,实时性较低的通讯。 3、分组交换分组交换是将报文分组,在每个分组之前加上地址信息,通过路由器经接收,存储,再转发到下一个接口,直到将分组传到目标地址,再去掉地址信息将其重组为完整报文。在分组传输的过程中动态分配传输宽带,逐段占用通信链路,多个分组数可同时传送。它传输效率高,且保证数据传输有很高可靠性。同时分组排队会造成时延,但比报文交换小,且成本较高。 1-12 因特网的两大组成部分(边缘部分与核心部分)的特点是什么?他们的工作方式各有什么特点? 答:边缘部分由所有连接在因特网上的主机组成,由用户直接使用,进行通信和资源共享。核心部分,是由大量网络和连接这些网络的路由器组成,主要为边缘部分服务提供连通性和交换。边缘部分不同终端上的程序通信方式有客户-服务器方式和对等方式。客户-服务器方式指进行通讯的双方中一方为服务请求方,一方为服务提供方。客户向服务器发送远程服务请求,因此客户程序必须知道服务器程序地址,而服务器只需要被动接受请求,不需要知道客户程序地址,但需要强大硬件和高级操作系统支持。对等方式是双方均可既为服务提供者,也可以为服务请求者。 网络核心部分要想网络边缘部分提供连通性和交换,起关键作用的是路由器,其任务是转发收到的分组,使得边缘部分的每一个终端都能够向其他主机通信。 1-14 计算机网络有哪些常用的性能指标? 答:1、速率:连结在计算机网络上的主机在数字信道上传送数据的速率,单位为b/s(其中 b 为bit,表示一个二进制数字,比特是计算机中数据量的单位) 2、带宽:带宽本来指的是某个信号具有的频带宽度,单位为赫;由于通信的主干线传送的是模拟信号,所以,带宽表示通信线路允许通过的信号频带范围,表示在单位时间内,从网络中的某一点到另一点所能通过的“最高数据率”,单位是比特每秒。 3、吞吐量:表示单位时间内通过某个网络口的数据量,经常用于对现实世界中的网络的一种测量,以便知道实际上到底有多少数据量能通过网络 4、时延:时延指数据从网络的一段传送到另一端所需要的时间。有以下几个部分组成:(1)发送时延从主机发送数据帧的第一个比特算起,到该帧的最后一个比特发送完毕所需要的

信道容量及其一般计算方法

实验一信道容量及其一般计算方法 1.实验目的 一般离散信道容量的迭代运算 2.实验要求 (1)理解和掌握信道容量的概念和物理意义 (2)理解一般离散信道容量的迭代算法 (3)采用Matlab编程实现迭代算法 (4)认真填写实验报告。 3.源代码 clc;clear all; //清屏 N = input('输入信源符号X的个数N='); //输入行数 M = input('输出信源符号Y的个数M='); //输入列数 p_yx=zeros(N,M); //程序设计需要信道矩阵初始化为零 fprintf('输入信道矩阵概率\n') for i=1:N //从第一行第一列开始输入 for j=1:M p_yx(i,j)=input('p_yx='); //输入信道矩阵概率 if p_yx(i)<0 //若输出概率小于0则不符合概率分布 error('不符合概率分布') end end end for i=1:N //各行概率累加求和 s(i)=0; for j=1:M s(i)=s(i)+p_yx(i,j); end end for i=1:N //判断是否符合概率分布 if (s(i)<=0.999999||s(i)>=1.000001) //若行相加小于等于0.9999999或者大于等于1.000001 Error //('不符合概率分布') end end b=input('输入迭代精度:'); //输入迭代精度 for i=1:N p(i)=1.0/N; //取初始概率为均匀分布(每行值分别为1/N,)end for j=1:M //计算q(j) q(j)=0; for i=1:N q(j)=q(j)+p(i)*p_yx(i,j); //均匀分布的值乘上矩阵值后+q(j),然后赋值给q(j)实现求和

信息论与编码期末考试题----学生复习用

《信息论基础》参考答案 一、填空题 1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。 2、信源的剩余度主要来自两个方面,一是信源符号间的相关性,二是信源符号的统计不均匀性。 3、三进制信源的最小熵为0,最大熵为32log bit/符号。 4、无失真信源编码的平均码长最小理论极限制为信源熵(或H(S)/logr= H r (S))。 5、当R=C 或(信道剩余度为0)时,信源与信道达到匹配。 6、根据信道特性是否随时间变化,信道可以分为恒参信道和随参信道。 7、根据是否允许失真,信源编码可分为无失真信源编码和限失真信源编码。 8、若连续信源输出信号的平均功率为2σ,则输出信号幅度的概率密度是高斯分布或正态分布或()22 212x f x e σπσ -= 时,信源 具有最大熵,其值为值21 log 22 e πσ。 9、在下面空格中选择填入数学符号“,,,=≥≤?”或“?” (1)当X 和Y 相互独立时,H (XY )=H(X)+H(X/Y)=H(Y)+H(X)。 (2)()() 1222H X X H X =≥()()12333 H X X X H X = (3)假设信道输入用X 表示,信道输出用Y 表示。在无噪有损信道中,H(X/Y)> 0, H(Y/X)=0,I(X;Y)

山东大学网络教育期末考试试题及答案-生理学B

生理学 B 一、单项选择题 1.引起组织发生反应的环境变化称为 A.刺激 B.反射 C.反馈 D.兴奋 2.寒冷引起甲状腺激素分泌增多,是属于 A.神经调节 B.体液调节 C.局部调节 D. 自身调节 3.心室肌收缩期及舒张早期相当于兴奋性的 A.低常期 B.相对不应期 C.有效不应期 D. 超常期 4.肾上腺素对受体的结合力是 A.都很强 B.对α强,弱 C.对β强,α弱 D.只对α 5.使细胞去极化达阈电位的刺激是 A.阈刺激 B.刺激阈 C.阈下刺激 D.阈强度 6.细胞膜主动转运的特点是 A.转运脂溶性物质 B.耗能 C.靠通道协同 D.顺电-化学梯度7.细胞膜内外存在的电位差通称为 A.动作电位 B.静息电位 C.跨膜电位 D. 局部电位 8.房室瓣关闭与动脉瓣开放间的时间相当 A.快速射血期 B.射血期 C.室缩期 D. 心室等容收缩期 9.下列哪种情况可使心输出量增加 A.刺激迷走神经 B.由卧位转为站立位 C.心率>180次 D. 颈动脉窦内压降低 10.静脉回心血量增多时,可引起 A.心室后负荷减少 B.心室舒张期延长 C. 心室前负荷增加 D.充盈期缩短 11.血浆pH值主要通过下列哪条途径维持的? A.血液B.消化道C.肾D.皮肤 12.呼吸频率从12次/分增加到24次/分,潮气量从500ml减少到250ml,则: A.肺通气量增加B.肺泡通气量增加 C.肺泡通气量不变D.肺泡通气量减少 13.在下列哪一时相中,肺内压等于大气压? A.吸气和呼气初B.吸气末和呼气初 C.呼气初和呼气末D.呼气末和吸气末 14.使胰蛋白酶原活化的最主要的物质是: A.盐酸B.组织液C.肠致活D.糜蛋白酶 15.促胰液素能促进胰腺分泌的特点是: A.大量的水分和碳酸氢盐,而胰酶含量很少 B.少量的水分和碳酸氢盐,而胰酶含量也很少 C.少量的水分和碳酸氢盐,而胰酶含量很丰富 D.大量的水分,而碳酸氢盐和胰酶含量很少 16.滤过分数是指: A.肾血流量/ 心输出量B.肾血浆流量/ 肾血流量 C.肾血流量/ 肾血浆流量D.肾小球滤过率/ 肾血浆流量

离散信道容量迭代实现

中文摘要 信道是信息传递的通道,承担信息的传输和储存的任务,是构成通信系统的重要组成部分。信道容量是指信道能够传输信息量的大小。信道容量的研究在现实中有着非常重要的理论意义。而信道容量的计算是一个比较复杂的问题,所以我们要借助于数学软件Matlab来解决这个难题。 本文的第一部分从信道容量的基本概念、基本原理、信道模型及分类等方面系统的介绍了信道容量。并在此基础上,介绍了一般信道容量的计算步骤。 本文的第二部分开始介绍信道容量的迭代算法及迭代算法在Matlab中的实现,举例检验迭代算法在Matlab中实现的程序的可行性 关键词信道容量 Matlab 迭代算法

Abstract Channel is a channel of information transmission. And it take on the task of information transmission and storage. Channel is an important part of communication system. Channel capacity is the size of the amount of information can be transmitted. It has important significances in reality. However, calculating the channel capacity is a complex issue. So we must use the mathematical software Matlab to solve this problem. The first part of the article, it introduces channel capacity by the basic concepts, principles and the classification of channel models. On this basis, introduce and discuss the calculation steps of the general channel capacity. The second part of the article, it introduces the Iterative algorithm of the channel capacity and implementes the iterative algorithm in Matlab. After that, by realizing the feasibility of the procedure, we make some examples. And also analyze the procedure. Key word :channel capacity、matlab

山东大学管理信息系统期末考试题及答案

简答题 1、简答关键成功因素法(CSF)P263 答:1970年哈佛大学教授关在MIS模型中用了关键成功变量,这些变量是确定MIS成败的因素。它包含以下几个步骤:(1)了解企业目标;(2)识别关键成功因素;(3)识别性能指标和标准;(4)识别测量性能的数据。可见关键成功因素法源自企业目标,通过目标分解和识别、关键成功因素识别、性能指标识别,一直到产生数据字典。 2系统开发可行性分析 答: (1)目标和方案的可行性 (2)技术方面的可行性 (3)经济方面的可行性 (4)社会方面的可行性 一个有效的战略规划可以使信息系统和用户有较好的关系,可以做到信息资源的合理分配和使用,从而可以节省信息系统的投资。 3、管理信息系统为什么要进行战略规划 答:管理信息系统的战略规划是关于管理信息系统的长远发展的计划,是企业战略规划的一个重要部分。这不仅由于管理信息系统的建设是一项耗资巨大、历时很长、技术复杂且又内外交叉的工程,更因为信息已成为企业的生命线,信息系统和企业的运营方式、文化习惯息息相关。一个有效的战略规划可以使信息系统和用户有较好的关系,可以做到信息资源的合理分配和使用,从而可以节省信息系统的投资。 4、叙述管理信息系统代码设计中编码的目的 在系统开发过程中设计代码的目的是: 唯一化(2)规范化(3)系统化 5、简答BPR的三个关键词(根本的、彻底的和巨大的)的实质。 简答关键成功因素法(CSF)P263 答:1970年哈佛大学教授关在MIS模型中用了关键成功变量,这些变量是确定MIS成败的因素。它包含以下几个步骤:(1)了解企业目标;(2)识别关键成功因素;(3)识别性能指标和标准;(4)识别测量性能的数据。可见关键成功因素法源自企业目标,通过目标分解和识别、关键成功因素识别、性能指标识别,一直到产生数据字典。 分析题 1、比较分析MRP、MRPII和ERP的异同,谈谈你自己的一些认识

信息论与编码试题集概要

1. 在无失真的信源中,信源输出由 H (X ) 来度量;在有失真的信源中,信源输出由 R (D ) 来度量。 2. 要使通信系统做到传输信息有效、可靠和保密,必须首先 信源 编码, 然后_____加密____编码,再______信道_____编码,最后送入信道。 3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式,也就是有名的香农公式是log(1)C W SNR =+;当归一化信道容量C/W 趋近于零时,也即信道完全丧失了通信能力,此时E b /N 0为 -1.6 dB ,我们将它称作香农限,是一切编码方式所能达到的理论极限。 4. 保密系统的密钥量越小,密钥熵H (K )就越 小 ,其密文中含有的关于明文的信息量I (M ;C )就越 大 。 5. 设输入符号表为X ={0,1},输出符号表为Y ={0,1}。输入信号的概率分布为p =(1/2,1/2),失真函数为d (0,0) = d (1,1) = 0,d (0,1) =2,d (1,0) = 1,则D min = 0 ,R (D min )= 1bit/symbol ,相应的编码器转移概率矩阵[p(y/x )]=1001?? ???? ;D max = 0.5 ,R (D max )= 0 ,相应的编码器转移概率矩阵[p(y/x )]=1010?? ???? 。 二、判断题 1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 (√ ) 2. 线性码一定包含全零码。 (√ ) 3. 算术编码是一种无失真的分组信源编码,其基本思想是将一定精度数值作为序列的 编码,是以另外一种形式实现的最佳统计匹配编码。 (×) 4. 某一信源,不管它是否输出符号,只要这些符号具有某些概率特性,就有信息量。 (×) 5. 离散平稳有记忆信源符号序列的平均符号熵随着序列长度L 的增大而增大。 (×) 6. 限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X ,当它是正态分布时具 有最大熵。 (√ ) 7. 循环码的码集中的任何一个码字的循环移位仍是码字。 (√ ) 8. 信道容量是信道中能够传输的最小信息量。 (×) 9. 香农信源编码方法在进行编码时不需要预先计算每个码字的长度。 (×) 10. 在已知收码R 的条件下找出可能性最大的发码i C 作为译码估计值,这种译码方 法叫做最佳译码。 (√ ) 三、计算题 某系统(7,4)码 )()(01201230123456c c c m m m m c c c c c c c ==c 其三位校验 位与信息位的关系为:

最新山东大学离散数学期末试题答案

数学建模作业 姓名:王士彬 学院:计算机科学与技术 班级:2014级计科2班 学号:201400130070

1.在区域x∈[-2,2],y∈[-2,3]内绘制函数z=exp^(-x2-y2)曲面图及等值线图。解: 曲面图如下: >> x=-2:0.5:2; >> y=-2:0.5:3; >> [X,Y]=meshgrid(x,y); >> Z=exp(-X.^2-``Y.^2); >> mesh(X,Y,Z) >> 等值线图如下: >> x=-2:0.5:2; >> y=-2:0.5:3; >> [X,Y]=meshgrid(x,y); >> Z=exp(-X.^2-Y.^2); >> mesh(X,Y,Z) >> surf(X,Y,Z)

>> surf(X,Y,Z) >> contour(X,Y,Z) >> 2.已知一组观测数据,如表1所示. (1)试用差值方法绘制出x ∈[-2,4.9]区间内的光滑曲线,并比较各种差值算法的优劣. (2)试用最小二乘多项式拟合的方法拟合表中的数据,选择一个能较好拟合数据点的多项式的阶次,给出相应多项式的系数和偏差平方和. (3)若表中数据满足正态分布函数222/)(21)(σμπσ --=x e x y .试用最小二乘非线性拟合的方法求出分布参数σμ,值,并利用锁求参数值绘制拟合曲线,观察拟合效果. 解:(1)分别用最领近插值,分段线性插值(缺省值),分段三次样条插值,保形分段三次插值方法绘制在x ∈[-2,4.9]的光滑曲线,图形如下: 样条插值效果最好,其次线性插值,最近点插值效果最差,在这里效果好像不太明显。 最近点插值优点就是速度快,线性插值速度稍微慢一点,但效果好不少。所以线性插值是个不错的折中方法。样条插值,它的目的是试图让插值的曲线显得更平滑,为了这个目的,它们不得不利用到周围若干范围内的点,不过计算显然要比前两种大许多。 MATLAB 文件如下:

信息论与编码理论习题答案全解

信息论与编码理论习题答案全解

第二章 信息量和熵 2.2 八元编码系统,码长为3,第一个符号用于同步,每秒1000个码字,求它的 信息速率。 解:同步信息均相同,不含信息,因此 每个码字的信息量为 2?8log =2?3=6 bit 因此,信息速率为 6?1000=6000 bit/s 2.3 掷一对无偏骰子,告诉你得到的总的点数为:(a) 7; (b) 12。问各得到多少 信息量。 解:(1) 可能的组合为 {1,6},{2,5},{3,4},{4,3},{5,2},{6,1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log =2.585 bit (2) 可能的唯一,为 {6,6} )(b p =361 得到的信息量=) (1 log b p =36log =5.17 bit 2.4 经过充分洗牌后的一副扑克(52张),问: (a) 任何一种特定的排列所给出的信息量是多少? (b) 若从中抽取13张牌,所给出的点数都不相同时得到多少信息量? 解:(a) )(a p =! 521 信息量=) (1 log a p =!52log =225.58 bit (b) ???????花色任选 种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C =13.208 bit

2.9 随机掷3颗骰子,X 表示第一颗骰子的结果,Y 表示第一和第二颗骰子的 点数之和,Z 表示3颗骰子的点数之和,试求)|(Y Z H 、)|(Y X H 、 ),|(Y X Z H 、)|,(Y Z X H 、)|(X Z H 。 解:令第一第二第三颗骰子的结果分别为321,,x x x ,1x ,2x ,3x 相互独立, 则1x X =,21x x Y +=,321x x x Z ++= )|(Y Z H =)(3x H =log 6=2.585 bit )|(X Z H =)(32x x H +=)(Y H =2?( 361log 36+362log 18+363log 12+364log 9+365log 536)+36 6 log 6 =3.2744 bit )|(Y X H =)(X H -);(Y X I =)(X H -[)(Y H -)|(X Y H ] 而)|(X Y H =)(X H ,所以)|(Y X H = 2)(X H -)(Y H =1.8955 bit 或)|(Y X H =)(XY H -)(Y H =)(X H +)|(X Y H -)(Y H 而)|(X Y H =)(X H ,所以)|(Y X H =2)(X H -)(Y H =1.8955 bit ),|(Y X Z H =)|(Y Z H =)(X H =2.585 bit )|,(Y Z X H =)|(Y X H +)|(XY Z H =1.8955+2.585=4.4805 bit 2.10 设一个系统传送10个数字,0,1,…,9。奇数在传送过程中以0.5的概 率错成另外一个奇数,其余正确接收,求收到一个数字平均得到的信息量。 解: 信道 X Y 9,7,5,3,1=i 8,6,4,2,0=i √Χ );(Y X I =)(Y H -)|(X Y H 因为输入等概,由信道条件可知,

相关文档
相关文档 最新文档