信息论与编码考试题一
系名____________班级____________姓名____________学号____________
密封线内不答题
成都信息工程学院考试试卷
2008——2009学年 第一学期
课程名称：信息论与编码 使用班级：电子工程系05级信处1-4班
试卷形式：开卷□闭卷□
常用对数：2log 3 1.585=
一、 选择题（共10分，每小题2分）
1、有一离散无记忆信源X ，其概率空间为?
?????=??????125.0125.025.05.04321x x x x
P X ，则其无记忆二次扩展信源的熵H(X 2)=( )
A 、1.75比特/符号；
B 、3.5比特/符号；
C 、9比特/符号；
D 、18比特/符号。
2、信道转移矩阵为112132425363(/)(/)
000000(/)(/)000000(/)(/)P y x P y x P y x P y x P y x P y x ??????????
，其中(/)
j i P y x 两两不相等，则该信道为
A 、一一对应的无噪信道
B 、具有并归性能的无噪信道
C 、对称信道
D 、具有扩展性能的无噪信道
3、设信道容量为C ，下列说法正确的是：（ ）
A 、互信息量一定不大于C
B 、交互熵一定不小于
C C 、有效信息量一定不大于C
D 、条件熵一定不大于C
4、在串联系统中，有效信息量的值（ ）
A 、趋于变大
B 、趋于变小
C 、不变
D 、不确定
5、若BSC 信道的差错率为P ，则其信道容量为：（ ） A 、
()
H p
B 、
()12log 1p
p
p p -??-??
???? C 、
()
1H p -
D 、log()P P -
二、填空题（20分，每空2分）
1、(7,4)线性分组码中，接受端收到分组R 的位数为____ ，伴随式S 可能的值有____ 种,差错图案e 的长度为 ，系统生成矩阵G s 为____ 行的矩阵，系统校验矩阵H s 为____ 行的矩阵，G s 和H s 满足的关系式是 。
2、一张1024×512像素的16位彩色BMP 图像能包含的最大信息量为 。
3、香农编码中,概率为()i P x 的信源符号x i 对应的码字C i 的长度K i 应满足不等式 。
3、设有一个信道，其信道矩阵为 0.250.50.250.250.250.50.50.250.25??
????????
，则它是 信道
（填对称，
系名____________班级____________姓名____________学号____________
密封线内不答题
准对称），其信道容量是 比特/信道符号。
三、（20分）12()0.50.5X x x P X ????=????
????
，通过一个干扰信道，接受符号集为{}
1
2Y y y =，信道
转移矩阵为134
4314
4??
???
???????
试求（1）H(X),H(Y),H(XY);（7分）
(2) H(Y|X),H(X|Y);（5分）
(3) I(Y;X)。（3分） (4)该信道的容量C （3分）
（5）当平均互信息量达到信道容量时，接收端Y 的熵H （Y ）。（2分） 计算结果保留小数点后2位,单位为比特/符号。
四、（9分）简述平均互信息量的物理意义，并写出对应公式。
五、（10分）假设英文字母表(n=26),密钥k=abc，当明文m=familycome时，使用Vigenere密码算法后得到的密文c=？请写出具体的步骤。
系名____________班级____________姓名____________学号____________
密封线内不答题
六、（10分）设有离散无记忆信源，其概率分布如下：
12345671111111()24816326464x
x x x x x x X P X ??????=?? ????
???
对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。
七、信道编码（21分）
现有生成矩阵1
0001110
10011000100110
00110
1s G ?????
?=??????
1. 求对应的系统校验矩阵H s 。（2分）
系名____________班级____________姓名____________学号____________
密封线内不答题
2. 求该码字集合的最小码字距离d 、最大检错能力max l 、最大纠错能力t max 。（3分）
3.
4. 现有接收序列为(1100100)r ，求纠错译码输出?c 。（4分）
5. 画出该码的编码电路 （4分）