文档库

最新最全的文档下载
当前位置:文档库 > 熵在决策分析中的应用综述_周荣喜

熵在决策分析中的应用综述_周荣喜

第23卷第4期

V ol.23No.4

控 制 与 决 策

Contr ol and

Decision

2008年4月

Apr.2008

收稿日期:2007-01-07;修回日期:2007-04-28.

基金项目:国家自然科学基金项目(70372011,70671006,70701003).

作者简介:周荣喜(1972)),男,江西崇仁人,讲师,博士,从事决策理论等研究;刘善存(1965)),男,河北衡水人,

教授,博士生导师,从事投资决策等研究.

文章编号:1001-0920(2008)04-0361-06

熵在决策分析中的应用综述

周荣喜1,刘善存2,邱菀华2

(1.北京化工大学经济管理学院,北京100029; 2.北京航空航天大学经济管理学院,北京100083)

摘 要:基于熵在自然科学和社会科学及其交叉学科的研究中具有独特的优势,介绍了熵在决策分析的主要研究领域:概率分布、效用函数、Bay es 决策、多目标决策、群决策和其他决策问题中的应用现状及其研究成果,并对其未来的发展方向进行了探讨与展望.

关键词:熵;概率分布;效用函数;Bayes 决策;多目标决策中图分类号:C934 文献标识码:A

Survey of applications of entropy in decision analysis

ZH OU Rong -x i 1,L I U S han -cun 2,QI U Wan -hua 2

(1.Schoo l of Economics and M anag ement,Beijing U niv ersity of Chemical T echnolog y,Beijing 100029,China;2.School of Economics and M anag ement,Beihang U niv ersity ,Beijing 100083,China.Cor respo ndent:ZH OU R ong -x i,E -mail:zrx103@http://www.wendangku.net/doc/820b5790050876323012121f.html)

Abstract :Entr opy is especially suitable to natur e science,social science and their inter cross disciplines.T herefor e,applications and results of entr opy ar e intro duced in decision analy sis,such as pr obability distr ibut ion,utilit y funct ions,Bay esian decisio n,multio bject ive decision,g ro up decision and ot her decisio n pr oblems.And fur ther applications and research directio ns are discussed in detail.

Key words :Entro py ;P robability distr ibut ion;U t ility funct ions;Bayesian decisio n;M ultiobjectiv e decision

1 引 言

Shannon [1]于1948年提出信息熵概念;Jaynes

[2]

于1957年提出最大熵原理,又称最大熵方

法或极大熵准则.在随后的半个世纪里,熵在自然科学和社会科学领域中均得到广泛的应用.如果以篇名为检索项,以熵为检索词,仅在1997~2006年的中国期刊全文数据库中可检索到的文章达2443篇,并且近几年呈明显增长的趋势.

本文在查阅国内外有关文献资料的基础上,仅对熵在决策分析的主要领域中的应用状况进行综述分析,并对其今后的研究方向进行探讨.

2 熵在决策分析中的应用

决策分析是研究不确定性决策问题的一种系统分析方法,其目的是改进决策过程,从一系列备选方案中找出一个能满足一定目标的合适方案.概率分布和效用函数是决策分析的两大基础,Bayes 决策、多目标决策、群决策是决策分析的主要研究领域,熵在这些方面均有着广泛的应用.

2.1 概率分布

对于给定的随机变量,如何获取最为合适的概率分布?Jaynes

[2]

于1957年提出应该按照最大熵原

理(MEP )选取在一定约束下使得熵能最大化的那种概率分布作为待选的分布,并且指出这是可以作出的惟一的不偏不倚的选择,即该分布P 是下列规划问题(ME )的最优解:

m ax H (P )=-Q

log (d P (x )/d x )d P (x ),s.t .Q

d P(x )=1,d P(x )\0;

Q

N k

(x )d P(x )=L k ,k =1,2,,.

1978年,Aida 等

[3]

基于最大熵原理给出了不同

连续概率分布的熵值.A lex is [4]研究了对于任意概率分布的期望熵值.T homas [5]通过对ME 中的矩约束加入上下限,从而对具有部分关于自然概率空间的先验信息的不确定性决策问题提出广义最大熵原理.Kesavan 等将M EP 和文献[6]的最小鉴别信息