第一章信息科学基础

Gansu Agricultural University

第一章信息科学基础

信息科学技术学院主讲：李广

现代农业信息技术现代农业信息技术

22 Gansu Agricultural University

主要内容

信息的概念1

2

4

3

5

信息与相关概念的关系信息方法信息科学信息技术

信息评价6


第一节信息的概念

1.1 信息的定义自古以来，人们随时都在自觉或不自觉地接收、传递、存储和利用着信息。信息和物质不同，它没有物质那样的实体。而是一种既抽象又无所不在的东西。信息 (1nformation) 是客观世界上各种事物的变化和特征的最新反映以及经过传递后的再现。

存储

利用

接收信息

传递

传递

传递


1.1.1 数据、信息和知识的关系数据（ Data ）是载荷或记录信息并使之按照一定规则排列组合的

物理符号。信息是数据载荷的内容。知识是信息接收者通过对信息的提炼和推理而获得的认识，是人类通过信息对事物运动规律的把握，是人的大脑通过思维重新组合的、系统化的信息集合。

三者关系如图 1.1

知识

信息数据

图 1.1 数据、信息和知识的包含关系



1.1.2 信息活动过程信息活动一般是通过搜集和加工、存储和检索、传递和利用这三大环节来完成的：管理人员所得到的信息，越能消除不确定因素，它的价值就越高。

信息活动信息活动

搜集和加工搜集和加工存储和检索存储和检索传递和利用传递和利用



1.1.3 信息的不同定义目前有关信息的定义大约一百多种。我国著名经济学教

授乌家培先生在他的《信息与经济》一书中列举以下几种有代表性的信息定义：

（ 1） 1948 年维纳在《控制论里动物和机器中的通信与控制问题》中提出：

“控制论之父”维纳（ L.Wiener ）

信息既不是物质，又不是能量，信息就是信息。



（ 2 ）我国学者黄学忠在《经济信息与管理》一书中指出：

（ 3 ）我国学者钟义信在《论信息》一书中认为：

信息是客观世界各种事物变化和特征的反映

信息是事物运动的状态和方式。


1.1.3 信息的不同定义


（ 4 ）我国学者刘长林在《信息的哲学本性》一书中认为：

（ 5 ）我国的一份《国家经济信息系统总体方案》讨论稿中对信息这样表述：


信息是被反映的事物属性


信息客观世界中各种事物运动的状态

和方式的表征。


（ 6 ）申农在 1948 年写的《通信的数学理论》中认为：信息是能够用来消除不确定性的东西。



申农是现代通讯理论 -- 信息论的创始人、影响人类社会进程的科学家

2001 年 2 月 24 日，享年 85 岁的信息量创始人（美国） C.E.Shannon 申农（香农）辞世（ 1916-2001 ）。


A ．信息是系统有序程度的度量。

B ．信息是人们对外界事物的某种了解和知识，

它能减少人们决策时的不确定性。

(7) 《辞源》对信息的定义：

第一节信息的概念1.1.3 信息的不同定义


1.1.4 信息的解释消息是信息的外壳，信息则是消息的内核。比如，同是一

分钟的消息，有的包含信息量很大；有的则可能很小。信号只是信息的载体，信息则是信号所载荷的内容。同一

个信息即可以用这种信号载荷，也可以用那种信号载荷。比如，用 "0， 1" 或用 " 正、负 " 来载荷。

信号

消息

信息

消息是信号的外壳

信号是信息的载体



数据只是记录信息的一种形式，而且不是唯一的形式。情报在汉语中只是一类专门的信息（情报在日语中就是信息）。

信息的定义：“信息是事物运动的状态与（状态改变的）方式”

第一节信息的概念1.1.4 信息的解释


信息的定义为什么这样多呢？乌家培教授认为原因有三：（ 1 ）信息本身的复杂性。信息是一个多元化、多层次、多功能的综合体。

（ 2 ）信息科学尚不发达。人们对信息的内含、外延还不够确定，一些重要概念正处在多定义并存的阶段，还未进入到统一的本质概念阶段。

（ 3 ）实际需要的不同。由于信息社会才刚刚在少数国家形成，人们出于不同的研究目的，从不同的角度出发，对信息作用的不同理解和解释而对信息所下的定义。

第一节信息的概念1.1.4 信息的解释


1.2 信息源信息源即信息发出的源头 (起源 ) ，

又叫信息来源。信息源的发生体可以是人类社会，也可以是自然界，宽泛地说可以是任何事物。

在一定的条件下，信息源可以转化为信息资源。所以，在信息社会为了有效地开发利用信息资源，应加强对信息源及其分布规律的研究，以便促进信息源向信息资源的转化。

信息源头（起源）如同我们的黄河源头一样。

人类社会

自然界

信息源的发生体



1.2 信息源

产生信息的数据源可以依据地点和时间两个标准进行划分 :

根据地点不同，信息源分为

内源

外源


内源数据产生于各种组织，如政府机构、金融行业、学校、企业等本身的活动。这些内源可以在常规的和合法的基础上提供事实，即对于内源数据的采集。

外源又称环境源，外源数据涉及到组织之外的数据产生者和分配者。外源数据的采集需要依赖外部组织。管理人员可以在能得到的各种数据中选择各种自己所需要的信息。


根据时间的不同，信息源又可以分为：

先导信息源

实时信息源

滞后信息源

第一节信息的概念1.2 信息源


1.3 信息的功能与特点1.3.1 属性信息来源于物质，又不是物质本身；

信息也来源于精神世界，但又不限于精神的领域；

信息的这种特殊地位决定了它的一般属性，主要包括：普遍性、客观性、无限性、相对性、抽象性、依附性、动态性、异步性、共享性、可传递性、可变换性、可转化性、可伪性等。



1.3.2 信息的功能五个方面：

首先，信息是宇宙万物有序运行的内在依据。其次，信息是人类认识世界和改造世界的中介。第三，信息是维系社会生存与发展的动因。第四，信息是智慧的源泉，是人类的精神食粮。第五，信息是管理的灵魂。



1.3.3 信息的特点

(1) 准确性。 (2) 及时性。 (3) 完整性。 (4) 关联性。（文章摘要） (5) 时效性 (6) 经济性。



1.4 信息的作用通过信息，自然界万物相对平衡得以维持，人类社会的文明得

以创造、继承和发展。现代社会把信息看作支持社会发展的三大支柱 ( 物质、能源和信息 ) 之—，这充分说明了信息的作用和重要性。

观察自然界和人类社会演进和发展的历史，可以发现，信息是维系自然界万物生存和人类社会不断发展的重要条件之一，也是推动社会和经济发展的动力。



第二节信息与相关概念的关系 2.1 信息与生产要素社会生产力的要素包括生产工具、劳动者和劳动对象。但

不是一层不变的，而生产要素是在不断发展着的。最初以土地、资本、劳动作为生产的“三要素”。

生产工具劳动者劳动对象


到了近代，就不以农业，而以制造业为基础。把资本与劳动结合进行生产活动，土地不怎么被重视。生产要素基本概括为劳动者 ( 人 ) 、劳动资料 ( 机器、设备 ) 、劳动对象 ( 材料 ) 等；或者概括为人与物两人要素。从而形成了传统的生产要素观念。

第二节信息与相关概念的关系 2.1 信息与生产要素


在科技高速发展的今天，生产要素的传统观念受到冲击。人们知道．生产过程实际上是人与物、生产的主体与客体相互作用的过程。人与物得以联结还有—个中介的因素在起作用，这个因素就是信息。

因此，在现代生产过程中。生产要素的最基本分式可表述为“人 - 信息 - 物”，三者是当今生产过程缺一不可的要素。

第二节信息与相关概念的关系 2.1 信息与生产要素


管理，是一种有目的的社会运动或活动。通过管理，使社会或组织能够有效地实现自己的目标。显然，管理是一种过程，并且是一种高级的复杂过程。它包含调查研究、运筹决策、协调控制、检查改进等环节。

管理，是一个相对的概念，又是一个复杂的概念。大系统有大系统的管理，小系统有小系统的管理；中央有中央的管理，地方有地方的管理；工业有工业的管理，农业有农业的管理；等等。只要有人类存在，就必然会有管理存在。

2.2 信息与管理

分田式管理理念

第二节信息与相关概念的关系


从信息科学的观点来考察管理，这样一种高级复杂的过程。在本质上就是一种过程，而且是一种十分典型的信息过程。

调查研究、运筹决策、协调控制、检查改进，所有这些环节都是管理信息过程的一些基本组成部分。

第二节信息与相关概念的关系 2.2 信息与管理


任何形式的管理必然是某种系统，都要具备若干要素，而这些要素之间必然存在某种联系。

这些相互联系的要素作为一个整体必然具有某些整体性的功能。

这种整体性功能不是个别要素的功能的简单总和，而是它们相互联系、相互作用的有机产物。这是一切系统所共有的基本特征。

2.2 信息与管理

第二节信息与相关概念的关系


第三节信息方法

3.1 信息方法及其特点信息方法就是运用信息的观点，把系统看作借助于信息的获取、传递、加工、处理而实现其有目的运动的一种研究方法。

信息方法不同于传统的经验方法，它有其自身的特点，这是由信息科学本身的性质所决定的。

信息方法和特点是用信息概念作为分析和处理问题的基础，它完全撇开对象的具体运动形态，把系统的有目的运动抽象为一个信息变换过程。


在现实存在的许多复杂系统中，如技术系统中的通讯、控制、火箭、导弹制导、电子计算机等；人或生物系统中的生命现象、各个感官与外界的接触、神经中枢与各个感官之间的联系、大脑的记忆与指挥；

3.2 信息方法的作用 3.2.1 信息方法揭示了机器、生物有机体和社会不同物质

运动形态之间的信息联系。

导弹制导

火箭

巨型计算机

通讯



不仅能定性地判断疾病是由于正常信息的缺乏（某种内分泌疾病），异常信息的干扰（传染病），信息代码的错乱（分子病、遗传病），或是信息通道的阻塞，使机体失去控制所致。

还能进一步给出在这些情况下，信息关系的定量描述，确定系统的抗干扰能力，从而对疾病的轻重程度，机体的愈合能力作出数量上的分析。


3.2 信息方法的作用 3.2.2 信息方法为开展人体科学研究提供了基础


信息方法还对分子生物学的创立起了重大的作用。 40 年代美国德尔布鲁克等人组织了噬菌体研究小组，创立了“信息学派”。他们再一次证明 DNA 是遗传信息的载体，它携带了生命自我复制的全部信息。 1953 年这个学派的成员沃森提出了 DNA 的双螺旋结构的分子模型，标志着分子生物学的正式诞生。


3.2 信息方法的作用 3.2.2 信息方法为开展人体科学研究提供了基础



3.2 信息方法的作用 3.2.3 信息方法揭示了某些事物运动的新规律，对过去难以

理解的现象作出科学的说明；

例如，运用信息方法可以对某些生物群体活动的现象作出科学的解释，掌握活动规律为人类服务。俗话说：“禽有禽言，兽有兽语”，动物之间特别是群体活动之间存在着某种联系方式，以便使一个生物个体影响另一些生物体的活动，这就是生物通讯。


第三节信息方法 3.2.3 信息方法揭示了某些事物运动的新规律，对过去难以

理解的现象作出科学的说明；如蜜蜂，当侦察的蜜蜂发现蜜源后，回来用不同的舞蹈和发出长短、高低

不同的声音报告蜜源的方向、距离以及花蜜的质量，然后工蜂都来嗅闻侦察蜂身上的花香气味，根据它所提供的信息去采蜜。这就是一个信息的接受、传递过程，离开了信息方法，则很难发现这一现象。

人们运用信息方法对动物通讯进行研究，记录了许多飞禽、走兽和昆虫的声音信号，并试图译释各种信息的意思，可以预料，不久的将来，人们将能用电子仪器指挥一些动物的活动，从而保护有益于人类的动物，诱歼有害动物或驱逐出一定的区域。



3.2 信息方法的作用 3.2.4 信息方法为实现科学技术、生产、经营管理、社会管

理的现代化提供了思想武器；

人的认识世界和改造世界的实践活动存在着三个共同的流动过程，即劳动力组成的人流，生产资料、劳动资料等组成的物流，以及组织、计划、指导、协调、控制管理以达到预定目标的信息流，其中任一流通过程发生堵塞、中断，都将造成实践活动的破坏和停顿。

信息流的畅通是保证人流、物流畅通的前提条件，信息流调节着人流和物流的数量、方向、速度、目标，它驾驭人和物进行有目的、有规则的活动。



3.2 信息方法的作用 3.2.4 信息方法为实现科学技术、生产、经营管理、社会管

理的现代化提供了思想武器；

用信息方法分析，即存在着一个获取信息→存储→加工处理→输出信息的信息流，并且可以运用现代信息技术使科研活动的信息过程更加畅通，实现科学研究的实践活动信息化，加速科研工作的进程，从而取得更大的效果。

获取信息存储信息加工处理输出信息

信息流



3.2 信息方法的作用 3.2.5 信息方法的使用提供了科学决策的基础。

决策过程实际上是一个信息的收集、传递、整理加工、变换的过程。决策正确与否，往往与能否及时、准确地获取足够的信息有着直接的关系。因此，必须运用信息方法才能使决策达到科学化水平。

在科学决策的实践中，信息方法贯穿着决策过程的始终，不仅决策的全过程中需要运用它，就是决策的每一阶段、每一环节都必须运用它。如确立目标、制定方案、分析评价，哪一项都不能离开信息的收集、加工、存贮和传递。


第四节信息科学

信息科学在信息论、控制论和系统论的基础上发展起来的一门新兴学科。

“ 信息科学” (Information

Science)作为专门的学术名词，是 1973 年在美国出现的。这一名词的出现，标志着有关信息理论的研究已经达到一定的高度，同时也对以后的信息理论研究起了很大的促进作用。

控制论—维纳

信息论—香农

系统论 -- 维尔弗雷多 ·帕累托


在英文里，信息与知识、资讯是等同的，都用“ Information” 表示，因此，美国把信息科学局限于资料科学或情报科学，实际上缩小了信息科学的范围。

在西欧，信息科学被理解为计算机科学，因为信息与计算机的联系密切，但计算机在信息科学中只是作为信息处理的工具而出现的，二者是绝对不能等同的。

信息科学是研究信息现象及其运动规律和应用方法的科学，它是以信息论、控制论、系统论为理论基础，以电子计算机等为主要工具的一门新兴学科。

=



信息科学涉及与信息有关的一些领域：

计算机科学、仿生学、人工智能等，它包括对信息的描述和测度、信息传递理论、信息再生理论、信息调节理论、信息组织理论、信息认识理论等内容。

信息科学研究信息提取、信息识别、信息变换、信息传递、信息存储、信息检索、信息处理、信息再生、信息表示、信息检测、信息实施等一系列问题和过程。信息科学是社会生产和科学研究发展到一定阶段的必然产物。



仿生学实例

蝙蝠飞行雷达

响尾蛇捕食导弹

人脑思维电脑



4.1 信息科学的研究对象、内容和任务信息科学研究的内容包括信息的产生、获取、变换、传递、存

储以及如何利用信息进行管理和控制等。概括起来有以下几个主要方面：

(1) 研究信息的本质、信息的特征和信息的度量，探讨信息究竟是什么 ? 信息有哪些特征和类型 ? 以及如何度量信息等问题。

(2) 研究信息的运动规律，即信息在其产生、获取、变换、传递、存储和管理过程中的一般规律。



4.1 信息科学的研究对象、内容和任务

(3) 研究信息的收集、处理、加工和利用的方法。 (4) 研究信息传递通信的途径及其方法。 (5) 研究利用信息进行管理的原则和方法。 (6) 研究信息环境、信息政策、信息商品、信息产业的

特征结构及其发展机制。



4.1 信息科学的研究对象、内容和任务

信息科学在其发展过程中，还形成了一套崭新的科学方法论体系，包括信息分析综合法、行为功能模拟法，以及系统整体优化法。这三种方法互相联系，互为补充，共同构成一个独特而有机的信息方法体系，并成为现代科学方法论的主要组成部分。

信息科学方法论体系

信息分析综合法

行为功能模拟法

系统整体优化法



4.2 信息科学的发展信息论是 1948 年由申农的《通信

的数学理论》一文奠基的。 20世纪 50年代和 60年代许多学者的研究。 --提出了语义与信息问题；有效信息问题。

20世纪 70年代，人们又提出了模糊信息问题。美国科学家申农



第五节信息技术 5.1 信息技术的定义信息技术 (Information Technology) 是近二三十年来迅速发展起来的科学技术，通常是在计算机与通信技术支持下用以采集、存贮，处理、传递、显示那些包括声音、图像、文字和数据在内的各种信息的一系列现代化技术。

广义的信息技术包括计算机和通信技术本身及其在广泛领域的应用。

狭义的信息技术局限于信息工作范围内使用的现代化方法和工具。


5.2 信息技术的基本内容信息技术的基本内容包括感测技术、通信技术、智能技术及控制技术，即信息技术的四基元。

(1) 感测技术。感测技术包括传感技术和测量技术，如遥感、遥测技术等。它们是感觉器官功能的延长，能更好地加工和再生信息。

(2) 通信技术。通信技术的功能是传递信息，它是传导神经网络功能的延长。

智能化微型压力感测器

通信网络

第五节信息技术


5.2 信息技术的基本内容 (3) 智能技术。智能技术包括计算机硬件技术、软件技术、人工智能技术和人工神经网络等。它们是思维器官功能的延长，能更好地加工和再生信息。

(4)　控制技术。控制技术的功能是根据输入的指令信息 ( 决策信息 ) 对外部事物的运动状态和方式实施干预，是效应器官功能的扩展和延长。


电气智能技术

未来手机控制技术发展


5.3 信息技术的社会作用

推动社会生产力的变革提高人类社会开发利用信息资源的能力

发展

变革



5.4 信息技术的历史五次信息技术的重大发展历程

第一次语言的使用

第二次文字的创造

第三次印刷术的发明

第四次电报、电话、广播、电视的发明和普及

第五次计算机技术与现代通信技术的普及应用



第五节信息技术发展历史


信息技术发展趋势一：越来越友好的人机界面


信息技术发展趋势一：越来越友好的人机界面

Dos操作界面

鼠标 / 图形用户界面


虚拟现实技术

虚拟驾驶飞机模拟器

3D 游戏家居三维立体照片

虚拟青蛙实验

电子宠物


语音技术


智能代理技术

机器人机器人

胃镜 1 胃镜 2

机器狗


信息技术发展趋势二：越来越个性化的功能设计

PCPC MP3MP3 软件软件

智能手机智能手机


第六节信息评价

6.1 信息的一般性定义对事物认识的不确定性由于获悉之后所发生的变化。如果这种不确定性的程度能够数量化，那么信息量就可以用不确定性的变化之差来表示。仙农 (C.E. Shanon， l 916-) 在完成信息概率理论的基础上，将信息定义为：

式中， I— 信息； Q— 问题； x—获得信息前对的认识；x’获得信息后对的认识； H—平均信息量。

)()(x

QH

x

QHI

I

II


6.2 信息量的计算

信息量的大小由表现一个系统的信息内容的消息的不肯定程度来决定。

消息的不肯定程度大，则所含的信息量就大；消息的不肯定程度小，则所含的信息量就小。或者说，信息量的大小，可以用被消除的不肯定性的多少来表示，而不肯定性的多少可以用概率来描述。

由于消息的不肯定程度是由随机性产生的，所以消息的不肯定程度要依赖于它在整个系统中发生的概率。信息量是就消除一个系统的不肯定性所需要的信息数量。



设系统 ni xxxxX ,,, 21

其中 ),,2,1( nixi 及其所对应的概率 )( ixP 所状况为：

)()()( 2

2

n

ni

xpxpxp

xxxF

式中，X－系统； ix －系统的第 i个状态， ni ,,2,1 ； )( ixP －系统出现第 i状态的概率，

1)(1

n

iixP 。

用以消除系统 X不确定性所需要的信息量为：

)(log)()(

1log)()( 2

12

1i

n

ii

i

n

ii xpxP

xpxPXH

6.2 信息量计算



F称为系统 X的信息场（Information Field），称为 F的熵（Entropy），即可称 H（X）为信息场

F的熵。

当

)()( 2

2

xpxp

xxF i ，且

2

1)()( 2 xpxp i 时，有：

1)2

1

2

1()

2

1log

2

1

2

1log

2

1(

)(log)()(

1log)()(

22

21

21

i

n

ii

i

n

ii xpxP

xpxPXH

基本单位 Bit(Binary Digits)。 1bit 的信息量，就是指含有两个独立均等概率状态的系统，所具有的不确定性能被全部消除时，所需要的信息数量，公式所表示的就是 1bit 的信息量。

信息量计算公式



zZbBaAE ,,,,

52

1

52

1

52

1

52

1

52

1

52

1

zZbBaAF

)(6)52(log52

1)

52

1(log

52

1)(

52

12

52

12 bitEH

ii

iii

i

例如：由于包括小写非正式在内的英文字母系统

其信息场为：

则熵为：

即说明对每一英文字母，消除其不确定性所需要的信息量大约为 6bit 或者说，如果用二进制来表示、每个英文字母用 6 位数。

6.2 信息量的计算



6.3 熵的涵义熵是热力学中反映物质系统热运动的变化过程和方向的。

熵是系统无序化程度的度量单位，即是系统不确定性的度量单位。信息量同熵所反映的系统运动方向是相反的。因而，信息可以被看作是系统运动过程中的负熵。

熵是“无知程度”的尺度。熵最大时，无知程度最大。熵随着信息的增加而减少，因此，如果熵为 0 ，表示无所不知的情况，即表示一切都明了的状态。



6.3 熵的涵义熵是正数，它的减少部分相当于获取的信息量。系统信

息量的增加，总是表明不确定性的减少，或有序性的增加即有序化程度的提高。

信息量越大，即负墒值越大，熵值越小，反映这个系统的无序程度越低，有序程度越高。

反之，信息量越小即负熵值越小；那么熵值越大，反映系统的无序程度越高，有序程度越低。



例有三个农业区称为 A、B和 C。就 32天时间里统计雨天和晴天的情况，三地的信息场，分

别如 F（A）、F（B）和 F（C）所示。试从信息开发的角度来考察，可以以相当高准确率预报这 32

天天气变化的气象存在的价值。

32

16

32

16)()(

)(2

2

2xx

xpxp

xxAF

ii

32

8

32

24)()(

)(2

2

2xx

xpxp

xxBF

ii

32

1

32

31)()(

)(2

2

2xx

xpxp

xxCF

ii

这里， ix －雨天、晴天状态； )( ixp －雨天、晴天出现的概率，i=1，雨天，i=2，晴天。

6.3 熵的涵义



解：A、B和 C三地气象信息场的熵可以表示为 H（A）、H（B）和 H（C）。根据信息场给定

的数值可以分别计算出：

bitAH 0.1)5.05.0()2

1log

2

1

2

1log

2

1(

32

16log

32

16

32

16log

32

16)( 2222

bitBH 811.0)5.0311.0()4

1log

4

1

4

3log

4

3(

32

8log

32

8

32

24log

32

24)( 2222

bitCH 170.0)156.0014.0(32

1log

32

1

32

31log

32

31)( 22

6.3 熵的涵义



H（ A ）、 H（ B ）和 H（ C ）的值反映了 A、 B和C 三地，要准确预报每天天气状况（地理环境或晴天）时，所需要的信息量。换句话说，这三个值分别反映了 A、 B

和 C 三个地区每天天气无知状态的信息含量，也就是可开发的气象预报的信息含量。由于这些计算结果可以看出，

H（ A ）＝ 1.0bit ，最高； H（ B ）＝ 0.811bit ，次之； H（ C ）＝ 0.170bit ，再次之。因此，如果仅从信息开发的角度来看， A 地的气象站存

在的意义最大， B 地的次之， C 地的再次之。

6.3 熵的涵义



由公式的内容可知，系统 X的信息场为：

)()()( 2

2

n

ni

xpxpxp

xxxF

， 1)(1

n

iixP 。

F的熵为：

)(log)()( 21

i

n

ii xpxPXH

因为 H（X）表现了对 X状态的无知程度，因而，若对 X状态发生的概率无所不知时，即对 X

的一切都明了时，这时定义 H（X）＝Hmin=0,即最小熵值为 0；另外，当对 X 状态发生的概率一无

所知时，这时定义 H（X）＝Hmaz（X），即最大熵，其值可以由：

考虑条件， 1)()()( 21 nxPxPxP

6.4 信息的价值



求解 0)(

)(

ixP

XH来确定。

因为 1)()()( 21 nxPxPxP

引入拉格朗日乘数（Lagrangian Multiplier），则可建立起函数：

)]()()([)](log)()(log)()(log)([ 21222121 nnnnq xpxpxpxpxpxpxpxpxpH

由令 0)(

i

q

xp

H， ni ,,2,1 ，可求得 )(XH 的 ix 的驻点。

6.4 信息的价值



因为有条件： 1)()()( 21 nxpxpxp

得n

xpxpxp n

1)()()( 21

将结果代入

)](log)()(log)()(log)([)(log)()( 222212121

nni

n

ii xpxpxpxpxpxpxpxpXH

可得到 nnnnnnnn

XH n 2222 log1

log]1

log11

log11

log1

[)(

则可以得出 nXH 2max log)(

也就是对 X各状态 nxxx ,,, 21 ，发生的概率 )(,),(),( 21 nxpxpxp 预先没有任何知识时，熵

最大为 n2log 。

6.4 信息的价值



如果对 nxxx ,,, 21 所发生的概率有所了解，即得知 )(,),(),( 21 nxpxpxp 的某些差异后，那

这时的熵正如公式所示，即为 )(XH 。一般地讲，有下列关系存在：

)()()( minmax XHXHXH

如果，起先对一事物的了解一无所知，后来由于获得了一定信息，对事件发生的情况的有所了

解，那么无知程度降低了，如果从量上反映这种变化，就是熵减少了，即这时有：

nXHXH 2max log)()( [ )(log)( 21

i

n

ii xpxp

]= n2log )(log)( 21

i

n

ii xpxp

这里的 )()(max XHXH ，即由一无所知时的熵到系统变化状态的概率有所发解时的熵的差，

表示对系统状态发生概率的无序程度减少所获得的信息量，换个角度来看，就是由于获得了信息，

而使得事件发生的无知程度降低了。这就是对事件发生由一无所知到有所了解时的信息价值。

6.4 信息的价值



例如：某一农业信息中心向本地 32家用户发布了一则新技术推广的信息，假定事先对用户的理

解程度全然不知。信息发布后，该中心拟按四种类型 4321 ,, EEEE 和，划定用户和理解程度，并对

实际理解情况进行调查。调查结果如表所示。试评价这次调查所获信息的价值。

表 1 实际理解情况调查表

理解程度户数占总户数

E1 8 8/32

E2 12 12/32

E3 10 10/32

E4 2 2/32

6.4 信息的价值



解：因为事先对用户理解全然不知，所以可知这时的熵为：

bitXH 24log)( 2max

设 ip 为调查后所得出的不同理解程度的用户占总用户数的比率， 4,3,2,1i ，见表 1。那么经

调查后的熵为:

]32

2log

32

2

32

10log

32

10

32

12log

32

12

32

8log

32

8[)(log)()( 22222

1

i

n

ii xpxpXH

＝（-0.5-0.23-0.53-0.25）＝1.51bit

进而得出 bitXHXH 49.051.12)()(max

即这次调查所获得的信息价值为 0.49bit。

6.4 信息的价值



)()(max XHXH ，即这里的信息价值定义，反映的是人们对所需要认识系统的状态发生概率，

由全然不知到有所了解的绝对性变化。因此这里的定义，可以认为是信息的绝对价值。然而，现在

已进入信息化社会，人们对具体认识对象的探索。往往不是从全然不知开始的。因此，在这种情况

下，人们对系统认识的初始熵为不等于全然无知的情况。设这一初始熵为 )(0 XH ，

)()( max0 XHXH ，而人们继续认识所获得的信息价值为：

)()(0 XHXH

称为信息的相对价值。其中， )(0 XH －系统初始状态的熵， )(XH －系统现时状态的熵。

在信息开发的实际工作中，信息的相对价值比信息的绝对价值具有更突出的意义。由公式定义

可知，其值可能有以下三种情况：

0)()(

0)()(

0)()(

0

0

0

xHXH

xHXH

xHXH

6.4 信息的价值



例某一地区的农业气象台负责当地的天气预报。根据以往观测，多年来该地七、八和九三个

月的天气情况为：

7.03.021

0

xxF

这里， 1x －阴天； 2x －晴天。

目前多方面预测，今年这三个月的天气状况，以信息场形式表示分别为 7F 、 8F 和 9F 。其结构

分别为：

4.06.021

7

xxF

3.07.021

8

xxF

8.02.021

9

xxF

试述该气象台于今年七、八和九三个月中，每天进行天气预报的平均相对价值。

6.4 信息的价值


第一章 信息科学基础

Documents

第一章信息科学基础