第01章 信息、信息科学与信息技术
课程：信息技术导论（0A006） 主讲：北京大学 苏清元（SQN） 来源：田浩然上传的资料/0A006 信息技术导论/
一、信息的本质与度量
1.1 什么是信息
- 一般意义：信息可理解为消息、情报、知识、见闻、通知、报告、事实、数据等
- 科学概念：20 世纪 30 年代开始作为科学概念探讨
- 哈特莱（Ralph V.L. Hartley, 1928）：在《信息传输》一文中首先提出”信息”概念——“信息是代码、符号，而不是信息内容本身”，将信息与消息区分开
- 香农（C. E. Shannon, 1948）：信息论创始人，从通信理论出发，第一次用数学方法定义”信息就是不确定性的消除”
1.2 香农对信息的定义
- 核心观点：信息是有秩序的量度，是人们对事物了解的不确定性的消除或减少。信息是对组织程度的一种测度，信息能使物质系统有序性增强，减少破坏、混乱和噪音
- 通信系统模型：信源 → 编码 → 信道 → 译码 → 信宿
- 信源：信息的发送者
- 信道：在物理线路上划分的逻辑通道
- 信宿：信息的接收者
1.3 信息的度量
自信息量
定义一个随机事件 x 所含的信息量称为 x 的自信息量：
I(x) = -log₂ P(x)
（以 2 为底时单位为比特（bit））
信息熵
自信息量只能表示某一特定消息的信息量，不能表示整个信息源的总体信息测度。信息熵是从整个信息源的统计特性来考虑的平均信息量：
H(X) = -Σ P(xᵢ) · log₂ P(xᵢ)
- 信息熵表示信息源 X 在发出消息以前，信宿对信息源 X 存在的平均不确定性
- 熵越大，不确定性越大
- 香农的信息度量公式排除了对信息主观上的含意——同样一个消息对任何一个收信者来说，所得到的信息量都是一样的
经典例子：试验甲（A、B 概率相等，如投硬币）vs 试验乙（A 出现概率远大于 B）。甲的不肯定性比乙大，熵也更大。
1.4 香农信息论的局限性
- 概率模型假设：假定事物状态可以用经典集合论为基础的概率模型描述，但实际中某些事物运动状态难以找到合适的概率模型
- 忽略语义和有效性：没有考虑收信者的主观特性和主观意义，撇开了信息的具体含义、具体用途、重要程度和引起后果等因素
- 狭义信息论没有解决语义信息（信息的具体含义是什么）和有效性问题，适用范围受到严重限制
1.5 数据、消息、信号与信息的区别
| 概念 | 定义 | 与信息的关系 |
|---|---|---|
| 数据 | 对客观实体的一种描述形式，是信息的载体 | 数据是未加工的信息；信息是数据经过加工后能为某个目的使用的数据。数据是原材料，信息是加工后的结构 |
| 消息 | 具体的、蕴含着信息的载体 | 信息是包含在消息中的抽象量；消息是具体的。信息经编码成为消息才能传播，经译码才能获取信息 |
| 信号 | 消息变换成适合信道传输的物理量 | 信号携带着消息，是消息的运载工具。信号是数据的电磁或光脉冲编码 |
- 数据分为模拟数据（连续值）和数字数据（离散值）
- 信号分为模拟信号（随时间连续变化）和数字信号（时间上离散）
二、信息科学
2.1 科学的定义
- 科学就是整理事实，从中发现规律，做出结论
- 科学要发现人所未知的事实，实事求是
- 规律：客观事物之间内在的本质的必然联系
- 科学是建立在实践基础上，经过实践检验和严密逻辑论证的，关于客观世界各种事物的本质及运动规律的知识体系
2.2 科学、技术与工程的界定
| 概念 | 定义 |
|---|---|
| 科学 | 探知事物的本质、特征、内在规律以及与其他事物的联系；关于自然、社会和思维的发展与变化规律的知识体系 |
| 技术 | 运用科学规律解决实现某一目的的手段和方法；根据生产实践经验和科学原理而发展形成的各种工艺操作方法、技能和技巧 |
| 工程 | 将科学原理应用到工农业等生产部门中去而形成的各门学科的总称 |
2.3 信息科学的定义
- 信息和控制是信息科学的基础和核心
- 定义1：信息科学是研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的科学，是一门结合了数学、物理、天文、生物和人文等基础学科的新兴与综合性学科
- 定义2：以信息为主要研究对象，以信息的运动规律和应用方法为主要研究内容，以计算机等技术为主要研究工具，以扩展人类的信息功能为主要目标的一门新兴的综合性学科
2.4 信息科学的研究内容
可归纳为五个方面：
- 探讨信息的基本概念和本质
- 研究信息的数值度量方法
- 阐明信息感知、识别、变换、传递、存储、检索、处理、再生、表示、施效（控制）等过程的一般规律
- 揭示利用信息来描述系统和优化系统的方法和原理
- 寻求通过加工信息来生成智能的机制和途径
2.5 信息科学体系的三个层次
- 信息哲学层次：信息的哲学本质、智能的哲学本质、信息与反映的关系、信息与认识的关系、人工智能与人类智能的关系等
- 基础理论层次：研究信息的一般理论
- 技术应用层次：应用信息科学理论拓展人类的信息功能（特别是智力功能）
信息哲学、基础理论和技术应用三者构成一个和谐的学科体系。
三、信息技术
3.1 信息技术的定义
六种定义从不同角度描述：
- 有关信息的收集、识别、提取、变换、存贮、传递、处理、检索、检测、分析和利用等的技术
- 现代信息技术”以计算机技术、微电子技术和通信技术为特征”
- 在计算机和通信技术支持下用以获取、加工、存储、变换、显示和传输文字、数值、图像以及声音信息
- 应用在信息加工和处理中的科学、技术与工程的训练方法和管理技巧
- 包括信息传递过程中的各个方面：产生、收集、交换、存储、传输、显示、识别、提取、控制、加工和利用
- 从技术的本质意义上讲，信息技术就是能够扩展人的信息器官功能的一类技术（最本质的定义）
3.2 人类的信息器官与功能
人的信息器官主要包括四类：
| 器官类别 | 包含内容 | 功能 |
|---|---|---|
| 感觉器官 | 视觉、听觉、嗅觉、味觉、触觉、平衡感觉器官等 | 获取信息 |
| 传导神经网络 | 导入神经网络、导出神经网络 | 传递信息 |
| 思维器官 | 记忆系统、联想系统、分析推理和决策系统等 | 加工/再生信息 |
| 效应器官 | 操作器官（手）、行走器官（脚）、语言器官（口）等 | 施用信息（控制） |
3.3 信息技术的”四基元”
对应人的四类信息器官：
- 感测技术 —— 感觉器官功能的延长
- 通信技术 —— 传导神经网络功能的延长
- 计算机和智能技术 —— 思维器官功能的延长
- 控制技术 —— 效应器官功能的延长
四基元是一个有机整体，和谐合作，共同完成扩展人的智力功能的任务。
由此引出两个具体定义：
- 信息技术是指能够完成信息的获取、传递、加工、再生和施用等功能的一类技术
- 信息技术是指感测、通信、计算机和智能以及控制等技术的整体
3.4 四次信息技术革命
| 次数 | 革命内容 | 意义 |
|---|---|---|
| 第一次 | 创造了语言和文字，出现了文献 | 信息可以被记录和传承 |
| 第二次 | 造纸和印刷术的出现 | 信息可以大量复制和广泛传播 |
| 第三次 | 电报、电话、电视及其他通讯技术的发明 | 信息可以远距离实时传输 |
| 第四次 | 电子计算机和现代通讯技术在信息工作中的应用 | 信息可以被自动化处理和高速传输 |
3.5 信息技术的核心及支撑技术
核心技术（四基元）：
- 计算机与智能技术
- 通信技术 —— 数字通信、卫星通信、微波通信、光纤通信等
- 传感技术
- 控制技术 —— 模糊控制、专家控制、机器学习等
支撑技术——微电子技术：
- 信息技术发展的两个基本条件：快速（短时间收集/传输大量信息）+ 体积小（便携，任何场合使用）
- 微电子技术诞生的标志：1947 年发明晶体管
- 微电子产业快速发展：1958 年出现第一块集成电路（IC） 以后
四、信息科学与相关学科的关系
4.1 计算科学
计算科学（或计算机科学）是对描述和变换信息的算法过程——包括其理论、分析、设计、效率分析、实现和应用——的系统的研究。
4.2 系统科学
系统科学的层次结构（自底向上）：
- 根本原理（系统哲学）
- 基本原理（系统学原理）
- 理论基础（系统学）
- 应用基础（系统论）
- 应用技术（系统方法）
系统科学 → 系统工程
4.3 信息哲学
信息与哲学的联姻——科学哲学的新范式
4.4 认知科学与认知心理学
研究人脑或心智工作机制的认知科学
核心要点提炼
- 香农信息论的革命性贡献：第一次用数学方法量化定义信息（不确定性的消除），建立了信息度量的科学基础
- 信息 ≠ 数据 ≠ 消息 ≠ 信号：四者层层嵌套，信息是最抽象的内核
- 信息科学三层次：哲学层 → 基础理论层 → 技术应用层，三位一体
- 信息技术的本质：扩展人类信息器官功能的技术，四基元对应四类器官
- 四次革命：语言文字 → 印刷术 → 电讯 → 计算机与现代通信
- 微电子是基石：晶体管（1947）和集成电路（1958）是信息技术高速发展的硬件基础
关联笔记
- chap04 SQL - 数据库设计与实践 —— 数据与信息的关系，数据库是信息存储和处理的技术实现
- 操作系统课程（一）—— 绪论与操作系统概述 —— 计算机系统是信息技术的核心载体
- 《SICP》-计算机程序的构造和解释-第二版 —— 计算科学与信息加工的深层关系
- 《结构化计算机组成》-Structured-Computer-Organization-第6版-Tanenbaum —— 计算机系统如何实现信息的处理和传输