一、香农是谁从密歇根小镇到贝尔实验室克劳德·艾尔伍德·香农Claude Elwood Shannon1916年4月30日出生于美国密歇根州佩托斯基在盖洛德小镇长大。父亲是当地法官母亲是中学校长。香农的祖父是一位发明家发明过洗衣机等多种农业机械对香农的影响比父母更为直接。此外香农的家庭与大发明家爱迪生还有远亲关系爱迪生是香农孩童时代的偶像。香农自幼对机械装置兴趣浓厚曾在家制作飞机模型、无线电遥控船甚至架设了一条通往半英里外朋友家的铁丝电报系统。1932年进入密歇根大学1936年同时获得数学学士和电子工程学士学位——这种数学与工程的双重背景贯穿了他整个职业生涯也是他能创立信息论的关键条件之一。二、硕士论文奠定数字电路基础1937年21岁的香农在MIT攻读硕士期间完成了一篇“本世纪最重要、最著名”的硕士论文——《继电器与开关电路的符号分析》。香农的核心洞见是布尔代数与电话交换电路之间存在精确的对应关系。布尔代数中“真”与“假”两个值可以对应电路的“闭合”与“断开”布尔运算的“与”“或”“非”可以对应串联、并联、反相电路。这意味着任何逻辑关系都可以用电路来实现反之任何复杂开关电路都可以用布尔代数来分析和化简。这一工作“把数字电路设计方式由艺术变为科学”为后来所有数字计算机的设计奠定了理论基础。香农本人晚年曾表示硕士论文的工作是他最得意的成果。三、1948年信息论诞生“通信的基本问题是在消息的接收端精确地或近似地复制发送端所挑选的信息。”这是香农1948年论文《通信的数学理论》A Mathematical Theory of Communication开篇的经典表述。这篇论文分两部分发表于《贝尔系统技术学报》第27卷被公认为现代信息论的奠基之作也是科学史上被引用最多的论文之一。香农在这篇论文中做了几件开创性的事*第一将通信问题“形式化”。*香农果断地搁置了信息的语义和语用因素只考虑信息的形式因素。他指出消息的“意义”与工程问题无关。这一看似“粗暴”的简化恰恰是让信息可以被数学度量的前提只有当“信息”不再纠缠于它“说了什么”而只关注它“有多难被猜到”概率论才有用武之地。*第二提出通信的五要素模型。*香农在论文中给出了通信系统的基本结构信息源 → 发送器 → 信道噪声引入→ 接收器 → 信宿。这一模型比翟明岳教材绪论中简化的“信源—信道—信宿”三要素多出“发送器/接收器”两个环节后者负责信号与消息之间的转换。翟明岳教材的简化版本正是对这一经典模型的精简。*第三引入“比特”bit作为信息的基本单位。*香农在论文中首次将“bit”一词用于印刷它是“binary digit”二进制数字的缩写。香农将这个词的创造归功于贝尔实验室的同事约翰·图基John Tukey。第四定义信息熵。香农给出了信息熵的数学定义用以度量信源输出的平均不确定性。这一概念受统计物理学中玻尔兹曼熵的启发但香农赋予了它全新的通信含义信息就是不确定性的消除熵就是不确定性的度量。四、香农与图灵二战期间的密码破译1941年香农以数学研究员身份进入贝尔实验室一直工作到1972年。二战期间他参与了密码破译工作追踪德国飞机和火箭的通信。在贝尔实验室香农与从英国来的艾伦·图灵有过交集。图灵当时在英国布莱切利园从事密码破译工作因工作需要赴美与美方交流密码技术。两人曾就“智能机器”的话题有过讨论这段经历对香农后来关于“会下棋的机器”的思考产生了影响。1945年香农完成了一份保密报告《密码学的数学理论》1949年解密后以《保密系统的通信理论》发表。这篇论文“使保密通信由艺术变成科学”是密码学史上里程碑式的工作。五、香农的“另一面”杂耍、独轮车与机械老鼠香农在贝尔实验室和MIT以“古怪”著称。他经常在走廊里一边骑独轮车一边抛接球。他制作了各种奇特的发明喷火小号、火箭动力飞盘、罗马数字计算机THROBAC以及一只名为“忒修斯”Theseus的机电老鼠它能学会在迷宫中找到出路并记住路径。他还在1950年写了一篇短文《会下棋的机器》探讨计算机是否能够“思考”并设计了一个简单的下棋程序。这些看似“玩闹”的工作实际上反映了他对“机器能否模拟智能”这一根本问题的持续兴趣。六、香农的荣誉与遗产香农于1958年回到MIT任教直至1978年退休。他获得的荣誉包括1966年美国国家科学奖章、美国国家科学院院士、美国艺术与科学院院士。IEEE信息论学会设立的“香农奖”以他命名他是首位获奖者。小行星18838号以“Shannon”命名。2001年2月24日香农在马萨诸塞州梅德福去世享年84岁。贝尔实验室和MIT的讣告中都称他为“信息论及数字通信时代的奠基人”。香农的遗产远不止于通信。光纤、移动网络、WiFi、磁共振成像MRI、3D成像——这些技术背后都有香农信息论的身影。他用一篇论文把“信息”从一个模糊的日常概念变成了可以被测量、被编码、被压缩、被可靠传输的物理量。附绪论总结中的“香农坐标”回到翟明岳教材的绪论如果要把香农其人其事嵌入教材框架可以这样对应· “信息的概念”1.1对应香农对“信息”的形式化定义——信息不是消息的意义而是不确定性的消除。这一判断的根源正是香农“搁置语义”的方法论选择。· “通信系统模型”1.2对应香农的五要素模型信源—发送器—信道—接收器—信宿翟明岳教材将其简化为三要素并保留“噪声”这一关键变量。· “信息论的创立”背景香农1948年论文的发表标志着一门用概率论工具研究通信极限的新学科诞生。绪论虽不展开历史但香农本人的学术轨迹——数学与工程的双重背景、硕士论文的电路基础、二战密码学的实践——恰恰解释了为什么信息论能在1948年诞生它需要一个人同时掌握布尔代数、概率论、通信工程和密码学而香农恰好是那个人。