美军对德军在第二次世界大战期间取得的成就印象深刻。战争结束时，纳粹空军已将世界上第一种弹道导弹V-2投入使用。与巡航导弹V-1相比，V-2在它的飞行初始阶段便被推上高空，随后急速下坠冲向打击目标。伦敦和英格兰其他地区对这种3倍于声速的导弹闪电般的攻击毫无还击之力。

德意志第三帝国（The Third Reich）的工程师们一直在研究一种能够横跨大西洋实施打击的高性能火箭，但他们没能及时完成。1945年，当美国陆军进入并占领德国之后，他们将该国最优秀的一些工程师以及许多最前沿的技术带回了美国。这些工程师中最受推崇的人是沃纳·冯·布劳恩（Wernher von Braun），他是第三帝国最为年轻潇洒的导弹工程师。随他一同到达美国的还有来自德国北部波罗的海（Baltic Sea）沿岸佩纳明德的庞大研究团队。

1945年至1952年期间，美国军方一直在进行V-2导弹的研究工作，他们在白沙导弹试验场（White Sands Proving Ground）制造并发射了67枚导弹。白沙试验场是世界上首次核爆炸发生的场所，同时也是美国规模最大的军事设施^[1]。经过美国的改造，这种原本用于攻击伦敦的导弹从太空中拍摄了第一张地球照片，并且在1947年2月将第一只动物（果蝇）送入了太空^[2]。

1946年年底的某天，一名来自西雅图波音飞机公司（The Boeing Airplane Company）的导弹研究员主动找到了维纳。这一年，维纳由NDRC资助的关于预测飞行器路线的“黄色危害”研究项目仍在保密中。这位研究主管人员在一封信中告诉维纳，他的公司正在进行制导导弹的研究工作，并询问维纳是否愿意分享其机密材料手稿的副本。这是一个相当无礼的请求。维纳手头上本来就没有，更别说分享这份机密材料了。但维纳将这封来自波音公司主管的信件视为一个机会。一个摆脱由五角大楼资助的这份工作带给他的挫败感的机会 以一种高调且公开的方式。

维纳给波音公司草草写了一封回信，信中以最尖锐的口吻拒绝了任何方式的合作。他援引了广岛和长崎事件，还说科学已失去其纯粹性。他写道“当科学家成为生命和死亡的仲裁者时，思想的交流必须停止。”事实上，维纳特别生气，所以他又将这封信转寄给了《大西洋月刊》（The Atlantic）的编辑。1947年1月，该月刊杂志全文刊发了这封信，并配以标题“一位科学家的叛变”（A Scientist Rebels）。

“制导导弹的潜在用途只可能是随心所欲地杀害外国公民，无论如何，它并未对相关国家的公民提供任何保护。”维纳在给《大西洋月刊》编辑的信中写道。他看到了一个采取公开立场更为普遍地反抗军国主义，特别是抵制制导导弹的机会：

我无法想象这种武器除了能将神风敢死队式的战斗扩大到整个国家外，还能产生什么影响。拥有它们只会滋长军事思想悲剧性的傲慢并置我们于危险之中，别无其他益处^[3]。

同月，《原子科学家公报》（The Bulletin of the Atomic Scientists）重新刊发了这封信。甚至连阿尔伯特·爱因斯坦（Albert Einstein）也称赞维纳的勇气。维纳关于“军事思想悲剧性的傲慢”的雄辩言论，与越来越多的战后批评家及和平主义者产生了强烈的共鸣。

然而这些令人惊讶的无辜声明，竟然出自一位曾在防空问题上领导了一个两年研究项目的科学家之口。诚然，制导导弹能够作为抵御来袭轰炸机的拦截武器；维纳本身的研究（尽管没有成功），也是波音公司所请求的这一研究，正是要提高对敌机的击中/错失比率。实际上，与维纳所写的事实恰好相反，同时他自己也知道：制导导弹的潜在用途很可能是高选择性地击落敌军轰炸机，而非“随心所欲”地杀害平民。

但在1943至1946年期间，世界已经发生了改变。美国科学家帮助美国政府掌握了迄今为止人类所发明的最具毁灭性的武器 原子弹。政府在没有与其发明者更不用说与公众讨论或商议的情况下，决定使用它。当保罗·蒂贝茨（Paul Tibbets）上校按下他B-29超级堡垒轰炸机上的按钮，在长岛上空投下原子弹时，政府确实“随心所欲地”杀死了成千上万的无辜平民。

对于许多科学家而言，这一历史性的骇人事件意味着，关于原子弹使用后果之令人不安的问题再也不能被忽视了。在广岛受袭的这一天，维纳反复思考了核武器带来的重大影响。“我未曾参与原子弹本身的研制工作，”他后来回忆道，“但这仍然使我陷入了对灵魂深处的探索。”^[4]他不知道该做点什么。

直到1945年8月，维纳都坚信，他对机器的新想法是极其危险的。他还未给那些想法找到一个合适的名字。仅仅在1年之后，1946年的夏天，在墨西哥的国家心脏病研究所（The Instituto Nacional de Cardiología），他想到了著作的书名 《控制论》。维纳与他的朋友阿图罗·罗森布鲁斯（Arturo Rosenblueth）曾在墨西哥国家心脏病研究所共事。当战争在那个8月戛然而止时，维纳关于控制与通信的想法已然成形。“控制论，”维纳在回忆录中写道，“虽不具有原子弹那样的革命性，”尽管如此，他认为他给世界带来了一个可能会遭到误用的科学概念。“但它被善用或恶用的可能性都是极大的。”他写道^[5]。

更糟糕的是，维纳有一种奇怪的被背叛感，虽然他无法详细地描述这种感觉。这并不是因为他给军队打磨了一件锋利的工具。毕竟，他的防空研究工作失败了。美国的军事并没有因为维纳的科研工作而发生任何改变。国防相关机构甚至拒绝了他。令这位探索灵魂的科学家感到不安的是，事实恰好相反：在某种程度上，军队已经帮他打磨了一件利器 控制论。他自己在其控制论思想（及以后的著作）中都采纳了诸多军事案例。维纳没有改变军队所做的事情，但军队却改变了维纳的作为。

这位新兴学科之父怀疑自己是否应该审视自己 对自己的控制论见解保密 如此一来，这种危险的思想将不会造成伤害。但他同样明白，这一理论已经存在于世了。控制论无法被撤销，他甚至无法阻止这一进程的发展。精灵已从瓶子中被放出了。这只能意味着一件事情：有人需要提醒人类即将到来的机器崛起所带来的危险。

“因此，我决定，我将必须脱离最大的守密者的位置，成为秘密的最大宣传者。”维纳后来写道^[6]。1946年年底，当来自波音公司的信件落在他的桌上时，他知道自己该做什么了。

1

1947年的冬天，维纳决定举办一场跨学科研讨会，其初衷是将通信领域的科学家和从业者联合起来。“维纳正在推出他关于控制论的愿景，控制论认为任何媒介，无论是有生命的还是人工的，其中都包含信号。”杰罗姆·威斯纳（Jerome Wiesner）回忆道。威斯纳当时是MIT电气工程系的一位教授，后来成为MIT的校长。1948年春天，维纳终于启动了后来成为了一个系列的每周一次的跨学科聚会。每个星期二晚上，哲学家、工程师、心理学家、数学家以及声学和神经生理学等领域的专家都会共进晚餐。某个人会提出一个自己正在研究的项目，并与例会成员进行互相谈论。第一次会议，威斯纳回忆道，让他联想到了“巴别塔”（The Tower of Babel）。造成这种情况的原因是，来自其他学科的科学家的语言和专业术语令人非常难以理解。这一情况在接下来的几个月发生了改变。“随着时间的推移，我们逐渐了解了彼此的专业术语，并且开始理解甚至相信维纳所说的：通信在宇宙中的普遍作用^[7]。”

对大多数参加者而言，这些晚餐是经验交流之机，新的想法和合作在这里打磨成型。有些人甚至戏称这种聚会为“维纳学派”，这有点类似将卡尔·波普尔（Karl Popper）和鲁道夫·卡尔纳普（Rudolf Carnap）等分析哲学巨匠联结起来的维也纳学派，而“维纳”（Wiener）的德文即为“维也纳的”（Viennese）。维纳学派经常讨论通信问题的固定参与者之一是J.C.R.利克莱德（J.C.R.Licklider），他后来为奠定互联网的基础工作发挥了关键作用。

有三个思想是这一新理论考虑自动化和人机交互问题的核心。控制论的第一个核心思想是控制。机器和生物/有机体的目的都是控制它们的环境 不仅要观察环境，而且要掌握它。控制是基础。熵的概念仅仅阐明了它有多基础。熵是一种对信息的无序、不确定、退化和丢失的测量方法^[8]。大自然的熵始终在增加，万物有一种逐渐退化至无序状态的倾向：冰冷的东西逐渐升温、炎热的东西逐渐降温、信息在噪音中丢失、混乱逐渐接管一切。阻止或转变这种趋于失序的倾向需要控制。控制是指系统能够与环境交互进而塑造环境的能力，至少在某种程度上是如此。环境数据通过“输入”进入系统，系统通过其“输出”影响其周围环境。对维纳来说，这就是控制论世界观的本质：

我的论点是，生命个体的物理机能和一些新式通信机器的操作，在他们通过反馈来控制熵等类似的尝试方面，恰恰是平行的^[9]。

这句引述介绍了控制论的第二个核心概念：反馈。维纳认为，“反馈”描述了任何一种机制使用传感器接收实际性能信息，而不是预期性能信息的能力。电梯就是一个例子。反馈会告诉电梯的“开门机制”：电梯是否已准确到达滑动门的后面，只有准确抵达之后才会为等候的客人打开电梯门；若不使用反馈，则会增加出错的风险，还有可能导致大意的乘客迈入空的电梯井中。

不出所料，维纳举的另外一个反馈示例，是一架火炮使用反馈来确保炮口确实是指向目标的。例如，炮塔的转动控制机制需要反馈。炮塔转动机制的实际表现性能是变化的：极度寒冷的情况下，轴承内的润滑油会变得黏稠，这增加了轴承转动的难度；而沙子和灰尘对转动的影响程度更大。因此，通过反馈验证输出是极其重要的步骤。

反馈倾向于对抗系统正在做的事情，例如，关闭一个正在转动中的炮塔的马达或者告诉温控器关掉加热。这种反馈可称之为“负反馈”，其作用往往是保持一种希望状态的稳定。反馈是指“能够使用过去的性能来调整未来行为的一种属性”，维纳写道^[10]。这种机制可能非常简单，比如转动炮塔；也可能极为复杂，就像人类体温的自我调节。在维纳看来，反馈将为机器提供一种运动感觉，类似于人类能够意识到手臂和腿的位置或运动^[11]。这种类比引导维纳获得了控制论的另一个核心思想。

控制论的第三个核心思想描述的是人与机器的紧密关系。维纳和毕格罗组成的MIT团队早在1941年就已经注意到，在防空预测器项目中，敌机飞行员与轰炸机可被视为一个有效的整体，他们的表现“像是一个伺服系统”。而且，并非仅仅是飞机和飞行员构成了这个伺服系统，甚至连高射炮也表现为一个“动态的系统”，由大量的人类操作员和复杂性机理共同组建而成，并与日益增加的熵做斗争。但也存在其他方面的人机平行。维纳倾向于将机器拟人化：开关对应神经突触，线路对应神经，网络对应神经系统^[12]，传感器对应眼睛和耳朵，执行器对应肌肉。而反过来，维纳通过机器对比来理解人体生理学，进而将人类机械化。

前两个控制论概念 控制和反馈，也许是抽象的、理论性的、难以理解的；但是第三个思想 人类与机器的融合，却激发了丰富的想象力。

在维纳最杰出的一篇短文里，他通过思考人工假肢和人类身体进行互动的方式阐述了自己的控制论观点。这位MIT教授写道，一条木质的腿，是对于一个已失去的有血有肉的肢体之机械替代。因此，装有木腿的人是“一个由机械和人体部分共同构成的系统”^[13]。假肢最原始的形态是海盗风格的木制假腿。肢体形状的木腿不会那么有趣。但在俄罗斯，维纳在访问过莫斯科后表示，人们已经在利用控制论的思想进行人造肢体的工作了。这个想法一直鼓动着他，维纳因此开始了一项迷人的思想实验。

假设一个人从手腕处失去了一只手。手掌及其皮肤、手指骨骼、肌腱和肌肉都被切除了，但是前臂的残余部分仍有原来延伸到手掌的强健肌肉，这部分肌肉仍然能够收缩，但这种收缩不会移动已失去的手掌和手指，但是肌肉神经会产生电信号，即所谓的动作电位。电极能够采集这些信号，并将其放大后传递到人工手掌的电机中。通过这种方法，被截肢者能够控制其新的电池供电式手掌的运动。

然而，这一过程并不包含闭环反馈。人工手掌能够触摸，但并不能感觉。但是，它的电信号理论上能够从机械肢体传递到被截肢者的大脑中。维纳推断，人工机械手指中的压力计能够将振动的感觉反馈给残肢皮肤。随着时间的推移，被截肢者将学会用这种代理的感觉顶替失去的自然触感。这个控制论肢体故事奠定了维纳思想实验的基础。

工程上，能运动、有感觉的假肢是有可能实现的。这项任务需要构建一种“混合自然”的系统，系统同时包含人类和机械部分。但为什么这种设计要局限于替换失去的身体部分呢？为什么不能在人体上增加全新且更多的人工肢体呢？“一种我们没有而且是从未有过的人体假肢。”维纳解释说^[14]。在他看来，这些都是不远的未来中的场景。

从某些方面来说，未来已经到来了。一艘船舶的推进器及其避障和水深探测装置延伸了船长和船员的身体。在飞机上，雷达延伸了飞行员的眼睛，飞机机翼和喷气式发动机代替了人类发达的四肢。“而连接它们的神经系统则由自动驾驶仪等导航设备来扮演。”^[15]维纳总结道。人体-机械系统与“大型实用领域”息息相关，并且会在该领域发挥重大作用。在某些情况下，这类控制论设备是必不可少的。

这位控制论的创始人将控制论的概念延展得如此宽泛，使得汽车和普通电话机成为人们生活中不可缺少的控制论设备 这无疑是20世纪50年代的美国一个巨大的实用领域，人们沉醉于这种现代交通和远程通信技术所创造的奇迹中。当然，控制论可以很容易地应用于个人和单个机器之外。集合型实体，比如公司或整个社会，形成了一种适于用控制论进行分析的系统。社会科学可用于研究控制、通信、反馈、适应性行为和组织学习，许多学者也将对此展开研究。在20世纪40年代末，维纳已经预见了控制论的潜力。“确切地说，信息的有效传送有多远，社区就能延伸到多远，”他在《控制论》中写道。这种观点提供了“一种政治思考依据”，在维纳的著作出版几个月后，他对《纽约时报》如是说^[16]。

《纽约时报》对维纳的书评论了不止一次，这家美国报业巨头对此书进行了三次头版报道。1948年圣诞节之前，《纽约时报》杂志向其读者介绍了这门新学科。《时代》杂志援引了维纳的话：“控制论将人类情景中有时被不严格地描述为思考的研究，以及工程中被称为控制和通信的研究，结合在了一个标题之下。^[17]”控制论即将发现自动机器与人类神经系统的共同特征。大脑和机器在许多方面都有重叠，《时代》杂志写道，大脑的行为与机器十分类似。构建和操作越来越复杂的机器将帮助科学家理解大脑本身是如何运作的。没有理由阻止该理论适用于所有的复杂系统。

许多来自于工程学、数学、生物学和心理学，甚至一些来自社会学、哲学、人类学以及政治学领域的领军人物，首先被自适应系统的新思想所吸引。最为著名的早期控制论专家是数学家约翰·冯·诺依曼（John von Neumann），一位通晓多国语言的计算机先驱，他在40岁出头时就是普林斯顿高等研究院的杰出教授，当时比维纳还要年轻9岁。此外，还有美国神经生理学家和神经网络的先驱沃伦·麦卡洛克（Warren McCulloch）、美籍奥地利物理学家海因茨·冯·福斯特（Heinz von Foerster），以及一位墨西哥医生阿图罗·罗森布鲁斯，维纳最为亲近的朋友和合作者之一。随后受到控制论思想的影响并为此做出巨大贡献的著名思想家还包括英国神经生理学家W.格雷·沃尔特（W.Grey Walter）和管理学理论家斯塔福德·比尔（Stafford Beer），出生于奥地利的生物学家路德维希·冯·贝塔朗菲（Ludwig von Bertalanffy），智利哲学家洪贝尔托·梅图拉纳（Humberto Maturana），说德语的政治学家卡尔·多伊奇（KarlDeutsch），以及美国社会学家塔尔科特·帕森斯（Talcott Parsons）。其中最具远见且最为关键的两名控制论专家将在不久之后出现，分别是罗斯·阿什比（Ross Ashby） 一位英语教研员和发明家，以及格雷戈里·贝特森（Gregory Bateson） 出生于英国的美国人类学家和社会评论家。

这门新兴学科本身即存在模糊的界限，其支持者由于共同的信念联合在一起，他们相信控制系统理论将在我们对人类心智和行为 “常规的和非常规的” 的认知中引发一场革命，这正是维纳所希望的。即将到来的概念性革命将与相对论或者量子力学引发的科技革命相媲美，至少这位雄心勃勃的学科创始人是这样认为的。

关于这门初露头角的新学科的新闻报道经常重复着一个误导性的故事：维纳在战争期间成功地研制出了炮火射击指挥仪。《纽约时报》杂志向读者解释道，任何一名特定的飞行员的行为都是不可预测的，但是成千上万名飞行员的躲避行为却是可分析的，进而揭露了飞行员最有可能的逃避策略。“这在战争中实际上已经实现了，最常见的躲避技巧知识已被内置于防空炮火射击指挥仪中。”这一媒体报道说^[18]。但事实并非如此，这只是维纳的理论，他从未有过“数千名飞行员”的数据。这一理论并没有运用到实际中。这种机器也从未被研制出来。

2

《纽约时报》在1949年1月23日这个寒冷的星期天刊发了对《控制论》的狂热评论，并引述了维纳对于真正的思考机器之未来的大胆预测。未来来得相当之快：当天傍晚在报亭出售的《时代》杂志便向其读者宣告，未来已经到来。实际上，当时世界上第一台“思考的机器”已研制成功^[19]。但不是在MIT或贝尔电话实验室，而是在英格兰西部格洛斯特附近的一个小村庄 巴恩伍德的一家精神病医院里。

1948年，战争的记忆对英格兰来说仍然仿如昨日。身心受创的军官和传教士都十分偏爱巴恩伍德，一家被科茨沃尔德连绵起伏的丘陵和雪白的羊群围绕的疗养院位于英国最富画意的乡村地区。45岁的罗斯·阿什比是巴恩伍德疗养院的首席研究员，曾在英国皇家陆军医疗队中担任要职^[20]。正是在这家偏远的医院里，阿什比受到他的精神病患者的启发，发明了一种古怪的机器 “同态调节器”（homeostat）。阿什比令人惊奇的小玩意儿很快便吸引了科学家们，并迅速引发了世界各地媒体的轰动。1949年1月，这位来自宁静的英国乡村的绅士自信地告诉来自纽约市的《时代》杂志，他的机器是“迄今为止人类所设计出的最接近人工大脑的事物”^[21]。

阿什比用15年的时间设计了这一大脑原型，又用两年的时间制造完成，这花费了他50英镑^[22]。这一奇妙的装置看起来像4个老式汽车的电池置于1个方形的金属基底的四角上。它非常沉重，一个人无法搬运。阿什比和他的助手丹尼斯·班尼斯特（Denis Bannister）利用磁力驱动电位器、电线、阀门、开关和小水槽制造了该机器。

机械大脑的灰质部分被涂成了黑色，它由英国皇家空军在第二次世界大战期间所使用的剩余控制设备构成。“它用4个前英国皇家空军的炸弹控制开关齿轮装置为底座，并套有4个立方铝盒。”阿什比在他的笔记本中写道。唯一可见的运动部件是4个小磁针，像指南针一样在每个铝盒顶部安装着的一个小水槽内摆动。每个铝盒用15个粗糙的开关来改变各种参数。乍看之下，各个铝盒之间并没有任何物理上的关联。但是这些装置被设计为用神秘的方式进行交互。当启动机器时，某一单元内的磁针将会受到来自其他单元的电流影响而运动。反过来，磁针的运动改变了电流，然后电流会再次改变磁针的运动，依此类推。但这一装置是动态且脆弱的，至少看起来是如此。

该机器的设计主旨为保持4个电磁元器件处于稳定状态，使得铝盒上方水槽中心位置的磁针一直保持在中间位置，这是同态调节器正常的“舒适”状态。而实验的目的是要让机器“不舒适”，同时观察它的反应。机器的发明者阿什比医生找到了许多使他的机器“不舒适”的方法：颠倒电线连接的极性、反转水槽的极性、改变机器的某些反馈、颠倒磁针、限制某个磁针向一端运动、用铁条将磁针连接在一起等。这是为了扰乱由磁针表现的机器平衡，并观察同态调节器如何反应。无论阿什比如何对待该机器，它都能很快找到一种适应新状态的方法，并重新摇摆磁针到水槽的中心位置。阿什比相信，他的小玩意在“主动地”抵御任何扰乱其平衡的尝试，进行“协同活动”以重新获得平衡^[23]。这的确是一台极富英国风格的机器。

阿什比确信这一精巧的装置真的会“思考”，毕竟它可以独立地选取恰当的方式再次变得“舒适” 使全部的4个磁针都处在中心位置。机器将从理论上可行的390625个方法中“决定”执行哪种方案才能最优地克服目前的问题，阿什比如此告诉涌向巴恩伍德的那些想报道这一神奇发明的记者。这时，阿什比展现出了他作为医生、精神病专家和军官的权威性和可信度。同态调节器，这种强健而稳定的设备，在思考时将会平缓地发出咔嗒咔嗒的声音。一位来自《每日先驱报》（the Daily Herald） 英国最大的报业集团之一 的记者十分震惊：“这些咔嗒声就是‘思想’，”他写道，“这台机器总能解决它面对的问题并调节自己回到正确的状态。”^[24]

1948年12月13日，《每日先驱报》的头版刊登了一篇题为“咔嗒作声的大脑比人类大脑更聪明”（The Clicking Brain Is Cleverer Than Man’s）的文章。文章称，机器的发明者确信，未来某天该机器将被发展成一颗“比任何人类智慧都强大”的人工大脑，并最终能处理和解决世界上棘手的政治和经济问题。

像维纳一样，阿什比受到了杀戮机器之“目标寻找”属性的启发。他也使用了战争中高射炮射击的例子。得益于革新性的反馈技术，例如雷达追踪、预测和可变时间引信等，对空防御的高度发展已经足以展示这种目标-寻找行为。一个未定义的属性，如生命或思想等，无法使机器的行为朝着预定义的目标演化，但是负反馈却可以做到。

阿什比坚信，“任何机器，不管多么了无生机，都可以用负反馈来展现其生命特征”^[25]。同态调节器很好地证明了这一观点。该装置在行为和功能上体现了在当时占主导地位的学术观点。阿什比的思考机器被誉为“划时代的”发明，并且当时英格兰、澳大利亚和美国的热门杂志都对此进行了相关报道。

但同行科学家们的态度，与其说是批判，不如说是怀疑。1952年3月20日至21日，阿什比被邀请参加周四和周五在纽约举办的梅西会议，并阐述其内稳态的想法。21名常规参与人员和11名嘉宾在中央公园以东两条街的比克曼酒店进行了会面。梅西基金会，一个成立于1930年的慈善机构，举办了一个系列的10场会议，并提供交通、餐饮和鸡尾酒等服务。许多受控制论启发的杰出科学家们均位列观众席中，其中有格雷戈里·贝特森、他当时的妻子玛格丽特·米德（Margaret Mead）、MIT电子实验室的沃伦·麦卡洛克，曾在防空预测器项目中与维纳共事的朱利安·毕格罗，以及来自墨西哥市的阿图罗·罗森布鲁斯（维纳曾将他的控制论赠给此人）。但维纳本人并未出席此次会议。

梅西会议是激动人心的，至少对学者们来说如此。米德，一位著名的人类学家，参加了第一场会议并在后来回忆会场气氛道：“第一场小型会议是如此令人振奋，直到会议结束时才发现我弄碎了自己的一颗牙齿。”^[26]

阿什比关于同态调节器的演讲被安排在关于情感的闭环反馈和关于会学习的章鱼的探讨之间。阿什比带着他的思考机器横渡大西洋而来，已准备好展示该机器令人不可思议的能力。

阿什比的目标是解释有机体如何实现自稳态，进而解释动物和植物如何保持生命的自我平衡。他将有机体看作一种应对一个充满敌意和危险的世界的“机制”。这种机制的主要工作是“维持其生命状态”^[27]。这意味着要将其体温保持在一定范围内，保持血糖水平的情况正常，保持身体组织有充足的水分，或是维持其他任何状态的平衡。简而言之，即自稳态。“如果有机体的行为不当，将会因其效率低下而受到惩罚：被杀。”阿什比如此告诉这些跨学科的科学家观众们^[28]。

阿什比以嘉宾的身份应邀出席，会议程序册上对他的描述为“英格兰，格洛斯特，巴恩伍德疗养院，研究部门”。大多数的美国与会者浑然不知这位来自英国乡村的绅士竟然在精神病院工作。现在，在他的演讲中，这位医生尤其专注于学习，专注于会学习的有机体，他不希望将自己仅局限于对机器的研究中。阿什比深深地痴迷于这样一种想法：有机体可通过“重组其神经装备”来应对周围环境的改变。但阿什比关于环境中主体的想法与大多数早期控制论专家都不同。大多数专家理所当然地认为，系统和环境之间存在本质上的区别，但阿什比不这么认为，因此他非常谨慎地采取行动。他试图描绘一个本体及其环境是如何相互联系的，例如，水是一个有机体的一部分还是环境的一部分？系统与环境的区别并没有像许多人认为的那样明显，阿什比隐晦地表示。

“我可以打断一下吗？”一位与会者问道。美国控制论专家们都对他的演讲感到十分困惑。朱利安·毕格罗希望确认自己正确地理解了这一古怪的想法。“你是在表明环境包含了所有的一切事物。”他说道^[29]。

阿什比试图继续他的演讲。他开始介绍他的同态调节器 一个他认为满足了所有有机体条件的机制：它面对一个充满敌意的世界，环境是其机制的一部分，必要时它会表现出适当的行为，而当被干扰时它学着维持在一个稳定的平衡上，以便不会被“杀掉”。面对这台由英国皇家空军的控制开关、磁铁和水槽制造而成的价值50英镑的装置，他告诉这些聚集在曼哈顿最好的一家酒店中的美国战后交叉学科的科学精英们：这台机器，具有生命特性。

一场激烈的讨论随之而来。在一个多小时的时间里，毕格罗以及其他怀疑者们一直在争辩同态调节器是否有生命，或者这台机器首先是要学习还是要适应环境。他们甚至不认同阿什比关于液体环境的想法。

观众席中的一部分科学家谨慎地站在了阿什比这边。一位来自芝加哥大学的精神科医生同行询问阿什比他的机器是否可以演化出反常行为。“换句话说，这台机器是否会有神经病症？”他问道。“目前我所提出的机制，还没有达到足够的复杂性使得系统能够发展出一种神经病症。”阿什比回答^[30]。

格雷戈里·贝特森对此也非常好奇，他向这台同态调节器的发明者询问：“如果它进化出了关于如何尝试的秘诀，它就能出现一种神经病症，是这样吗？”

“是的，它能。”阿什比说。

“你的‘大脑’是如何进行具体设定的？”杰出的电子工程师杰罗姆·威斯纳问道，他在1942年就已经加入了MIT的雷达实验室。威斯纳指的是在他面前的阿什比机器的机械大脑，而不是阿什比脑壳里的自然大脑。但是这个问题的措辞有些含糊不清，阿什比认为。“大脑 不管是自然的还是机械的 都是依靠随意填充在其内部的开关装置来进行具体设定的。”他隐晦地答道^[31]。

然后阿什比解释了他关于有机体-环境交互的想法。延时和迟滞是其中很重要的两个问题。假设一个生物在做了某件事情5分钟之后受到了奖励或者惩罚，“这种做法是不可取的，生命有机体很难适应这点。”阿什比说。“这种情况并不是我们所说的那种延时，”他补充说，“一旦收到从环境中返回的信号，有机体几乎会立即采取行动。”

毕格罗对此感到很困惑，而阿什比的话使他更加恼怒。“阿什比医生，这是一个已有的模型吗？”他不耐烦地打断阿什比的演讲。“是的，”阿什比说，“我正在描述这个同态调节器。”(www.daowen.com)

阿什比的回复让毕格罗更加困惑不已，铝盒必须只能表示有机体或是环境，而不可能同时表示两者。“好吧，到底哪个是同态调节器？”毕格罗咆哮道。

“同态调节器是有机体和环境所形成的整体。”阿什比的言论展现了一个本质的甚至是具有历史意义的洞见，但却与早期坚持有机体与环境清晰分离的控制论理论并不相符。同态调节器同时既是系统，又是环境；电磁针既是一种干扰，又是克服干扰的一个手段。

阿什比试图再次解释：

如果愿意，你可以任意安排它，让一个单元部件尝试控制其余三个单元部件，即用一个小型大脑试图控制周围的大环境；或者让三个单元部件尝试控制另外一个，即用一个大型大脑控制周围的小环境^[32]。

阿什比确信：必须给定一个真实环境，使大脑去适应。在他的机器内部，四个装置的任意一个都可看作环境，其余的装置则必须适应这个环境。他的机械大脑及大脑的环境都已经内置在了机器中，这非常像他在科茨沃尔德疗养院诊治的一些患者。

另外一件让毕格罗感到恼怒的事情是，阿什比一直如同谈论一个生物、一个学习的生命一般，在描述着他的黑色装置。“先生，”毕格罗尖锐地指出，“您认为这台机器在哪些方面对平衡状态的随机发现是可以等同于学习过程的呢？”^[33]

“我认为这并不重要，”阿什比回应道，“您的观点同我的观点一样精彩。”

毕格罗继续问：“可我问的是，如果您把一只动物放进迷宫里，它做了一些我们称之为学习的事情。现在，这台机器在哪些方面做了类似的事情呢？”

阿什比坚持认为他的机器在学习，因为它会像一只动物一样明显地改变自己的行为。“一条狗跳到了椅子上，你连续打了它3次之后它就不会再跳到椅子上了。”他回答道。

毕格罗同意这个例子。“这只狗学习了，”毕格罗承认这点，但加了一句，“但这台机器并没有。”阿什比对此不置可否，他将问题反过来并丢给了维纳的前助手：“您是否同意，一只动物在学习之后，行为会发生变化？”

“我同意。”毕格罗说。

“嗯，同态调节器的行为也变化了。”阿什比争论道，并补充说，他的机器也会对“惩罚”做出回应，就像那条狗一样。毕格罗的交叉询问持续了一段时间，但两位控制论专家间的分歧却更深了，“它可能是某个东西精致的复制品，但天知道它是什么。”这位工程师沮丧地说。^[34]

与此同时，格雷戈里·贝特森专注地听着两人的对话。他被这场关于生命、有机体及其环境的激烈讨论深深地迷住了。这位社会学家和人类学家将这些观点一个一个地汇集起来，并开始思考生态环境，一种包含类似森林、动物和部落这种“大型有机体的环境”。贝特森认为，大自然并不会把有机体和环境区别开来，尽管它学习了。

这位人类学家向同时在场的耶鲁大学的著名生态学家G·伊夫林·哈钦森（G.Evelyn Hutchinson）询问，机器是否可以与大自然本身相提并论：“阿什比的机器所表现出的学习特性与生态系统所表现的学习特性难道不是大致相同吗？”^[35]

“是，这肯定是大致相同的。”哈钦森同意道。

对贝特森而言，这种结论是显而易见的。生存不仅是有机体或一种生物机制要面对的问题，也是环境要面对的问题，尤其是“一些变化无常的环境”，他含糊地说。贝特森的思绪在驰骋。后来他才意识到，这场与阿什比的讨论将是他人生中最关键的两个时刻之一。在接下来的20年里，这位人类学家将不停地探索控制论的整体主义力量，并从精神的角度为下一代阐述控制论的思想。

这一同态调节器还有另外一个仅是人类才具有的特征：它具有目标-寻找行为，但却没有具体的目标^[36]。同态调节器的目标似乎是什么也不做，它也无法为自己指派一个目标。一位颇具影响力的机器人工程师和控制论先驱，W·格雷·沃尔特，将该同态调节器比作“火炉旁的狗”。这台机器像只狗一样，舒服地躺在火炉前的枕头上，“只有受到干扰时才会动一动，然后有条不紊地找一个舒适的位置再次陷入沉睡”^[37]。沃尔特玩笑似地称它为machina sopora，也就是“沉睡的机器”。阿什比的想法对20世纪50年代早期的大多数现代控制论专家来说都超前了很大一步。但在这个痴迷于科技进展的十年内，工程师们都专注于研究行为、目的，并解释黑箱作业。他们对这台笨重、看似无用又不起眼的来自于格洛斯特的小玩意儿并不感兴趣。

值得一提的是，诺伯特·维纳是个例外。虽然他在1952年3月的那周无法赶到纽约，但他听说了这台英国机器，以及展示之后的激烈讨论。阿什比的成名之作《大脑的设计》（Design for a Brain）在同年出版。维纳第一时间阅读了此书。这本书留给他的印象十分深刻，以致他更新并再版了他的一本畅销书《人有人的用处》（The Human Use of Human Beings），该书首次出版于1950年。他需要引用阿什比的研究工作。阿什比发明的不仅是一台试验性机器，更是一台学习机器。甚至更重要的是，阿什比在曼哈顿关于同态调节器的展示及其随后的著作中发表了一项开拓性的哲学声明。维纳认为，这“极其鼓舞人心”^[38]：

我认为，阿什比关于没有意图的随机机制通过学习过程寻找其意图的远见卓识，不仅是当今最伟大的哲学贡献之一，也会在自动化任务中引发极为有用的科技发展^[39]。

阿什比确实对控制论有其独特的看法。他并不是一位数学家，但在20世纪50年代，控制论这门新兴学科却有着需要高等数学和电气工程知识背景的声誉。现在控制论已经出现8年了，是时候为这一新鲜的方法提供一个新的介绍了。阿什比在其1956年出版的最为畅销的教材《控制论导论》（An Introduction to Cybernetics）中写道，控制论是一种“机器的理论”^[40]。这并不是一个新的概念，几个世纪以来，工程师和机械工一直在构造复杂的机器，机器和控制的相关理论化工作在此之前就已经完成了。

但控制论并不仅关乎杠杆和齿轮、旋转轴和电位器等。控制论所关心的问题不是“这个部件是什么”，而是“它在做什么”，正如阿什比所提出的。控制论无关于机械，而关于行为。这些控制论专家关于机器的看法反映了20世纪中叶的现代主义时代思潮。在建筑学中，功能主义者为了居住或者就座而设计机器，例如勒·柯布西耶（Le Corbusier）高效的现代主义混凝土建筑及其铬合金沙发床。在心理学中，行为主义者围绕思维的机制进行测量和实验：伊凡·巴甫洛夫（Ivan Pavlov）对于条件反射的开创性研究即是一个例子。阿什比提出，控制论“本质上是关于机器的功能和行为”^[41]。

阿什比认为，大众所神往的控制论想法是错误的，它不是关于思维的机械化设备。判断一台机器是否有资格成为大脑的关键指标并不是这台机器是否具备思维能力，更重要的是它是否能够做出某些行为。“大脑不是一台思考机器，而是一台执行机器。”阿什比在1948年12月写道。“它获得某些信息并据此做出相关的行为”^[42]，这是他从工程师的角度出发对大脑的看法。他认为思考机器是一台简单的输入-输出设备。

如同生物体的其他器官一样，大脑是生存的手段。如果大脑不展开行动，就无法帮助生存。这位英国科学家长期以来一直认为，大脑这一神经系统是一种物理机器，是一种“物理化学系统”^[43]。这种机器的主要功能不是孤立地置身于一个脑壳中，它持续地工作，以使有机体“与环境适应”。阿什比试图尽可能准确地定义他所说的环境。这其实很简单：环境是指影响有机体产生变化的变量，以及，反过来受到有机体行为影响的变量，两者有着错综复杂的关联。“独立生存的有机体及其环境融合在了一起，形成了一个绝对的系统。”阿什比于1952年写道，这就像他的同态调节器^[44]。

3

世界影响生存在其内部的有机体，有机体也影响它所生存的世界，这就是阿什比的看法。世界与实验室中的试验设置非常不同。科学家们故意把他们正在研究的老鼠或是学生与老鼠或学生从自然环境中获得的反馈分离开来。当我们说控制一个实验时，其实我们说的是控制实验的环境。

“有机体及其环境应该被视为一个单一的系统。”阿什比确信地说。他窥见了这一想法带来的结果：“‘有机体’和‘环境’之间的分界线变得……模糊不清了。”^[45]

阿什比明白这听起来很奇怪，甚至不合情理。一个人的躯体和一棵树之间的分界线怎么会变得模糊不清呢？当然，他补充道，人的手臂和榔头是有区别的，手也不是凿子。人是活着的，由骨骼、血液、肌肉和皮肤构成；而榔头则是由无生命的钢铁和木头打造而成。人类的工具并不是他们身体结构的一部分。但这些事实可能会引起误导，阿什比争辩道。“纯粹的结构性”特征不应掩盖其功能。从功能性的角度来看，系统中“有机体”和“环境”的划分是模糊不清的。

如果是一个安装了人工手臂的机械工试图修理一个发动机呢？是这个有机体的手臂部分负责摆弄汽车发动机，还是这个机械工正在控制他的机械化假肢部分以摆弄汽车发动机？阿什比认为，两者的答案都为“是”：“这个手臂既可被看成是正在修理发动机的有机体（机械工）的一部分，同时也是机械工正在试图控制的机器的一部分^[46]。”

类似的情况也适用于雕塑家手中的凿子。凿子既是正在雕刻木头的“生物物理机制”的一部分，也是雕刻家的神经系统在试图控制的物料的一部分。那雕刻家手臂的骨骼部分呢？它们既是有机体本身的一部分，也可以是雕刻家中枢神经系统的环境部分。

这并不仅仅是干枯的理论。最为前沿的神经学研究将阐明机器的潜力。动物的神经系统对于环境的变化有一种非凡的适应能力。但如果身体是大脑环境的一部分呢？

改造身体并随后观察大脑的反应，在神经学的研究领域中是一个经久不衰的课题。早在19世纪90年代后期，亚历山大·马里纳（Alessandro Marina）就曾做过一个著名的实验，这个实验后来影响了阿什比的工作。马里纳知道大脑可以应对某些受损的身体机能。这位来自意大利北部的神经学家希望知道大脑能够进行自我修正的程度。他想到了一个更改控制猴子眼球运动的肌肉也就是所谓的眼外肌的办法。每只眼睛有6块眼外肌。马里纳在19世纪做的实验相当残忍：这位科学家通过手术剖开了猴子的1只眼睛，切分连接眼球的眼外肌并交叉其位置以进行重新连接；而另外一只眼睛则保持完好无损。

马里纳期望猴子眼球的眼外肌功能展现某种交互作用：当猴子收缩眼部两块相似的肌肉时，将使正常的眼球向左转动，而更改过的眼球则向右转动。但伤口愈合后，马里纳惊奇地发现：猴子的眼球仍然同向转动，并保住了双眼的视力。猴子的大脑已经完全适应了手术带来的改变。40年后，控制论专家再次对这类问题产生了兴趣。

1947年年底，当维纳在波士顿启动他的非正式讨论学派时，芝加哥大学的罗杰·沃尔科特·斯佩里（Roger Wolcott Sperry）发表了一个类似实验的结果。这个实验看起来并不比马里纳的实验仁慈：首先，斯佩里使几只红蜘蛛猴被麻醉陷入沉睡，剖开他们的肘部；然后，找到猴子用于弯曲和伸展手臂的肌肉，例如当猴子要捡起食物时就会调用这种肌肉；然后，交叉连接控制这些肌肉的神经纤维^[47]。

如果其中一只猴子想弯曲手臂将一根香蕉放入口中，它的手臂将执行伸直的动作而非弯曲的动作，反之亦然。这就像使用一个上下颠倒的电脑鼠标；任何动作都是与预期相反。起初，猴子的手臂运动非常混乱和无序。但经过一番“再教育”，所有的红蜘蛛猴都在调整了他们被重连的手臂行为后，又能重新拾起食物了。斯佩里随后因其在大脑方面的研究工作而获得了诺贝尔奖。在20世纪40年代，他的实验成为控制论机理的有力证明。

但这不仅仅是关于猴子手臂的实验，阿什比在他颇具影响力的导论性教材中引用了该例子：假设红蜘蛛猴需要下压一个控制杆才能从盒子里取得食物，就像下压门把手打开门进入食品贮藏室。交叉连接猴子肘部的神经，就像使用另外一个上提而不是下压的控制杆代替了盒子里原来的控制杆。对大脑来说没有多大区别，阿什比解释。对大脑而言，颠倒木质门把手的机械结构就像是颠倒肘部或眼睛的神经连接结构一样。

这是一种对于人类和机器来说都非常具有挑战性的洞察力。某些身体外部的东西（一个控制杆），和某些作为身体一部分的东西（肘部），两者与大脑均有相似的关系。再一次，这种比较提出了一个令人担忧的问题：环境和系统本身之间的差异是什么？对于阿什比来说，答案是随意的。手臂和门把手一样，都是大脑环境的一部分。“脊髓、末梢神经、肌肉、骨骼，以及控制杆和盒子，都是大脑皮层的‘环境’。”这位来自巴恩伍德疗养院的医生解释道。像同态调节器一样，大脑简单地使用负反馈进行调节来适应当前干扰。

控制论专家们在电子工程和生命科学之间从容地来回走动，模糊了生命与非生命系统之间的界限。但阿什比却自有区分办法。这一技巧来自于工程上而非生物医学方面的研究 黑箱（The Black Box）。黑箱的发明是用来帮助工程师与机器进行交互的。当然，黑箱并不是一个真正的黑色盒子，它是一种想法，是揭示下一步线索的一个概念。

同态调节器就是一个黑箱。从表面上看，它是四个铝制的黑箱。但在20世纪40年代，“黑箱”的概念是作为一个艺术术语出现的。工程师和控制论专家们率先使用了它。将一件东西称为“黑箱”，被视为一种描述他们所无法描述的事情以及认识一台他们所无法真正认识的机器的优雅方式。这种“箱子”的内部运作发生在黑暗中，看不到且“不透明”。这是一种从输入中产生输出的机器，中间发生了什么不得而知。

炮火射击指挥仪对其操作者来说就是一个黑箱。他们不知道指挥仪内部的运行情况，但是他们知道如何利用输出值进行射击。近炸引信也是个黑箱，大多数军官不知道炮弹内的无线电机制是如何工作的，但仍使用它取得了良好的效果。办公室职员们并不知道他们崭新的IBM思考机器的工作原理，但他们却知道如何输入数据，如何读取计算机的输出并据此采取操作。

阿什比并不认为黑箱会同真正有生命的物体有一样的行为举止。他的想法更为激进，他认为所有真正有生命的物体“实际上都是黑箱”^[48]。对于那些具有控制论思维的科学家们来说，黑箱里的东西：开关、真空管和线路，或者血液和灰质层，都是无关紧要的。重要的是输入和输出。以这种观点看来，人类身体本身即为人机交互的一个原型。人体本身就是一个黑箱。

阿什比编写的教材在1956年出版。与此同时，公众对控制论的讨论越来越受到一种特殊类型的黑箱 电子计算机 的影响。这些占地面积巨大、费用昂贵，在工业上用于计算的机器 计算机，一经出现便引起了大众巨大的期望。大众媒体在提到这种新机器时，通常将其称之为“巨型大脑”。

4

1960年，美国大约有3500台电子计算机进行数据运算。根据数据处理性能的不同，租用一台计算机每月花费1600到300000美元不等，而购买一台的价格则在6万到1300万美元之间^[49]。“巨型大脑”被安置在特殊的，根据天气控制内部气温的房间里，由担当重任的技术人员精心维护，只有这些技术人员知道如何操作成卷的磁带、磁盘、磁鼓和穿孔卡片板。这种机器被用来发放薪水或计算财务报告。计算机科学开始作为一门独立的研究领域逐渐兴起。1961年，斯坦福大学在其数学系内部划分了一个计算机科学专业，仅仅4年之后，该专业就变成了一个独立的系。而理所当然地，思考机器在军事领域得到了良好的应用，它被用于计算弹道轨迹以及处理冷战初期所面临的更具挑战性的防空问题。人们迫切需要深入认识这些新型且看似神奇的机器。

与此同时，控制论的研究项目开始变得严峻起来，甚至在一定程度上对他人构成了威胁。控制论足够连贯并令人信服地成为了一个新兴的领域；但它也足够不连贯以致吸引了众多不同领域的学者^[50]。从20世纪50年代末到70年代初，数学家、物理学家、生物学家以及哲学家和社会学家们紧紧抓住控制论的愿景并发表了数以千计的学术论文。相关刊物持续涌现，国际会议不断举行，同时出现了控制论的相关学位。这个新词汇找到了自己得以进入世界语言和词典中的方式。早期的控制论工作力求阐明和实践可控系统的工作原理，后期的控制论研究则变得更加抽象：控制论专家开始探讨系统如何进行自我描述、自我调整和自我控制。

科学与神话的鸿沟是极小的，小得超出了一般人的想象。数学思维训练人的抽象能力。代数学并不会受到可用于计数或乘数的新鲜苹果的限制。理论计算处理的是抽象的实体，因而这一新兴学科的野心随之被同等地扩张了。所谓“真正有生命的机器”可以是电子的、机械的、神经系统的、社会的或者经济的。这就意味着，控制论的范畴是极其巨大的。

这一控制论的宏伟蓝图可通过一个类比来进行最佳表达：控制论之于机器就像是几何学之于空间中的物体。阿什比关于机器和数学的比较极具启发，是神来之笔。大自然提供了一系列的几何空间物体：石头、苹果、蛇、马，或者更复杂的东西，如丛林和山脉。几何学包含对这些物体的研究，并可以精确地计算出一个苹果的表面面积或者一块石头的体积。但是真实存在的物体并不是几何学的全部。几何学比这广阔得多，它是一个描述了所有可能的形式、形状和尺寸的框架。控制论之于机器也是如此。“控制论将‘所有可能的机器’的领域视为自身的研究题材。”阿什比在1956年解释道。是否有些机器“还未被人或者大自然创建”，这只是一个次要的问题。^[51]

没有数学家会因厨房柜台上放置的5个苹果而感到被约束，那为什么控制论专家要受约束于真空管？

即便是在控制论蓬勃发展的20世纪50年代，它也受到过一种普遍的批评，因为其愿景太过天马行空了，当时许多技术尚未被创建，并且短期内也不可能实现。然而，阿什比宣称，对尚不存在的机器创建其理论并不是一个错误，而是一种特征描述。物理学，是引领这种理论创建方式的一门主要学科。物理学在研究不存在的系统方面是一个非常重要且富有成效的科学学科。无质量的弹簧、无体积但有质量的粒子、理想气体，这类东西都是不存在的，然而，理解它们的纯理论形式，对于理解诸如手表这类简单的事物也是十分重要的。阿什比将这种事先抽象的方法进行了合乎逻辑的总结：控制论专家将首先从“一般理论上”对人和机器可能存在的关系进行探讨。只有这样，一个人才会双手沾满污垢地近距离观察那些在科学和工业生产设备中“接地气的机器”。

阿什比的策略非常明智：缺少依据并不是问题。这些在理论上 控制论理论上 预测的未来还未到来，但并不意味着它不会到来，就像量子理论一样，控制论将从目前尚不完善的设备中解放出来。阿什比伟大的计策将控制论的新思想向前推进了几十年，并指引控制论进入了未知的领域。早期梅西会议的一些参加者 尤其是格雷戈里·贝特森 之后将控制论提升到了一个更高的高度。

20世纪60年代初，很明显有一件非常重大且非常基本的事情正在发生：计算机变得更加强大，自动化在工厂中得到了逐步推广。同时，控制论这门新兴学科开辟了新的研究途径：系统与环境、大脑与身体、机器与工人之间的界限正在被打破。这些变化引发了一定程度的困惑和不确定性。

维纳自身被撕裂了。他的全部信仰，即机器的理论将改变一切，是不可动摇的，一如20年前他对于防空预测器的信念。人类希望他们的工具能变得更加智能，能够以更高的速度敏捷地处理越来越复杂的工作。这有极大的可能性。在维纳看来，机器毫无疑问地会优于其人类缔造者：

一台数字式计算机器一天内所完成的工作，需要一组计算机（当时的电子管计算机）全力工作一年才能完成，而且它的工作成果中仅包含最少的瑕疵和错误。^[52]

然而，随着机器智能的增加，也带来了更多的风险。1963年，维纳曾断言，未来的世界将是一场智能机器与人类大脑的极限所进行的艰难抗争。“不会出现我们舒服地躺在吊床上来等候机器人奴隶服务的这种情况。”^[53]目前为止，这位MIT的教授拥有着名副其实的明星影响力，其评论会被美国主流报纸大肆刊登。这位控制论之父并不确定机器将会成为善良的还是邪恶的力量，也不确定机器人是会服务人类还是反抗人类。他认为，任何一位有自尊的科学家都有责任仔细考虑滥用机器智能的可能性，并警告世人即将到来的危险，正如负责任的科学家本应对即将到来的原子弹发出警告。维纳最关心的场景之一，是那种有可能就何时以及如何使用武力进行自动决策的计算机模拟战争。

这并不是遥不可及的场景。美国空军已经开始在自动防空系统上投入大量的资金。将决策授权给机器会引发灾难。“没什么比设想中的第三次世界大战（World War III）更危险的了。”维纳在1961年如此告诉《芝加哥论坛报》。“值得深思的是，这种危险可能是毫无防范地使用会学习的机器所带来的。”维纳猜测，一旦机器在战争中加快了自动决策的速度，人们就会发现，更为困难的是阻止机器。“为了有效地关闭一台机器，我们必须掌握信息，以判断危险的临界点是否已经到来。”^[54]

1959年12月27日，在芝加哥莫里森酒店举行的美国科学发展协会（The American Association for the Advancement of Science）第126次会议上，这位65岁的“左倾”数学家举办了一场高规格的新闻发布会，他描绘了一幅关于人类未来的可怕景象。维纳告诉记者：“这非常有可能发生 会学习的机器将习惯于在一场新型的按钮战争中编写按下按钮的程序^[55]。”

如果一场战争游戏的胜利规则与我们对国家的实际期待不符，很有可能会学习的机器就将产生一种策略，以我们所关心的所有利益，甚至是以民族存亡为代价，在关键时刻赢得一场名义上的胜利^[56]。

这种智能提升可能会是一场意外，或者，越来越智能的机械化仆人确实可以故意反抗其人类缔造者。“我们希望奴隶变得聪明，”维纳告诉媒体，“但是，我们也希望它们服从。”这就是其中的矛盾，维纳说：“完全的服从和完全的智能是不能同时存在的^[57]。”这位控制论之父深信机器的崛起只是一个时间问题：

如果机器变得越来越有效率，并且在一个越来越高的心理层面上运作，那么，机器占据统治地位这一灾难将距离我们越来越近^[58]。