1996年10月，休斯敦的康柏公司营销主管乔治·法瓦洛罗（George Favaloro）和NetCentric公司年轻的创始人肖恩·奥沙利文（Sean O'Sullivan）在商谈康柏进军服务器市场的商业计划时第一次用到了“云计算”（Cloud Computing）一词。他们对未来互联网发展情况的预测与10年后的实际情况有着惊人的吻合[¹⁰³]。不过1996年的互联网无论在技术发展还是商业模式方面都还没有为云计算的出现做好准备。为了避免引起大众的误解，康柏公司在后来的新闻发布会上将“云计算”一词改为了“互联网计算”（Internet Computing）。

康柏之后再一次提出云计算概念并将其付诸实施的是网景公司的两个创始人安德森和克拉克。1999年互联网创业的高潮时期，硅谷很多创业公司在获得创投资金后，转手就要从中拿出25%给甲骨文、升阳、EMC和思科4家公司，用来购买软件和硬件来打造以集群技术为核心的服务器农场，为公司的高速发展提供技术平台。但是很多创业公司在经过短期经营而失败后，这些计算资源迅速贬值。安德森和克拉克发现可以为这些创业公司提供一个省钱省时间的现成的服务中心解决方案，于是和其他几个人一起在硅谷成立了LoudCloud公司[83]。LoudCloud的技术模式蕴含了很多云计算思想，它提供的服务其实与6年后亚马逊贝佐斯的弹性云不谋而合，但是1999年的互联网电子商务世界显然还没有为云计算做好准备。LoudCloud因为随后而来的互联网泡沫破裂而没能继续发展壮大，后来以16亿美元现金被惠普收购，成为惠普效用计算（Utility Computing）技术的一部分。

2000年前后，效用计算概念的重现和普及对云计算后来的登场起到重要的铺垫作用。看过《比尔·盖茨自传》的人大概都记得盖茨上中学时和他的好友艾伦一起通过为计算机公司寻找程序漏洞而在晚间免费获得大型机的机时那段经历。这种销售机时的模式其实就是一种早期的效用计算，只不过是建立在分时系统的大型机基础之上的。因为购买和维护大型机非常昂贵，所以很多企业采取这种根据计算量和存储空间的使用多少来付费的方式从而可以控制成本。20世纪80年代，由于小型机和个人计算机的出现，企业开始放弃原来的租赁方式，而逐渐采用客户/服务器方式，效用计算模式逐渐被淡忘。90年代末随着虚拟机技术的出现，效用计算又被重视。很多企业被日益增长的服务器数量的维护成本搞得不堪重负，而企业对运算量的需求又与日俱增。所以除了虚拟机技术外，使用可以随时添减的第三方服务成为另外一个重要的选择^[17]。

20世纪90年代末，升阳和惠普两个公司最早将效用计算付诸实践。他们一开始都是将硬件直接运到企业，然后根据实际使用量收费。升阳公司的硬件配备了上百个微处理器，企业可以根据自己的实际需要将一定数量的处理器开启使用，具体的用量通过网络传到升阳公司作为收费标准。稍晚一些的惠普在2000年前后采取了类似的方式，并且根据实际用量收取3万～7万美元的月费。不过，这些最初的效用计算商业模型没有经得住时间的考验。升阳和惠普在2005年前后都不得不改变策略，通过进一步降低硬件成本和使用费用来吸引用户^[18]。这些公司也发现，这种将硬件运到客户那边然后作为一个模块和客户现存系统合用的混合模式并不能真正提高客户现存系统的使用效率。效用计算最有效的应用方式是要么用来直接解决一个具体的计算问题，要么客户全面采用效用计算的模式，后者其实就是云计算。(www.daowen.com)

效用计算模式的出现也引起了学术界的兴趣。2003年5月，美国自由撰稿人尼古拉斯·卡尔（Nicholas Carr）在《哈佛商业评论》上发表了一篇关于信息技术不再重要的文章，一时引起轩然大波。卡尔的主要观点是企业信息技术已经形成标准，未来的企业在信息技术方面的投入将成为标准化的成本，不再是企业比较优势的一部分。为了支持其观点，他列举了20世纪两大重要技术革命，一个是铁路，一个是电力。这两样东西都曾经为当时能够审时度势的企业带来比较优势，但后来随着标准化的普及都成为企业运作的基本构件。更有意思的是，当时的很多公司起初都是依靠自己搭建的发电装置来使用电力，后来才逐渐改为使用发电厂提供的电力。卡尔因为他的这一观点而一举成名，并在2004年将这一观点进一步详细阐述成书[¹⁰⁴]。尽管卡尔的观点在当时引起了不少争议，后来的云计算技术在企业中的推广和普及似乎正朝着卡尔所预测的方向发展，亚马逊弹性云就是一个例子。

云计算这一概念在经历了康柏、升阳以及惠普等公司的不同尝试后，最终在2006年3月通过亚马逊推出的弹性云引起了媒体的关注。2006年8月9日，谷歌总裁施密特在一个搜索引擎的产业会议上接受采访时，首次使用了云计算（Cloud Computing）一词来描述用户可以使用浏览器通过互联网获得各种服务的新电子商务模式，并以此来区别当时硅谷的很多创业公司采用的传统的客户/服务器模式。

与云计算的发展相辅相成、密切相关的另一个重要趋势是20世纪90年代就开始的大数据积累和后来为其提供支持的小象平台的开发和演变。在这一趋势中，云计算模式逐渐取代了客户/服务器模式成为起主导作用的企业计算平台，非结构化数据库则逐渐与传统的关系数据库一起成为企业的大数据存储模式。