与CPU面向延迟的设计原则，将大量晶体管用于数据缓存和逻辑控制不同，GPU采用面向吞吐量的设计原则，将大量晶体管用于计算单元，以便能集成更多的计算核心。CPU架构与GPU架构的区别如图3-1所示。GPU有比CPU高得多的处理能力，主流GPU的单精度浮点数性能已经达到同时期主流CPU的十几倍甚至几十倍。同时，GPU芯片中集成了比CPU更多的存储器控制单元，这就使得GPU有比CPU高得多的存储带宽。主流GPU的访存带宽是同时期CPU的5倍甚至更高。

GPU可有效地控制大量线程的并行运行。与CPU线程的创建、销毁及切换需要较大的开销不同，GPU采用的是由硬件管理的轻量级线程，可以实现零开销的线程切换。这就可以用大量的线程切换来隐藏访存延迟：当一个线程因访问片外存储器而被挂起时，可及时切换到另外一个就绪线程，用计算来隐藏访存开销。这种通过大量线程的相互切换执行而隐藏访存延迟的方式，使得GPU不需要大量的数据缓存和复杂的缓存体系，从而避免了缓存一致性和复杂烦琐的缓存管理机制。

由于缓存和逻辑控制电路的减少，使得GPU只能高效地处理相互独立的大规模数据密集型计算。而面对具有复杂逻辑控制的应用程序，CPU则具有更强的处理能力。因此，在异构计算系统中，充分发挥CPU和GPU的特点：CPU负责逻辑控制，GPU负责大规模并行数据计算，以便充分利用整个计算机系统的计算资源。(www.daowen.com)

图3-1 CPU与GPU体系架构的差异