计算机系统可以采用不同的方式进行组织，大致可按照其采用的通用处理器数量来进行分类。
1. 单处理器系统
目前绝大多数的系统都是采用单处理器系统。在单处理系统中，有一个主CPU可以执行通用指令集，包括来自用户进程的指令。
2. 多处理器系统
尽管多数的现代操作系统都是属于单处理器系统，但多处理器系统（也称为并行系统、紧耦合系统）也日益重要。这类系统的一个特点就是会共享设备等资源，例如计算机总线，有时候还会共享时钟、内存或者外设等等。多处理器系统有三个主要优点：
2.1 增加吞吐量
通过增加处理器的数量，希望在更短的时间内完成更多的事情。用N个处理器的加速比不是N，而是比N要小。
2.2规模经济
因为多处理器系统能共享外设、大容量存储和电源供给，所以比多个单处理器系统更能节约资金。
2.3增加可靠性
如果将功能分布在多个处理器上，那么单个处理器的失灵，并不会使整个系统瘫痪，只会使系统的速度变慢。这个优点是很关键的，有些系统有适度超出退化的能力，即容错，因为它们能忍受单个处理器故障并继续工作。容错需要一定的机制来对故障进行检测、诊断和纠错。
集群系统
多CPU系统的另一种类型是集群系统。与多处理器系统类似的是，集群系统同样是将多个CPU集中起来完成计算任务。不同的是，集群系统是由两个或多个独立的系统耦合起来。集群系统通常用于提供高可用性服务。这意味着，即使集群中的一个或多个系统出错，服务仍然继续。高可用性往往是通过在系统中增加一定的冗余来实现的。