根据体系结构不同，服务器可以分成两大重要的类别：IA架构服务器和RISC架构服务器。
这种分类标准的主要依据是两种服务器采用的处理器体系结构不同。RISC架构服务器采用的CPU是所谓的精简指令集的处理器，精简指令集CPU的主要特点是采用定长指令，使用流水线执行指令，这样一个指令的处理可以分成几个阶段，处理器设置不同的处理单元执行指令的不同阶段，比如指令处理如果分成三个阶段，当第N条指令处在第三个处理阶段时，第N+1条指令将处在第二个处理阶段，第N+2条指令将处在个处理阶段。这种指令的流水线处理方式使得CPU有并行处理指令的能力，这使处理器能够在单位时间内处理更多的指令。IA架构的服务器采用的是CISC体系结构，即复杂指令集体系结构，这种体系结构的特点是指令较长，指令的功能较强，单个指令可执行的功能较多，这样我们可以通过增加运算单元，使一个指令所执行的功能能够同时并行执行来提高运算能力。长时间以来两种体系结构一直在相互竞争中成长，都取得了快速的发展。IA架构的服务器采用了开放体系结构，因而有了大量的硬件和软件的支持者，在近年有了长足的发展。
易管理性
在服务器的主要特性中，还有一个重要特性，那就是服务器的“易管理性”。虽然我们说服务器需要不间断地持续工作，但再好的产品都有可能出现故障，拿人们常说的一句话来说就是：不是不知道它可能坏，而是不知道它何时坏。服务器虽然在稳定性方面有足够保障，但也应有必要的避免出错的措施，以及时发现问题，而且出了故障也能及时得到维护。这不仅可减少服务器出错的机会，同时还可大大提高服务器维护的效率。其实也就是Sun提出的可服务性（Serviceability）。
服务器的易管理性还体现在服务器有没有智能管理系统，有没有自动报警功能，是不是有独立与系统的管理系统，有没有液晶监视器等方面。只有这样，管理员才能轻松管理，工作。
刀片
刀片式服务器是指在标准高度的机架式机箱内可插装多个卡式的服务器单元，实现高可用和高密度。每一块“刀片”实际上就是一块系统主板。它们可以通过“板载”硬盘启动自己的操作系统，如Windows NT/2000、Linux等，类似于一个个独立的服务器，在这种模式下，每一块母板运行自己的系统，服务于指定的不同用户群，相互之间没有关联，因此相较于机架式服务器和机柜式服务器，单片母板的性能较低。不过，管理员可以使用系统软件将这些母板集合成一个服务器集群。在集群模式下，所有的母板可以连接起来提供高速的网络环境，并同时共享资源，为相同的用户群服务。在集群中插入新的“刀片”，就可以提高整体性能。而由于每块“刀片”都是热插拔的，所以，系统可以轻松地进行替换，并且将维护时间减少到小。
机柜式
在一些企业服务器中由于内部结构复杂，内部设备较多，有的还具有许多不同的设备单元或几个服务器都放在一个机柜中，这种服务器就是机柜式服务器。机柜式通常由机架式、刀片式服务器再加上其它设备组合而成。
对于证券、银行、邮电等重要企业，则应采用具有完备的故障自修复能力的系统，关键部件应采用冗余措施，对于关键业务使用的服务器也可以采用双机热备份高可用系统或者是高性能计算机，这样的系统可用性就可以得到很好的保证。