网络协议通常分为不同层次进行开发，每一层分别负责不同的通信功能。一个类似TCPIP的协议簇是一组不同层次上的多个协议的组合。TCPIP通常被认为是一个四层协议系统，分为：应用层(telnet/FTP/emial)、运输层（UDP/TCP）、网络层（IP/ICMP/IGMP）、链路层（设备驱动程序以及接口卡）。
每一层负责不同的功能：
链路层：有时也成为数据链路层或网络接口层，通常包括操作系统中的设备驱动程序和计算机中对应的网络接口卡。他们一起处理与电缆的物理接口细节。
网络层：有时也称为互联网层，处理分组在网络中的活动，例如分组的选路。网络层协议包括IP（网络协议）、ICMP（internet互联网协议）、IGMP（internet组管理协议）。
运输层：主要为两台主机上的应用程序提供端到端的通信。分为两个互不相同的传输协议：TCP（传输控制协议）、UDP（用户数据协议）。TCP为两个主机提供高可靠性的数据通信。它所做的工作包括把应用程序交给他的数据分成合适的小块交给下面的网络，确认接收到的分组，设置发送最后确认分组的超时时钟等；由于运输层提供了高可靠性的通信，因此应用层可以忽略所有这些细节；UDP则为应用层提供了一种非常简单的服务。它只是把称作数据的分组从一台主机发送到另一台主机，并不保证该数据报能到达另一端。任何必须的可靠性必须由应用层来提供；
应用层：它负责处理特定的应用程序细节。
在两个相互连接的主机上，同一层上双方都有一个或多个协议进行通信。应用程序通常是一个进程，而下三层则一般在内核中执行。应用层关心的是应用程序的细节，而不是数据在网络中的传输活动。下三层对应用程序一无所知，但他们要处理所有的通信细节。
TCPIP协议是一组不同协议组合在一起构成的协议族。尽管通常称为TCPIP，但TCP和IP只是其中的两种协议而已。
网络接口层和应用层的目的是很显然的，前者处理有关通信媒介的细节，而后者处理某个特定的用户应用程序。
构造互联网最简单的方法是把两个或多个网络通过路由器进行连接。它是一种特殊的用于网络互联的硬件盒。路由器的好处是为不同类型的物理网络提供连接：以太网、令牌环网、点对点的链接和FDDI等；
应用层和运输层使用端到端的协议。网络层提供的却是逐跳协议，两个端系统和每个中间系统都要使用它。
在TCPIP协议族中，网络层IP提供的是一种不可靠的服务。也就是一种尽可能快的把分组从源结点送到目的结点，但是并不提供任何可靠性保证。另一方面，TCP在不可靠的IP层上提供了一种可靠的运输层。为了提供这种可靠的服务，TCP采用了超时重传、发送和接收端到端的确认分组机制。
连接网络的另一个途径是使用网桥。网桥是在链路层上对网络进行互连，而路由器