把多种网络技术集成一个协调的整体，隐藏所有底层网络硬件的细节，同时提供一般的通信服务，是一个高级抽象，为所有的设计决策提供框架。
使用应用层来处理异构性，或者隐藏操作系统的细节。比如，某些电子邮件系统由邮件程序组成，这些程序都设置为向下一台计算机上的邮件程序转发一个备忘录。从源站到目的站的路径可能经过许多不同网络，但是，只要所有计算机的邮件系统能够通过转发每个邮件相互合作，一切都能顺利进行。
网络层互连提供一种机制，实时地把小型数据分组从它们的源站投递到最终目的站，中间不使用中介应用。最终目标是建立一个支持通用的通信服务的统一、协调的互连网络。在每个网络内部，计算机将使用底层技术的通信工具；新软件插入到与技术相关的通信机制与应用程序之间，隐藏了底层细节并使多个网络的集合看起来是一个大的网络。
我们需要一系列的操作，用于建立通信或传输数据，以保持与底层网络技术和目的机器的无关性。那么多个网络如何互连形成一个互联网？为了有一个可行的互联网，我们需要一个能够把分组从一个网络传递到另一个网络的计算机。就好比我有两台电脑，中间通过个路由器把他们连接起来。不过这里的路由器，不是那么简单的路由器了。实际上，TCP/IP互联网所使用的路由器通常是小型的计算机。
TCP/IP的设计目的是独立于机器所在的某个网络，提供机器之间的通用互连。从互联网的角度来看，独立于延迟和吞吐量特性、最大分组长度或地理范围，所有能够传输分组的通信系统都可视为一个单一的网络。TCP/IP互联网协议平等对待所有网络，类似以太网的局域网，用作主干网的广域网或者两台计算机之间的点到点链路，都可视为一个网络。