目录
TCP/IP 协议族体系架构以及主要协议
数据链路层、网络层和传输层负责处理网络通信细节,这部分必须既稳定又高效,因此它们都在内核空间中实现。
应用层则在用户空间实现,因为它负责处理众多逻辑,比如文件传输、名称查询和网络管理等。
如果应用层也在内核中实现,则会使内核变得非常庞大。当然,也有少数服务器程序是在内核中实现的,这样代码就无须在用户空间和内核空间来回切换(主要是数据的复制),极大地提高了工作效率。不过这种代码实现起来较复杂,不够灵活,且不便于移植。
数据链路层
数据链路层实现了网卡接口的网络驱动程序,以处理数据在物理媒介(比如以太网、令牌环等)上的传输。
ARP协议(Address Resolve Protocol,地址解析协议)和RARP协议(Reverse Address Resolve Protocol,逆地址解析协议)实现了IP地址和机器物理地址(通常是MAC地址)之间的相互转换。
网络层必须先将目标机器的IP地址转化成其物理地址,才能使用数据链路层提供的服务,这就是ARP协议的用途。RARP协议仅用于网络上的某些无盘工作站。因为缺乏存储设备,无盘工作站无法记住自己的IP地址,但它们可以利用网卡上的物理地址来向网络管理者(服务器或网络管理软件)查询自身的IP地址。运行RARP服务的网络管理者通常存有该网络上所有机器的物理地址到IP地址的映射。
网络层
网络层实现数据包的选路和转发。WAN(Wide Area Network,广域网)通常使用众多分级的路由器来连接分散的主机或LAN(Local Area Network,局域网),因此,通信的两台主机一般不是直接相连的,而是通过多个中间节点(路由器)连接的。网络层的任务就是选择这些中间节点,以确定两台主机之间的通信路径。
IP协议(Internet Protocol,因特网协议)根据数据包的目的IP地址来决定如何投递它。如果数据包不能直接发送给目标主机,那么IP协议就为它寻找一个合适的下一跳(next hop)路由器,并将数据包交付给该路由器来转发。多次重复这一过程,数据包最终到达目标主机,或者由于发送失败而被丢弃。可见,IP协议使用逐跳(hop by hop)的方式确定通信路径。
ICMP协议(Internet Control Message Protocol,因特网控制报文协议)是IP协议的重要补充,主要用于检测网络连接。
传输层
传输层为两台主机上的应用程序提供端到端(end to end)的通信。与网络层使用的逐跳通信方式不同,传输层只关心通信的起始端和目的端,而不在乎数据包的中转过程。
数据链路层(驱动程序)封装了物理网络的电气细节
网络层 封装了网络连接的细节
传输层 则为应用程序封装了一条端到端的逻辑通信链路,它负责数据的收发、链路的超时重连等
TCP协议(Transmission Control Protocol,传输控制协议)为应用层提供可靠的、面向连接的和基于流(stream)的服务。
可靠:TCP协议使用超时重传、数据确认等方式来确保数据包被正确地发送至目的端。
面向连接:使用TCP协议通信的双方必须先建立TCP连接,并在内核中为该连接维持一些必要的数据结构,比如连接的状态、读写缓冲区,以及诸多定时器等。当通信结束时,双方必须关闭连接以释放这些内核数据。
基于流:基于流的数据没有边界(长度)限制,它源源不断地从通信的一端流入另一端。发送端可以逐个字节地向数据流中写入数据,接收端也可以逐个字节地将它们读出。
UDP协议(User Datagram Protocol,用户数据报协议)为应用层提供不可靠、无连接和基于数据报的服务。
不可靠:UDP协议无法保证数据从发送端正确地传送到目的端。如果数据在中途丢失,或者目的端通过数据校验发现数据错误而将其丢弃,则UDP协议只是简单地通知应用程序发送失败。因此,使用UDP协议的应用程序通常要自己处理数据确认、超时重传等逻辑。
无连接:通信双方不保持一个长久的联系,因此应用程序每次发送数据都要明确指定接收端的地址(IP地址等信息)。
基于数据报:每个UDP数据报都有一个长度,接收端必须以该长度为最小单位将其所有内容一次性读出,否则数据将被截断。
SCTP协议(Stream Control Transmission Protocol,流控制传输协议)是一种相对较新的传输层协议,它是为了在因特网上传输电话信号而设计的。
应用层
应用层负责处理应用程序的逻辑。
ping:应用程序,而不是协议,它利用 ICMP 报文检测网络连接,是调试网络环境的必备工具。
telnet:一种远程登录协议,它使我们能在本地完成远程任务。
OSPF(Open Shortest Path First,开放最短路径优先):一种动态路由更新协议,用于路由器之间的通信,以告知对方各自的路由信息。
DNS(Domain Name Service,域名服务):提供机器域名到IP地址的转换。
应用层协议(或程序)可能跳过传输层直接使用网络层提供的服务,比如ping程序和OSPF协议。
应用层协议(或程序)通常既可以使用TCP服务,又可以使用UDP服务,比如DNS协议。
我们可以通过/etc/services文件查看所有知名的应用层协议,以及它们都能使用哪些传输层服务。
封装
上层协议通过封装(encapsulation)使用下层协议提供的服务。应用程序数据在发送到物理网络上之前,将沿着协议栈从上往下依次传递。每层协议都将在上层数据的基础上加上自己的头部信息(有时还包括尾部信息),以实现该层的功能,这个过程就称为封装,如图1-4所示。
经过TCP封装后的数据称为TCP报文段(TCP message segment),或者简称TCP段。
TCP协议为通信双方维持一个连接,并且在内核中存储相关数据。这部分数据中的TCP头部信息和TCP内核缓冲区(发送缓冲区或接收缓冲区)数据一起构成了TCP报文段。当发送端应用程序使用send(或者write)函数向一个TCP连接写入数据时,内核中的TCP模块首先把这些数据复制到与该连接对应的TCP内核发送缓冲区中,然后TCP模块调用IP模块提供的服务,传递TCP报文段。
经过UDP封装后的数据称为UDP数据报(UDP datagram)。
UDP对应用程序数据的封装与TCP类似。不同的是,UDP无须为应用层数据保存副本,因为它提供的服务是不可靠的。当一个UDP数据报被成功发送之后,UDP内核缓冲区中的该数据报就被丢弃了。如果应用程序检测到该数据报未能被接收端正确接收,并打算重发这个数据报,则应用程序需要重新从用户空间将该数据报拷贝到UDP内核发送缓冲区中。
经过IP封装后的数据称为IP数据报(IP datagram)。IP数据报也包括头部信息和数据部分,其中数据部分就是一个TCP报文段、UDP数据报或者ICMP报文。
经过数据链路层封装的数据称为帧(frame)。传输媒介不同,帧的类型也不同。比如,以太网上传输的是以太网帧(ethernet frame),而令牌环网络上传输的则是令牌环帧(token ring frame)。以以太网帧为例,其封装格式如图1-6所示。
以太网帧使用6字节的目的物理地址和6字节的源物理地址来表示通信的双方。关于类型(type)字段,我们将在后面讨论。4字节CRC字段对帧的其他部分提供循环冗余校验。
帧的最大传输单元(Max Transmit Unit,MTU),即帧最多能携带多少上层协议数据(比如IP数据报),通常受到网络类型的限制。图1-6所示的以太网帧的MTU是1500字节。正因为如此,过长的IP数据报可能需要被分片(fragment)传输。
帧才是最终在物理网络上传送的字节序列。至此,封装过程完成。
分用
当帧到达目的主机时,将沿着协议栈自底向上依次传递。各层协议依次处理帧中本层负责的头部数据,以获取所需的信息,并最终将处理后的帧交给目标应用程序。这个过程称为分用(demultiplexing)。分用是依靠头部信息中的类型字段实现的。
ARP 协议工作原理
ARP 协议能实现任意网络层地址到任意物理地址的转换。
其工作原理是:主机向自己所在的网络广播一个ARP请求,该请求包含目标机器的网络地址。此网络上的其他机器都将收到这个请求,但只有被请求的目标机器会回应一个ARP应答,其中包含自己的物理地址。
以太网ARP请求/应答报文详解
以太网ARP请求/应答报文的格式如图1-9所示。
- 硬件类型字段定义物理地址的类型,它的值为1表示MAC地址
- 协议类型字段表示要映射的协议地址类型,它的值为0x800,表示IP地址
- 硬件地址长度字段,对MAC地址来说,其长度为6
- 协议地址长度字段,对IP(v4)地址来说,其长度为4
- 操作字段指出4种操作类型:ARP请求(值为1)、ARP应答(值为2)、RARP请求(值为3)和RARP应答(值为4)
最后4个字段指定通信双方的以太网地址和IP地址。
发送端填充除目的端以太网地址(物理地址、MAC地址)外的其他3个字段,以构建ARP请求并发送之。
接收端发现该请求的目的端IP地址是自己,就把自己的以太网地址填进去,然后交换两个目的端地址和两个发送端地址,以构建ARP应答并返回之(当然,如前所述,操作字段需要设置为2)。
由图1-9可知,ARP请求/应答报文的长度为28字节。如果再加上以太网帧头部和尾部的18字节(见图1-6),则一个携带ARP请求/应答报文的以太网帧长度为46字节。不过有的实现要求以太网帧数据部分长度至少为46字节(见图1-4),此时ARP请求/应答报文将增加一些填充字节,以满足这个要求。在这种情况下,一个携带ARP请求/应答报文的以太网帧长度为64(46+18)字节。
ARP 高速缓存的查看和修改
通常,ARP 维护一个高速缓存,其中包含经常访问(比如网关地址)或最近访问的机器的IP地址到物理地址的映射。这样就避免了重复的ARP请求,提高了发送数据包的速度。
Linux下可以使用arp命令来查看和修改ARP高速缓存。(使用arp-a命令):
删除 :arp -d ip地址
增加:arp -s ip地址 mac地址
DNS 工作原理
我们通常使用机器的域名来访问这台机器,而不直接使用其IP地址。那么如何将机器的域名转换成IP地址呢?这就需要使用域名查询服务。域名查询服务有很多种实现方式,比如NIS(Network Information Service,网络信息服务)、DNS和本地静态文件等。
DNS 查询和应答报文详解
DNS是一套分布式的域名服务系统。每个DNS服务器上都存放着大量的机器名和IP地址的映射,并且是动态更新的。众多网络客户端程序都使用DNS协议来向DNS服务器查询目标主机的IP地址。DNS查询和应答报文的格式如图1-11所示。
16位标识字段用于标记一对DNS查询和应答,以此区分一个DNS应答是哪个DNS查询的回应。
16位标志字段用于协商具体的通信方式和反馈通信状态。DNS报文头部的16位标志字段的细节如图1-12所示。
- QR,查询/应答标志。0表示这是一个查询报文,1表示这是一个应答报文。
- opcode,定义查询和应答的类型。0表示标准查询,1表示反向查询(由IP地址获得主机域名),2表示请求服务器状态。
- AA,授权应答标志,仅由应答报文使用。1表示域名服务器是授权服务器。
- TC,截断标志,仅当DNS报文使用UDP服务时使用。因为UDP数据报有长度限制,所以过长的DNS报文将被截断。1表示DNS报文超过512字节,并被截断。
- RD,递归查询标志。1表示执行递归查询,即如果目标DNS服务器无法解析某个主机名,则它将向其他DNS服务器继续查询,如此递归,直到获得结果并把该结果返回给客户端。0表示执行迭代查询,即如果目标DNS服务器无法解析某个主机名,则它将自己知道的其他DNS服务器的IP地址返回给客户端,以供客户端参考。
- RA,允许递归标志。仅由应答报文使用,1表示DNS服务器支持递归查询。
- zero,这3位未用,必须都设置为0。
- rcode,4位返回码,表示应答的状态。常用值有0(无错误)和3(域名不存在)。
接下来的4个字段则分别指出DNS报文的最后4个字段的资源记录数目。
对查询报文而言,它一般包含1个查询问题,而应答资源记录数、授权资源记录数和额外资源记录数则为0。
应答报文的应答资源记录数则至少为1,而授权资源记录数和额外资源记录数可为0或非0。
查询问题的格式如图1-13所示。
查询名以一定的格式封装了要查询的主机域名。
16位查询类型表示如何执行查询操作,常见的类型有如下几种:
- 类型A,值是1,表示获取目标主机的IP地址(通常)。
- 类型CNAME,值是5,表示获得目标主机的别名。
- 类型PTR,值是12,表示反向查询。
应答字段、授权字段和额外信息字段都使用资源记录(Resource Record,RR)格式。资源记录格式如图1-14所示。
32位域名是该记录中与资源对应的名字,其格式和查询问题中的查询名字段相同。16位类型和16位类字段的含义也与DNS查询问题的对应字段相同。
32位生存时间表示该查询记录结果可被本地客户端程序缓存多长时间,单位是秒。
16位资源数据长度字段和资源数据字段的内容取决于类型字段。对类型A而言,资源数据是32位的IPv4地址,而资源数据长度则为4(以字节为单位)。
Linux 下访问 DNS 服务
要访问DNS服务,就必须先知道DNS服务器的IP地址。
Linux 使用/ete/resolv.conf文件来存放DNS服务器的IP地址。
Linux下一个常用的访问DNS服务器的客户端程序是 host,比如下面的命令是向首选DNS服务器 202.106.196.115 查询机器www.baidu.com的IP地址:
host -t A www.baidu.com(如果显式没有 host 命令,需要先安装:yum install bind-utils)
host 命令的输出告诉我们,机器名 www.baidu.com 是 www.a.shifen.com. 的别名,并且该机器名对应两个IP地址。host命令使用 DNS 协议和 DNS 服务器通信,其- t 选项告诉DNS协议使用哪种查询类型。我们这里使用的是A类型,即通过机器的域名获得其IP地址(但实际上返回的资源记录中还包含机器的别名)。
使用 tcpdump 观察 DNS 通信过程
开启 2 个会话分别执行:
tcpdump -i ens33 -nt -s 500 port domain -v
host -t A www.baidu.com
执行tcpdump抓包时,我们使用“port domain”来过滤数据包,表示只抓取使用domain(域名)服务的数据包,即DNS查询和应答报文。
第一个数据包中,数值 33443 是DNS查询报文的标识值,因此该值也出现在DNS应答报文中。“+”表示启用递归查询标志。“A?”表示使用A类型的查询方式。“www.baidu.com”则是DNS查询问题中的查询名。括号中的数值 31 是DNS查询报文的长度(以字节为单位)。
第二个数据包中,“3/0/0”表示该报文中包含3个应答资源记录、0个授权资源记录和0个额外信息记录。
“CNAME www.a.shifen.com., A 61.135.169.121, A 61.135.169.125”则表示3个应答资源记录的内容。其中 CNAME 表示紧随其后的记录是机器的别名,A 表示紧随其后的记录是 IP 地址。该应答报文的长度为 90 字节。
socket 和 TCP/IP 协议族的关系
前文提到,数据链路层、网络层、传输层协议是在内核中实现的。因此操作系统需要实现一组系统调用,使得应用程序能够访问这些协议提供的服务。实现这组系统调用的API(Application Programming Interface,应用程序编程接口)主要有两套:socket和XTI。XTl现在基本不再使用。图1-1显示了socket与TCP/IP协议族的关系。
由 socket定义 的这一组API提供如下两点功能:
一是将应用程序数据从用户缓冲区中复制到 TCP/UDP 内核发送缓冲区,以交付内核来发送数据(比如图1-5所示的 send 函数),或者是从内核 TCP/UDP 接收缓冲区中复制数据到用户缓冲区,以读取数据;
二是应用程序可以通过它们来修改内核中各层协议的某些头部信息或其他数据结构,从而精细地控制底层通信的行为。比如可以通过 setsockopt 函数来设置IP数据报在网络上的存活时间。
值得一提的是,socket是一套通用网络编程接口,它不但可以访问内核中 TCPIP 协议栈,而且可以访问其他网络协议栈(比如X.25协议栈、UNIX本地域协议栈等)。
转载:https://blog.csdn.net/weixin_44367006/article/details/102482648