当前位置：首页 > NSDI > 正文

【NSDI 2022/爱立信】数据包重新排序：高效高速数据包处理的关键

NSDI
2022-11-26
2221
更新：2023-01-04 21:44:05

> 网络流量顺序如何影响数据包处理？是否可以通过重新排序网络数据包来提高性能？爱立信和 KTH 皇家理工学院的联合研究回答了这些问题，以提高在商用硬件上运行的高速网络应用程序的性能。

由于 5G 网络开放的功能、向 5G Advanced 和后来的 6G 的演进以及数百千兆位网络设备的可用性，预计网络数据速率将大幅提高。这种向更快网络速度的转变将使实现低延迟互联网服务更具挑战性。Web 服务器、数据存储和网络功能虚拟化 (NFV) 服务器需要许多硬件和软件优化的性能才能跟上更高的请求和数据包速率。

应对这些挑战需要更多地关注商品硬件上可用的快速缓存存储器并更好地利用它们。之前的博客文章表明，执行仔细的缓存感知内存管理和全栈软件优化可以显着提高高速 NFV 服务链的性能，而高速 NFV 服务链是互联网的基本构建块之一。

在持续的联合研究中，爱立信和[KTH 皇家理工学院](https://www.kth.se/blogs/nslab/)进一步研究了网络流量顺序与高速缓存优势之间的相关性。

当需要相同类型处理的数据包（例如属于同一流的数据包）在时间和空间上彼此尽可能接近时，缓存存储器的最佳利用就会发生。这样，这些数据包在从高速缓存中被逐出之前访问同一组指令和数据。

然而，真实世界的流量通常会导致需要相同类型处理的数据包与其他数据包交织在一起。

● 例如，由于 Internet 上不同流量的多路复用，属于客户端流的数据包通常会间隔开。
 ● 此外，最近的拥塞控制机制也有利于传播每个流的数据包，以最大限度地减少网络拥塞。

因此，现实世界的流量通常缺乏首选的流量局部性，而这对于最大化缓存存储器的好处是可取的。事实上，我们对 KTH 校园跟踪的分析表明，超过 60% 的属于同一流的数据包与属于其他流的数据包交织在一起，这远非缓存优化数据包处理的理想条件。

为了克服这个问题，我们构建了一个系统，可以在短时间内对数据包进行重新排序，以增加流量局部性。更详细地说，它对每个流的数据包进行解交织，并构建属于同一流的成批数据包。我们的研究合作促成了会议出版物[Packet Order Matters！Improving Application Performance by Deliberately Delaying Packets](https://www.usenix.org/conference/nsdi22/presentation/ghasemirahni)，它在 NSDI '22 上因共享软件和可重现的结果而获得社区奖。

让我们简要总结一下这项旨在重新排序网络流量的工作。

### 数据包顺序的影响

我们研究了流量局部性对部署在 Linux 和内核旁路框架上的一组网络应用程序的影响，包括 iperf、Open vSwitch 和各种网络功能。我们的研究表明，流量局部性（或数据包排序）显着影响网络应用程序的性能。更具体地说，局部性较差的流量无法在很大程度上受益于高速缓存，这会导致性能（例如吞吐量、延迟和 CPU 利用率）不理想。图 1 显示了当流量局部性增加时两个有状态网络功能的吞吐量之间的相关性。空间局部性因子指定同一流中连续到达运行网络功能的服务器的平均数据包数。

![图 1. 增加流量局部性可提高吞吐量。](http://ngdcn.com/zb_users/upload/2022/11/ericsson_reorder/packet-reordering-fig-1-throughput-152660b1d6d6f23cd2ee74a1eb58b21df7b8f5.jpg)

图 1. 增加流量局部性可提高吞吐量。

### 通过故意延迟数据包来提高应用程序性能

我们对 KTH 校园跟踪的分析显示了在小的微秒级时间范围内对数据包进行重新排序/排序的可能性。我们探索了通过在数据包到达应用程序服务器之前故意延迟和重新排序数据包来提高性能的反直觉想法，从而重建高流量区域。为此，我们构建了一个名为 Reframer 的系统，该系统利用分类、短暂延迟和重新排序传入数据包的想法来增加流量局部性。图 2 显示了数据包重新排序的示例，由 Reframer 完成，应用于发往数据中心的流量。

![图 2. Reframer 利用分类、短暂延迟和重新排序传入数据包的想法来增加流量局部性。](http://ngdcn.com/zb_users/upload/2022/11/ericsson_reorder/packet-reordering-fig-2-reframer-152661ab2db2123716f19274aab23efa27ebc2.jpg)

图 2. Reframer 利用分类、短暂延迟和重新排序传入数据包的想法来增加流量局部性。

Reframer 执行以下主要任务：

1、 在一个小流表中对输入流量进行分类，以便跟踪每个流的流量
2、 根据预先选择的超时或突发大小，以正确的顺序刷新分类的每流数据包
3、 在传输有序流量之前执行协议优化（例如 ACK 合并）。

我们评估了 Reframer 对一组不同应用程序的有效性，例如 HTTP 服务器和网络功能。图 3 展示了一个示例结果，其中 Reframer 只需将输入流量延迟 64 微秒，即可将有状态网络功能的吞吐量提高 60%。

![图 3. Reframer 通过故意延迟数据包一小段时间以便对它们重新排序，将吞吐量提高了高达 60%。](http://ngdcn.com/zb_users/upload/2022/11/ericsson_reorder/packet-reordering-fig-3-improved-throughput-152662ec87eaa1a26cea672ccdd94a2324cf12.jpg)

图 3. Reframer 通过故意延迟数据包一小段时间以便对它们重新排序，将吞吐量提高了高达 60%。

有关更多信息，请参阅全文并查看此[视频演示](https://www.usenix.org/conference/nsdi22/presentation/ghasemirahni)。

### 结论

这篇博文详细介绍了网络流量顺序对部署在商用硬件之上的网络应用程序性能的重要性。我们展示了通过故意延迟数据包和强制执行流量顺序，将网络服务器性能提高 3 倍的可能性。我们的工作进一步强调了执行低级和基于缓存的优化的重要性。

> 作者：Amir Roozbeh/Alireza Farshin

> 声明：本文素材来源于网络，仅供学习使用，如有侵权请联系网站删除(ngdcn_admin@163.com)。

**欢迎扫码关注微信公众号“网络技术风云汇”，更快速接收更多网络技术咨询。**

NSDI