用_mm_stream_si128突破Memory-Bound瓶颈：绕过写分配优化内存带宽

做性能优化这行干久了，迟早会碰到这么一种情况：算法逻辑看着贼简单，循环里也没什么复杂运算，可程序跑起来就是慢，CPU占用率还死活上不去。这种问题十有八九是 Memory-Bound（内存受限）——算法在小尺寸数据上跑得飞快，一旦数据量超过缓存容量，性能立刻被内存带宽拖死。我最近在调一个数据处理模块时，就是靠一条SSE指令 _mm_stream_si128，在拷贝、填充这类内存受限场景里获得了明显提速。今天把思路、原理和完整实测过程整理出来，给正在折腾图像处理、大规模数组遍历、数值计算的朋友一个可以直接抄的作业。

1. Memory-Bound 算法的性能瓶颈到底在哪

1.1 什么是 Memory-Bound 算法

先把这个概念捋清楚。代码性能瓶颈按资源类型大致分三类：CPU-Bound（计算密集）、Memory-Bound（内存密集）、I/O-Bound（输入输出密集）。Memory-Bound 的意思很直白：程序把大部分时间都花在从内存读数据、往内存写数据上，而不是花在算术运算上。

怎么判断一段代码是不是 Memory-Bound？我常用的土办法是看两件事。第一，循环体里几乎没什么浮点运算或整数运算，就是“搬数据”；第二，用 perf stat -e cycles,instructions,cache-misses 跑一下，如果 IPC（每周期指令数）明显低于正常水平，同时 cache-misses 高得吓人，那基本就是内存子系统在拖后腿。举个典型例子：一个 64MB 的数组做逐元素累加，64MB 已经超过大部分 CPU 最后一级缓存（LLC）的大小，CPU 再快，也得等着内存把数据一口一口喂进来。

这类算法的共同点就是：计算量小、访存量巨大，性能天花板是内存带宽，而不是主频。所以怎么减少内存流量、怎么让内存访问更高效，就成了优化的核心方向。

1.2 一个容易忽略的隐藏开销：写分配（Write-Allocate）

很多人优化时只盯着读数据，觉得“内存慢主要是读慢”，写操作反正就是写一下，能有多大事？这里藏着一个大多数人都忽略的坑：现代 CPU 的缓存写策略，普遍是 write-allocate（写分配）。

什么意思？当一个普通 store 指令要写入的内存地址在缓存里不存在时，CPU 不是直接把数据写到内存就完事了，而是会先把包含这个地址的整个缓存行从内存读回来，放到缓存里，然后再修改这一行。这个机制叫 read-for-ownership（为所有权而读）。也就是说，原本只打算写 16 字节，实际内存控制器看到的工作量是一个缓存行的读加上一个缓存行的写。对 64 字节的缓存行来说，有效“流量”瞬间被放大。

这种开销在“写新数据”的场景里尤其冤枉。比如你往一个 64MB 的目标数组里填结果，目标数组的内容你根本不关心，但 write-allocate 策略还是会傻乎乎地把每一行先读进缓存再覆盖。等于你只想要个空房间，系统却先把旧家具搬进来、再让你把新家具堆上去。本来写 64MB 的数据，实际产生的内存流量可能接近 128MB，白花了一半带宽。

1.3 什么场景适合上 streaming store

知道了上面的原理，答案就出来了：如果能找到一种“写内存但不经过缓存”的特殊写指令，让 CPU 别去干“先读再写”的傻事，那在 Memory-Bound 场景里就能省掉大量内存流量。_mm_stream_si128 就是干这个的。

但我得先把适用条件说清楚，避免你拿去乱用反而变慢。我总结下来同时满足以下几条才值得用：

• 确实是 Memory-Bound：算法瓶颈在内存带宽，CPU 计算单元明显吃不饱。
• 数据规模要超过 LLC：如果数据量很小，全程在缓存里跑，streaming store 反而因为绕过了高速缓存而变慢。
• 写入的数据近期不会被读回来：这是 streaming store 的隐含代价——写完不留缓存，过一会儿马上读，等于又去内存拿一次，亏到姥姥家。
• 写入模式尽量连续：streaming store 依赖 CPU 的 write-combining 缓冲合并连续写，如果是每个元素随机跳到不同内存地址，效果会大打折扣。

这四个条件都满足，再看下面的原理和实操才有意义。

2. _mm_stream_si128 是干什么的

2.1 指令与 Intrinsic 接口

_mm_stream_si128 是 SSE2 指令集提供的一个存储类 intrinsics，定义在 <emmintrin.h> 头文件里。原型如下：

c复制#include <emmintrin.h>

void _mm_stream_si128(__m128i *p, __m128i a);

它对应三条汇编指令中的 movntdq（Move Non-Temporal DQword）。nt 就是 non-temporal（非临时）的意思，也就是明确告诉