SIMD 的意思是 Single Instruction Multiple Data。顾名思义,一个指令可以处理多个数据。
.NET Framework 4.6 推出的 Nuget 程序包 System.Numerics.Vectors 里面的 Vector`1 类型是有硬件加速功能的。这个硬件加速功能就是指即时编译的时候根据硬件环境选用一些 SIMD 的指令让程序运行更快。
这个硬件加速功能的威力可以用下面的方式得到验证。
用单线程的程序重复 10000000H 个单精度浮点数的加法。加法的每一个输入都是引用类型,输出也必须获取值的引用。
VB 2017 程序:
动态获取当前硬件支持一组算多少个单精度浮点数的加法,然后分组计算。Release x64 编译,优化代码(反编译验证没有优化掉循环),取消整数溢出检查(为了跟 c# 执行时间一样)。
VB
Imports System.Numerics Module Program Sub Main() Const TotalDataSize = &H1000_0000 Dim watch As New Stopwatch Dim groupSize = Vector(Of Single).Count Dim groupCount = TotalDataSize / groupSize Console.WriteLine($"每组数据的大小:{groupSize} (1:不优化,4:SSE2 优化,8:AVX2 优化) 一共要处理 {groupCount} 次数据以完成测试。") Console.WriteLine("计时开始!") watch.Start() Dim groupA(groupSize - 1), groupB(groupSize - 1) As Single Dim vecA As New Vector(Of Single)(groupA), vecB As New Vector(Of Single)(groupB), vecResult As Vector(Of Single) For i = 1 To groupCount vecResult = vecA + vecB Next watch.Stop() Console.WriteLine($"计时结束。用时:{watch.ElapsedMilliseconds} 毫秒。") Console.ReadKey() End Sub End Module
VC++ 2017程序:
用循环 0x10000000 次的 for 循环,Release x64 编译,禁止优化(开优化不管循环多少次都是 0 毫秒,肯定是把循环优化掉了)。
C++
#include "stdafx.h" #include <iostream> #include "NotOptimizedNativeCodes.h" const int TotalDataSize = 0x10000000; #pragma unmanaged void NativeTest() { float groupA[1] = { 0 }, groupB[1] = { 0 }, *groupResult; for (size_t i = 0; i < TotalDataSize; i++) { float result = groupA[0] + groupB[0]; groupResult = &result; } } #pragma managed using namespace System; using namespace System::Diagnostics; int NotOptimizedNativeCodes::Program::main(array<System::String ^> ^args) { auto watch = gcnew Stopwatch(); std::cout << "每组数据的大小:" << 1 << "(1:不优化,4:SSE2 优化,8:AVX2 优化)" << std::endl << "一共要处理" << TotalDataSize << " 次数据以完成测试。" << std::endl; Console::WriteLine(L"计时开始!"); watch->Start(); NativeTest(); watch->Stop(); std::cout << "计时结束。用时:" << watch->ElapsedMilliseconds << " 毫秒。" << std::endl; Console::ReadKey(); return 0; } int main(array<System::String ^> ^args) { NotOptimizedNativeCodes::Program::main(args); }
执行结果(CPU 是 i5 6400,有 AVX2 指令集)
使用 i7 3632QM (没有 AVX2 但是有 SSE2)