zoukankan      html  css  js  c++  java
  • 探索.NET平台中的SIMD内在函数Vector

    概述

    Vector(向量)是一种序列式容器,事实上和数组差不多,但它比数组更优越。一般来说数组不能动态拓展,因此在程序运行的时候不是浪费内存,就是造成越界。而Vector刚好弥补了这个缺陷,它的特征是相当于可分配拓展的数组(动态数组),它的随机访问快,在中间插入和删除慢,但在末端插入和删除快。

    什么是SIMD?

    SIMD是Single Instruction Multiple Data的缩写,通常中文译为单指令多数据流,通俗来讲的话是:对多个数据执行同一个CPU指令,以达到平行运算的目的.

    在GPU之前我们会通过CPU来运行该项技术来增加图片的运算速度,例如Intel的MMX、SSE、SSE2、AVX,AMD的3DNow!等等,都是来使用SIMD
    为基础的概念,在GPU技术突飞猛进的今天,CPU的SIMD技术很少用在了图片运算方面了,更多的是在资料库或者其他用途上。

    SIMD

    它适用于机器学习、加密算法、数据库、和内容处理(视频、图像、音频编码)中,是多线程不错的选择。

    为什么要使用SIMD

    SIMD可以在多条数据通道中应用相同的操作,显著的来提高CPU性能,通常,通道越多,性能越高(只要代码符合处理器的指令集)

    Vector

    Vector和Vector<T>类为我们提供了SIMD(单指令,多数据)指令集(SSE,AVX)的调用方式,可以让我们像在C/C++中一样去调用内在函数,来直接操作大多数的SIMD指令了

    Vector<T>可以为任何的数字类型(sbyte, byte, short, ushort, int, uint, long, ulong, float, double),参考MSDocs

    另外我们在System.Runtime.Intrinsics可享受与平台无关的功能,也就是我们不用花费时间在不同平台的兼容方面。

    顺便再说一下System.Runtime.Intrinsics.X86 在这个命名空间下,提供了SSE,SSE2,SSE3,SSSE3,SSE4.1,SSE4.2,AVX,AVX2,FMA,LZCNT,POPCNT,BMI1,BMI2,PCLMULQDQ和AES的不同Intel ISA的类的指令集。例如:在Avx类中提供了许多静态方法,而每个AVX方法都映射到了AVX的指令
    ,但是在这里有一点我们需要注意的是在这需要去通过IsSupported去检查硬件是否支持该功能。

    定义及初始化

    在这之前我们可以通过Vector.IsHardwareAccelerated来判断硬件是否支持SIMD。

    if (Vector.IsHardwareAccelerated == false)
    {
        //fallback to some other code;
        return;
    }
    
    //创建Vector 重复相同的值
    double[] doubArray = new double[] { 1, 2, 3, 4, 4, 3, 2, 1, -1, -2, -3, -4, -5 };
    Span<double> douSpan = new Span<double>(doubArray, 8, 4);
    Vector<double> douZero = Vector<double>.Zero;//<0, 0, 0, 0>
    Vector<float> flOne = Vector<float>.One;//<1, 1, 1, 1, 0, 0, 0, 0>
    Vector<ushort> shAny = new Vector<ushort>(20);//<20, 20, 20, 20, 20, 20, 20, 20, 0, 0, 0, 0, 0, 0, 0, 0>
    Vector<double> douV = new Vector<double>(doubArray); //Will contain <1, 2, 3, 4>
    Vector<double> spanduoV = new Vector<double>(douSpan); //Will contain <-1, -2, -3, -4>
    Vector<double> dou2V = new Vector<double>(doubArray, 5); //Will contain <3, 2, 1, -1>
    Vector<double> sumV = douV + dou2V; //Will contain <4, 4, 4, 3>
    

    在具有AVX/AVX2功能的系统中,以上指令将创建包含4个重复的double,8个重复的float和16个重复的ushort的向量。
    另外Vector可以通过数组和Span的值进行创建

    .NET中最原始的SIMD加速类型是Vector2、Vector3和Vector4类型,它们用2、3和4个单个值表示向量。下面的例子使用Vector2来添加两个向量。

    var v1 = new Vector2(0.1f, 0.2f);
    var v2 = new Vector2(1.1f, 2.2f);
    var vResult = v1 + v2;//1.2 2.4
    

    file

    数学运算

    可以使用.NET向量计算载体如其他数学性质Dot product,Transform,Clamp等等。

    var v1 = new Vector2(0.1f, 0.2f);
    var v2 = new Vector2(1.1f, 2.2f);
    var vResult1 = Vector2.Dot(v1, v2); //0.55
    var vResult2 = Vector2.Distance(v1, v2); //2.236068
    var vResult3 = Vector2.Clamp(v1, Vector2.Zero, Vector2.One);//0.1 0.2
    
    

    Vector<T>可以使用更长的向量。 Vector<T>实例的计数是固定的,但是其值Vector<T>.Count取决于运行代码的计算机的CPU。

    下面的示例演示使用Vector<T>添加长数组元素。

    double[] SimdVectorProd(double[] left, double[] right)
    {
          var offset = Vector<double>.Count;
          double[] result = new double[left.Length];
          int i = 0;
          for (i = 0; i < left.Length; i += offset)
          {
              var v1 = new Vector<double>(left, i);
              var v2 = new Vector<double>(right, i);
             (v1 * v2).CopyTo(result, i);
          }
    
           //remaining items
          for (; i < left.Length; ++i)
          {
              result[i] = left[i] * right[i];
          }
    
         return result;
    }
    
    

    https://docs.microsoft.com/zh-cn/dotnet/standard/simd

    https://github.com/CBGonzalez/SIMDIntro

  • 相关阅读:
    LOJ #6669 Nauuo and Binary Tree (交互题、树链剖分)
    BZOJ 4734 UOJ #269 [清华集训2016]如何优雅地求和 (多项式)
    UOJ #268 BZOJ 4732 [清华集训2016]数据交互 (树链剖分、线段树)
    Codeforces 1276C/1277F/1259F Beautiful Rectangle (构造)
    UOJ #164 [清华集训2015]V (线段树)
    python – time.sleep – 睡眠线程
    GIL(全局解释器锁)与互斥锁
    python theading线程开发与加锁、信号量、事件等详解
    python装饰器概念与应用
    python中for循环的底层实现机制 迭代
  • 原文地址:https://www.cnblogs.com/yyfh/p/14066863.html
Copyright © 2011-2022 走看看